Aplikaĵo

Dokumentaro por Parrot Libre AI IDE aplikaĵo.

Note

Parroto estas en prekurso de komenco, ne preparita por finaj uzantoj.

Kravoj

Parroto postulas aktualan GNU/Linux-sistemon, kiel Debian Stabile.

Elŝutu

The current version of Parrot can be downloaded here:

Ankaŭ, eldonoj ankaŭ haveblas en ĉi tiu servilo:

Ruli

Ĝi estas AppImage, do ĝin nepre far ekzekible kaj post tio ruĝi:

chmod +x Parrot.AppImage
./Parrot.AppImage

Statuto

Nuntempe, ne ĉiuj partoj de Parrot estas preparitaj.

Ĉefa komponencoj:

  • IDE (tekst/kodo redaktilo).

  • Kodo de la ideala inteliga sxargado.

  • AI-aŭfina servilo.

  • AI-a inferenca servilo.

  • KI-modelo.

  • Serĉu servilon.

What nominally works:

  • IDE (tekst/kodo redaktilo).

  • Kodo de la ideala inteliga sxargado.

  • AI-aŭfina servilo.

What is missing:

  • AI-a inferenca servilo.

  • KI-modelo.

  • Serĉu servilon.

Servo de AI

Parrot mankas la interna AI inferenca servo. Ĝi povas funkcii per viro de via propra AI servo kaj modelo. Tio bezonas, en sumo:`

  • Trovu modeton.

  • git clone https://github.com/ggerganov/llama.cpp

  • msgstr:”Konstrui llama.cpp.”

  • Laski la kapo de nia kodo en Esperanto.

Rulante la servon tiel, kun GGUF-modelo (vidu: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Aldona ekzemplo, uzante la unuan GPU:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Note

La dokumentado de Parrot estas skribita en la angla, kaj uzas tradukadon de mesina inteligente por aliaj lingvoj.