Uygulama

Parrot Libre AI IDE uygulaması için belgeler.

Not

Parrot hala geliştirmede ve son kullanıcılar için hazır değil.

Gereksinimler

Parrot’un çalışması için mevcut bir GNU/Linux sistemi gerekir, örneğin Debian Stable.

İndir

Parrot’un mevcut versiyonu buradan indirilebilir:

https://parrot.parts/parrot-releases/current/Parrot.AppImage

Alternatively, releases are also available on this server:

https://spacecruft.org/deepcrayon/parrot/releases

Çalıştır

Bu bir AppImage olduğu için çalıştırılabilir hale getirilmesi gerekiyor, sonra çalıştırın:

chmod +x Parrot.AppImage
./Parrot.AppImage

Durum

Şu anda Parrot’un tüm parçaları hazır değil.

Main components:

İDE (metin/kod düzenleyici).
IDE AI extension.
Yapay Zeka genişletme sunucusu.
Yapay Zeka çıkarım sunucusu.
AI modeli.
Search server.

What nominally works:

İDE (metin/kod düzenleyici).
IDE AI extension.
Yapay Zeka genişletme sunucusu.

Eksik olan nedir:

Yapay Zeka çıkarım sunucusu.
AI modeli.
Search server.

Yapay Zeka Sunucusu

Parrot, yerleşik Yapay Zeka çıkarım sunucusu bulunmadığı için çalışmaz. Kendi Yapay Zeka sunucunu ve modelini çalıştırarak bu sorunu çözebilirsiniz. Bun

Modeli bulun.
git clone https://github.com/ggerganov/llama.cpp
Build llama.cpp.
Çalıştır Llama.cpp sunucusu.

Sunucuyu böyle çalıştırmak, GGUF modeli ile (TheBloke’e bakın):.

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Başka bir örnek, ilk GPU’yu kullanarak:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Not

Parrot belgeleri İngilizce’de yazılmıştır ve diğer dillere yönelik çeviriler için Yapay Zeka makine çevirisi kullanır.