Aplikasi

Dokumentasi untuk aplikasi Parrot Libre AI IDE.

Note

Parrot dalam perkembangan awal yang belum berkemampuan untuk digunakan oleh pengguna akhir.

Keperluan

Parrot memerlukan sistem GNU/Linux terkini, seperti Debian Stable.

Muat Turun

The current version of Parrot can be downloaded here:

https://parrot.parts/parrot-releases/semasa/Parrot.AppImage

Sebagai pilihan juga, rilis tersedia di pelayan ini:

https://spacecruft.org/deepcrayon/parrot/releases

Jalankan

iaitu AppImage, jadi perlu dibuat boleh dieksekutusi, kemudian berjalan:

chmod +x Parrot.AppImage
./Parrot.AppImage

Keadaan

Sekarang, tiada semua bahagian dari Parrot sudah bersedia."

Komponen utama:

Penyunting Idea (tulisbuku/penyunting kod).
Ekstensi Inteligent Pembantu IDE.
Pelayan pertambahan kecerdasan buatan.
Pelayan server pemahatan inference AI.
Model Kecerdasan Buatan.
Cari pusat khidmat.

Apa yang secara teori berfungsi:

Penyunting Idea (tulisbuku/penyunting kod).
Ekstensi Inteligent Pembantu IDE.
Pelayan pertambahan kecerdasan buatan.

Apa yang hilang:

Pelayan server pemahatan inference AI.
Model Kecerdasan Buatan.
Cari pusat khidmat.

Pelayan AI

Parrot hilangkan pengendali AI bawaan. Ia boleh dikerjakan untuk berfungsi dengan menjalankan pelayan AI anda sendiri dan model. Ini memerlukan, secara keseluruhan:

Find a model.
git clone https://github.com/ggerganov/llama.cpp
Bina fail llama.cpp.
Jalankan pelayan llama.cpp."

Mengoperasi pelayan seperti ini, dengan model GGUF (lihat: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Contoh lain, menggunakan GPU pertama:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Note

Dokumentasi Parrot ditulis dalam Bahasa Inggeris dan menggunakan terjemahan mesin untuk bahasa lain.