Aplikasi

Dokumensi untuk Aplikasi IDE AI Parrot Libre.

Catatan

Parot terdapat dalam tahap pengembangan awal, belum siap untuk pengguna akhir.

Persyaratan

Parrot memerlukan sistem GNU/Linux saat ini, seperti Debian Stable.

Unduh

The current version of Parrot can be downloaded here:

Secara alternatif, rilis juga tersedia pada server ini:

Jalankan

Aplikasi ini adalah AppImage, jadi perlu dibuat sebagai eksekutif terlebih dahulu, baru kemudian dijalankan:

chmod +x Parrot.AppImage
./Parrot.AppImage

Status

Sekarang, belum semua bagian dari Parrot siap.

Komponen utama:

  • IDE (editor teks/kode).

  • Ekstensi AI pada IDE.

  • Server ekstensi AI.

  • Server mesin inferensi AI.

  • AI model.

  • Cari server.

Apa yang sebenarnya berfungsi:

  • IDE (editor teks/kode).

  • Ekstensi AI pada IDE.

  • Server ekstensi AI.

Apa yang hilang:

  • Server mesin inferensi AI.

  • AI model.

  • Cari server.

Server Otomatis Pengolahan Cerdas

Parrot tidak memiliki server AI inferensi bawaan. Dapat dilakukan untuk dikerjakan dengan menjalankan server AI Anda sendiri dan model. Hal tersebut membutuhkan, dalam keseluruhan:

  • Temukan model.

  • git clone https://github.com/ggerganov/llama.cpp

  • Kompilasi file llama.cpp.

  • Jalankan server llama.cpp.

Menjalankan server ini dengan model GGUF (lihat: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Contoh lain menggunakan GPU pertama:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Catatan

Dokumentasi Parrot ditulis dalam bahasa Inggris dan menggunakan terjemahan mesin otomatis untuk bahasa lain.