Aplikasyon
Pandiwa para sa Parrot Libre AI IDE application.
Note
Ang Parrot ay nasa unang stage ng pag-develop, hindi pa handa para sa mga gumagamit na tagataas.
Kailangan
Ang Parrot ay kailangan ng kasalukuyang GNU/Linux system, tulad ng Debian Stable.
I-download
Ang kasalukuyang bersyon ng Parrot ay maaaring i-download dito:
Ang maraming kabayaran ay makukuha rin dito sa serbisyong ito:
Mag-uwi
Ito ay isang AppImage, kaya dapat itong i-make executable, tuluyan pa rin:
chmod +x Parrot.AppImage
./Parrot.AppImage
Katus
Kasalukuyang hindi naayos ang lahat ng mga parteng Parrot.
Pangunahing mga kaarian:
I-IDE (text/code editor) ng Tagalog.
IDE AI extension na nag-aalok sa pamamahala ng mga AI.
Server ng pagpapalaka sa AI.
Inference server ng AI.
Modelo ng AI.
Maghanap sa server.
Ano ang may kasalukuyang gumagana:
I-IDE (text/code editor) ng Tagalog.
IDE AI extension na nag-aalok sa pamamahala ng mga AI.
Server ng pagpapalaka sa AI.
Ano ang nawawala:
Inference server ng AI.
Modelo ng AI.
Maghanap sa server.
Serbidor ng AI
Ang "Parrot" ay nawawala sa kasama ang kabilang-biyaya na AI inference server. Maaaring gumana ito, sa pamamagitan ng pagpataksil ng iyong mga kahilingan at model sa iyong mga AI server. Dito't maaari
Maghanap ng modelo.
git clone https://github.com/ggerganov/llama.cppBuild llama.cpp.
I-run ang llama.cpp server.
Nagsimula ang server gaya nito, na may GGUF model (tumingin: TheBloke).
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
Isked ng ibang halimbawa, gamit ang unang GPU:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
Note
Ang dokumentasyon ng Parrot ay napilisika sa Tagalog at gamitin ang mga translasyong makina bilang paggawa ng iba't-ibang wika.