अплиकेशन
परोट (Parrot) लाइब्रेअरी एवं आईडी एप्लिकेशन दर्शात आहे.
Note
पार्लोट अजूनी विकास आहे, संदर्भ मध्ये वापरकर्त्यांच्या लागणार्‍या ते तयार नाही.
विन्यासे
परोट (mr) एक वर्तमान GNU/Linux सिस्टम चाया आहे, जैवेद्या करीता Debian स्टेबल.
Download
परॉट (mr) च्या वर्तमान आवृत्ती कडून डाउनलोड करू शकता आहे:
अलगावर, संस्करणे या इतर सर्वरावर उपलब्ध आहेत:
चालू करा
याँचे एक AppImage होते, त्याला परवानगी देण्याचा आवश्यक आहे, आणि चालू ठेवा:
chmod +x Parrot.AppImage
./Parrot.AppImage
स्थिती
आणखी, Parrot चे सर्व भाग तयार नको.
Main components:
इडी (कोड संपादक)।
आईडी एन्यूएम ऐक्सटेंशन.
आई विस्तार सर्वर.
चित्रानंदांचे काळजी सर्वर.
AI model.
शोधीचा सर्वर आहे.
काय निम्नलगत काम करते:
इडी (कोड संपादक)।
आईडी एन्यूएम ऐक्सटेंशन.
आई विस्तार सर्वर.
What is missing:
चित्रानंदांचे काळजी सर्वर.
AI model.
शोधीचा सर्वर आहे.
संगीत सर्व्हर
पर्रोट (mr) मध्ये सामग्री अनुकरण आइसर्वर असते. तो काम करू शकतो, तपासल्याचं
पाहण्याची मॉडल.
git clone https://github.com/ggerganov/llama.cppबनवाऊं ल्लमा.cpp.
चालू करा "llama.cpp" सर्वर.
सर्वरची प्रक्रिया तयार करण्यात हे गगुफ मॉडल (द्या: थीब्लॉक) आधारित.
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
एक पहिले गजानन मंडळी (GPU) वापरून उदाहरण:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
Note
चित्रांकन असलेली Parrot दोकुमेंटेशन अंग्रेजीमध्ये आहे आणि इतर भाषांमध्ये वास्तराजपानेसाठी AI मशीन