अनुप्रयोग
दोकुमेंटेशन पर्रोत लिब्र अई आयडी एप्लिकेशन के लिए।
टिप्पणी
पर्रोट अभी विकास में है और अखिल उपयोगकर्ता들 के लिए तैयार नहीं है।
आवश्यकताएঁ
पर्रोट को एक वर्तमान GNU/Linux सिस्टम चाहिए, जैसे Debian Stable।
डाउनलोड करें
The current version of Parrot can be downloaded here:
https://parrot.parts/parrot-releases/current/परर्ट.AppImage
सर्वर पर भी अवाख़ित किए गए अनुवाद उपलब्ध हैं:
चलाएं
यह एक AppImage है, इसलिए यह 実行可能 में बदलना होगा, तब चलो:
chmod +x Parrot.AppImage
./Parrot.AppImage
स्तातस
अभी तक Parrot के सभी खंडों तैयार नहीं हैं।
Main components:
इडी (टेक्स्ट / कोड एडिटर)।
आईडी ए आई एक्सटेंशन।
सुप्ती विस्तार सर्वर।
संचार नेतृत्व प्रणाली सर्वर।
एन्सीएम मॉडल.
क्या खोजें सर्वर।
क्या करते हैं निम्न वास्तव में:
इडी (टेक्स्ट / कोड एडिटर)।
आईडी ए आई एक्सटेंशन।
सुप्ती विस्तार सर्वर।
क्या छूट है:
संचार नेतृत्व प्रणाली सर्वर।
एन्सीएम मॉडल.
क्या खोजें सर्वर।
एआई सर्वर
पर्रोट (Parrot) में अनिवेशन सर्वर है कि सामग्री नहीं है। इसे काम करने के लिए,
एक मॉडल खोजें।
git clone https://github.com/ggerganov/llama.cppबनाएँ ल्लामा.cpp।
चलाएं ल्लामा.cpp सर्वर।
सर्वर चलाने की तरह यहां, GGUF मॉडल से (देखें: TheBloke)।
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
एक उदाहरण के साथ, पहली गीआरपीयू का उपयोग करते हुए:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
टिप्पणी
पार्रॉट दस्तावेज़ अंग्रेज़ी में लिखा गया है और अन्य भाषों के लिए आई. आई. से मशीन तुलना