Application
Documentation pour l’application Parrot Libre AI IDE.
Note
Parrot est en développement précoce et n’est pas prêt pour les utilisateurs finaux.
Exigences
Parrot nécessite un système GNU/Linux actuel, comme Debian Stable.
Télécharger
La dernière version de Parrot peut être téléchargée ici :
Parfois, les mises à jour sont également disponibles sur ce serveur :
Courir
C’est une AppImage, donc elle doit être rendue exécutable, puis exécutée :
chmod +x Parrot.AppImage
./Parrot.AppImage
Statut
À présent, toutes les parties de Parrot ne sont pas prêtes.
Composants principaux:
Éditeur de texte et de code IDE.
Extension d’IA pour l’IDE.
Serveur d’extension d’AI.
Serveur d’inférence par IA.
Modèle de l’IA.
Serveur de recherche.
Ce qui fonctionne nominalement:
Éditeur de texte et de code IDE.
Extension d’IA pour l’IDE.
Serveur d’extension d’AI.
Qu’est-ce qui manque :
Serveur d’inférence par IA.
Modèle de l’IA.
Serveur de recherche.
Serveur d’intelligence artificielle
Parrot manque le serveur d’inférence artificielle intégré. Il peut être utilisé en exécutant votre propre serveur et modèle AI. Cela nécessite, en somme :
Trouvez un modèle.
git clone https://github.com/ggerganov/llama.cpp
Construire llama.cpp.
Exécutez le serveur llama.cpp.
Exécution du serveur de cette manière, avec le modèle GGUF (voir : TheBloke).
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
Un autre exemple, en utilisant la première carte graphique :
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
Note
La documentation de Parrot est rédigée en anglais et utilise la traduction automatique par ordinateur pour les autres langues.