Aplicación
Documentación para la aplicación Parrot Libre AI IDE.
Nota
El Parrot está en desarrollo temprano, no está listo para usuarios finales.
Requisitos
Parrot requiere un sistema actual de GNU/Linux, como Debian Estable.
Descargar
The current version of Parrot can be downloaded here:
Alternativamente, las versiones también están disponibles en este servidor:
Run
Es una AppImage, por lo que debe hacerse ejecutable y luego ejecutar:
chmod +x Parrot.AppImage
./Parrot.AppImage
Estado
En la actualidad, no todos los elementos de Parrot están listos.
Componentes principales:
Entorno de desarrollo integ. (editor de texto y código).
Extensión de Inteligencia Artificial para IDE.
Servidor de extensión de inteligencia artificial.
Servidor del motor de inferencia de Inteligencia Artificial.
Modelo de IA.
Buscar servidor.
What nominally works:
Entorno de desarrollo integ. (editor de texto y código).
Extensión de Inteligencia Artificial para IDE.
Servidor de extensión de inteligencia artificial.
¿Qué falta:
Servidor del motor de inferencia de Inteligencia Artificial.
Modelo de IA.
Buscar servidor.
Servidor de Inteligencia Artificial
El Parrot no cuenta con el servidor de inteligencia artificial incorporado. Puede funcionar al ejecutar su propio servidor de inteligencia artificial y modelo. Esto requiere en total:
Encuentra un modelo.
git clone https://github.com/ggerganov/llama.cppBuild llama.cpp.
Ejecutar el servidor llama.cpp.
Ejecutar el servidor de esta manera, con el modelo GGUF (ver: TheBloke).
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
Otro ejemplo utilizando la primera GPU:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
Nota
La documentación de Parrot está escrita en inglés y utiliza la traducción automática de máquina para otros idiomas.