Приложение

Документация для приложения Parrot Libre AI IDE.

Примечание

Паррот находится на ранней стадии разработки и еще не готов для конечных пользователей.

Требования

Парот требует текущей системы GNU/Linux, такой как Debian Stable.

Скачать

Текущая версия Парарота может быть загружена здесь:

Alternatively, releases are also available on this server:

Запустить

Это файл AppImage, поэтому его нужно сделать исполняемым, а затем запустить:

chmod +x Parrot.AppImage
./Parrot.AppImage

Статус

На данный момент не все части Parrot готовы.

Основные компоненты:

  • Редактор кода и текста IDE.

  • Расширение ИИ для интегрированной среды разработки.

  • Сервер расширений искусственного интеллекта.

  • Сервер для инженерных выводов искусственного интеллекта.

  • Модель ИИ.

  • Поиск сервера.

Что номинально работает:

  • Редактор кода и текста IDE.

  • Расширение ИИ для интегрированной среды разработки.

  • Сервер расширений искусственного интеллекта.

Что отсутствует:

  • Сервер для инженерных выводов искусственного интеллекта.

  • Модель ИИ.

  • Поиск сервера.

Сервер ИИ

Паррот отсутствует встроенный сервер искусственного интеллекта. Его можно сделать рабочим, запустив свой собственный сервер и модель ИИ. Для этого потребуется, в сумме:

  • Найти модель.

  • git clone https://github.com/ggerganov/llama.cpp

  • Build llama.cpp.

  • Запустите сервер llama.cpp.

Запуск сервера таким образом, с моделью GGUF (см.: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Другой пример, использующий первый GPU:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Примечание

Документация на парот написана на английском и использует искусственный переводчик машин для других языков.