アプリケーション

パーロット・リブラAI IDEアプリケーションのドキュメントです。

注釈

パーロットはまだエンドユーザー用に準備ができていません。

要件

パーロットには、現在のGNU/Linuxシステムが必要です。例えば、Debian安定版など。

ダウンロード

The current version of Parrot can be downloaded here:

別途、リリースはこのサーバーでも入手可能です。

走る

これはAppImageであるため、実行可能にしてから実行します。

chmod +x Parrot.AppImage
./Parrot.AppImage

ステータス

現在、Parrotのすべての部分が準備できていません。

Main components:

  • 翻訳者(テキスト/コードエディター)。

  • IDEのAI拡張機能です。

  • 人工知能拡張サーバー。

  • アイ推論エンジンサーバー。

  • 人工知能モデル。

  • サーバーを検索しています。

何が正常に動作しているか:

  • 翻訳者(テキスト/コードエディター)。

  • IDEのAI拡張機能です。

  • 人工知能拡張サーバー。

What is missing:

  • アイ推論エンジンサーバー。

  • 人工知能モデル。

  • サーバーを検索しています。

サーバー翻訳AI

パーロットは組み込みAI推論サーバーがありません。自分のAIサーバーとモデルを実行することで機能させることが可能で、そのために必要なのは以下の通

  • モデルを見つける。

  • git clone https://github.com/ggerganov/llama.cpp

  • コンパイルするラマを準備します。

  • ラマを実行してサーバーを起動します。

サーバーをこのように実行すると、GGUFモデルで実行されます(参照：TheBloke)。

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

もう一つの例として、最初のGPUを使用する。

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

注釈

パーロットのドキュメントは英語で記述され、他の言語にはAIアシストによる機械翻訳が使われています。