应用程序

《Parrot Libre AI IDE应用程序的文档》。

备注

鹦鹉处于初期开发阶段,尚未为最终用户准备好。

要求

需要当前的GNU/Linux系统,如Debian稳定版。Parrot

下載

The current version of Parrot can be downloaded here:

此外,发布版本也可在此服务器上获得:

它是一个AppImage,因此需要设置为可执行文件,然后运行:

chmod +x Parrot.AppImage
./Parrot.AppImage

状态

目前,并非所有Parrot的部分都准备好了。

Main components:

  • 集成开发环境(文本/代码编辑器)。

  • 集成开发环境人工智能扩展。

  • 人工智能扩展服务器。

  • 人工智能推理引擎服务器。

  • 人工智能模型。

  • 搜索服务器。

這有效地工作:

  • 集成开发环境(文本/代码编辑器)。

  • 集成开发环境人工智能扩展。

  • 人工智能扩展服务器。

什么缺失了

  • 人工智能推理引擎服务器。

  • 人工智能模型。

  • 搜索服务器。

人工智能服务器

鹦鹉缺乏内置的人工智能推理服务器。可以通过运行自己的AI服务器和模型使其工作。这需要总共:

  • 寻找一个模型。

  • git clone https://github.com/ggerganov/llama.cpp

  • 构建llama.cpp。

  • 运行llama.cpp服务器。

使用这种方式运行服务器,GGUF模型(参见:TheBloke)。

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Another example, using the first GPU:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

备注

鹦鹉文档采用英语编写,并使用人工智能翻译技术进行其他语言的翻译。