应用程序
《Parrot Libre AI IDE应用程序的文档》。
备注
鹦鹉处于初期开发阶段,尚未为最终用户准备好。
要求
需要当前的GNU/Linux系统,如Debian稳定版。Parrot
下載
The current version of Parrot can be downloaded here:
此外,发布版本也可在此服务器上获得:
跑
它是一个AppImage,因此需要设置为可执行文件,然后运行:
chmod +x Parrot.AppImage
./Parrot.AppImage
状态
目前,并非所有Parrot的部分都准备好了。
Main components:
集成开发环境(文本/代码编辑器)。
集成开发环境人工智能扩展。
人工智能扩展服务器。
人工智能推理引擎服务器。
人工智能模型。
搜索服务器。
這有效地工作:
集成开发环境(文本/代码编辑器)。
集成开发环境人工智能扩展。
人工智能扩展服务器。
什么缺失了
人工智能推理引擎服务器。
人工智能模型。
搜索服务器。
人工智能服务器
鹦鹉缺乏内置的人工智能推理服务器。可以通过运行自己的AI服务器和模型使其工作。这需要总共:
寻找一个模型。
git clone https://github.com/ggerganov/llama.cpp
构建llama.cpp。
运行llama.cpp服务器。
使用这种方式运行服务器,GGUF模型(参见:TheBloke)。
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
Another example, using the first GPU:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
备注
鹦鹉文档采用英语编写,并使用人工智能翻译技术进行其他语言的翻译。