Ứng dụng

Tài liệu hướng dẫn cho ứng dụng Parrot Libre AI IDE.

Ghi chú

Parrot đang ở trong giai đoạn phát triển sơ khai, chưa sẵn sàng cho người sử dụng cuối.

Yêu cầu

Bản dịch: Parrot cần hệ điều hành GNU/Linux hiện đại, như Debian Stable.

Tải xuống

The current version of Parrot can be downloaded here:

Alternatively, releases are also available on this server:

Chạy

Đây là một AppImage, vì vậy nó cần được chạy dưới dạng thực thi, sau đó chạy:

chmod +x Parrot.AppImage
./Parrot.AppImage

Tình trạng

Hiện tại, không phải tất cả các phần của Parrot đã sẵn sàng.

Thành phần chính:

  • Trình soạn thảo Mã và Đôi mục (IDE).

  • Tiện ích mở rộng AI của ứng dụng.

  • Máy chủ mở rộng định tuyến nhiệt đới.

  • Máy chủ đầu ra trí tuệ nhân tạo.

  • Mô hình AI.

  • Tìm máy chủ.

Thứ được cấp phép hoạt động thật sự:

  • Trình soạn thảo Mã và Đôi mục (IDE).

  • Tiện ích mở rộng AI của ứng dụng.

  • Máy chủ mở rộng định tuyến nhiệt đới.

Bạn đang bỏ lỡ gì:

  • Máy chủ đầu ra trí tuệ nhân tạo.

  • Mô hình AI.

  • Tìm máy chủ.

AI Server

Parrot thiếu máy chủ định tuyến AI nỗi bộ. Nó có thể hoạt động, bằng cách chạy máy chủ AI và mô hình của riêng bạn.

  • Tìm một mẫu.

  • git clone https://github.com/ggerganov/llama.cpp

  • Xây dựng tập tin llama.cpp.

  • Chạy máy chủ llama.cpp.

Chạy máy chủ như vậy, với mô hình GGUF (xem: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Một ví dụ khác, sử dụng GPU đầu tiên:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Ghi chú

Tài liệu về Parrot được viết bằng Tiếng Anh và sử dụng máy móc dịch tự động của máy tính cho các ngôn ngữ khác.