แอปพลิเคชัน

เอกสารประกอบสำหรับแอพลิเคชัน Parrot Libre AI IDE

Note

พารอตยังอยู่ในช่วงการพัฒนาต้นฉบับ ยังไม่เข้าที่ผู้ใช้สุดท้าย

ความต้องการ

พาร์โรต (Parrot) ต้องการระบบปฏิบัติการ GNU/Linux ปัจจุบัน เช่น Debian Stable.

ดาวน์โหลด

The current version of Parrot can be downloaded here:

https://parrot.parts/parrot-releases/current/Parrot.AppImage

มีเวอร์ชันที่เปิดเผยแล้วยังสามารถรับมือได้บนเซิร์ฟเวอร์นี้ด้วย:

https://spacecruft.org/deepcrayon/parrot/releases

Run

มันเป็น AppImage ดังนั้นจึงต้องทำให้สามารถเรียกใช้ได้ และทำให้สามารถเรียกใช้ได้:

chmod +x Parrot.AppImage
./Parrot.AppImage

สถานะ

ณ ขณะนี้ยังไม่มีส่วนหลายของ Parrot พร้อมใช้งาน

ส่วนประกอบหลัก:

ไอดี (ตัวแก้ไขข้อความโค้ด)
เครื่องมือขยายประสิทธิภาพ AI สำหรับโปรแกรมของผู้ใช้.
เซิร์ฟเวอร์ขยายพื้นที่ของ AI
เซิร์ฟเวอร์ตัวชี้แจ้งประสานการตรวจจัดการทางประมาณของระบบคำนวณ
โมเดลสาระคอมพิวเตอร์ที่ปรับใช้ประยุกต์
ค้นหาเซิร์ฟเวอร์.

สิ่งที่ปกติใช้ได้นั้น: พาร์โลット

ไอดี (ตัวแก้ไขข้อความโค้ด)
เครื่องมือขยายประสิทธิภาพ AI สำหรับโปรแกรมของผู้ใช้.
เซิร์ฟเวอร์ขยายพื้นที่ของ AI

มีอะไรตื่นเต้น

เซิร์ฟเวอร์ตัวชี้แจ้งประสานการตรวจจัดการทางประมาณของระบบคำนวณ
โมเดลสาระคอมพิวเตอร์ที่ปรับใช้ประยุกต์
ค้นหาเซิร์ฟเวอร์.

AI Server

พาร์โรต (Parrot) ขาดเซอร์เวอร์ AI ที่ใช้ประยุกต์ ในการหาศัพท์ที่เข้าใจ

ค้นหาโมเดล.
git clone https://github.com/ggerganov/llama.cpp
สร้าง llama.cpp.
เรียกใช้เซิร์ฟเวอร์ llama.cpp

กำลังทำงานเซิร์ฟเวอร์อย่างนี้ ด้วยโมเดล GGUF (ดู: TheBloke)

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

ตัวอย่างเพิ่มเติมโดยใช้ GPU แรก:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Note

เอกสารแนะนำของพัดโตรใช้ภาษาอังกฤษ และใช้ตัวแปลเทคโนโลยีศิลป์ของเครื่องมือสำหรับภาษาอื่น