แอปพลิเคชัน
เอกสารประกอบสำหรับแอพลิเคชัน Parrot Libre AI IDE
Note
พารอตยังอยู่ในช่วงการพัฒนาต้นฉบับ ยังไม่เข้าที่ผู้ใช้สุดท้าย
ความต้องการ
พาร์โรต (Parrot) ต้องการระบบปฏิบัติการ GNU/Linux ปัจจุบัน เช่น Debian Stable.
ดาวน์โหลด
The current version of Parrot can be downloaded here:
มีเวอร์ชันที่เปิดเผยแล้วยังสามารถรับมือได้บนเซิร์ฟเวอร์นี้ด้วย:
Run
มันเป็น AppImage ดังนั้นจึงต้องทำให้สามารถเรียกใช้ได้ และทำให้สามารถเรียกใช้ได้:
chmod +x Parrot.AppImage
./Parrot.AppImage
สถานะ
ณ ขณะนี้ยังไม่มีส่วนหลายของ Parrot พร้อมใช้งาน
ส่วนประกอบหลัก:
ไอดี (ตัวแก้ไขข้อความโค้ด)
เครื่องมือขยายประสิทธิภาพ AI สำหรับโปรแกรมของผู้ใช้.
เซิร์ฟเวอร์ขยายพื้นที่ของ AI
เซิร์ฟเวอร์ตัวชี้แจ้งประสานการตรวจจัดการทางประมาณของระบบคำนวณ
โมเดลสาระคอมพิวเตอร์ที่ปรับใช้ประยุกต์
ค้นหาเซิร์ฟเวอร์.
สิ่งที่ปกติใช้ได้นั้น: พาร์โลット
ไอดี (ตัวแก้ไขข้อความโค้ด)
เครื่องมือขยายประสิทธิภาพ AI สำหรับโปรแกรมของผู้ใช้.
เซิร์ฟเวอร์ขยายพื้นที่ของ AI
มีอะไรตื่นเต้น
เซิร์ฟเวอร์ตัวชี้แจ้งประสานการตรวจจัดการทางประมาณของระบบคำนวณ
โมเดลสาระคอมพิวเตอร์ที่ปรับใช้ประยุกต์
ค้นหาเซิร์ฟเวอร์.
AI Server
พาร์โรต (Parrot) ขาดเซอร์เวอร์ AI ที่ใช้ประยุกต์ ในการหาศัพท์ที่เข้าใจ
ค้นหาโมเดล.
git clone https://github.com/ggerganov/llama.cpp
สร้าง llama.cpp.
เรียกใช้เซิร์ฟเวอร์ llama.cpp
กำลังทำงานเซิร์ฟเวอร์อย่างนี้ ด้วยโมเดล GGUF (ดู: TheBloke)
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
ตัวอย่างเพิ่มเติมโดยใช้ GPU แรก:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
Note
เอกสารแนะนำของพัดโตรใช้ภาษาอังกฤษ และใช้ตัวแปลเทคโนโลยีศิลป์ของเครื่องมือสำหรับภาษาอื่น