יישום

תיעוד ליישום מפתח קלאות אינטליגנציה חברתית Parrot Libre AI IDE.

הערה

הפארוט במצב קצת מוקדם ולא מוכן עבור משתמשים نهاיים.

דרישות

פרוט דורש מערכת לינוקס מעודכנת כאשר הוא גן אומץ כמו Debian Stable.

הורדה

The current version of Parrot can be downloaded here:

כלומר, השחרורים גם זמינים על שרת הזה:

הרצה

זהו קובץ AppImage, לכן עליך להפוך אותו לקבץ מסוגר, ואחר כך להפעיל:

chmod +x Parrot.AppImage
./Parrot.AppImage

סטאטוס

כרגע, 并非所有Parrot部分都准备好了。

רכיבים ראשיים:

  • עורך קוד טקסט/עיצובן של Parrot.

  • תוסף מכשיר לחברת התכנולוגיה (AI) עבור הIDE.

  • AI extension server.

  • שרת מנוע חישוב השכלה.

  • מודל יישומים אינטליגנציה.

  • חפש שרת.

מה שפוי

  • עורך קוד טקסט/עיצובן של Parrot.

  • תוסף מכשיר לחברת התכנולוגיה (AI) עבור הIDE.

  • AI extension server.

מה חסר:

  • שרת מנוע חישוב השכלה.

  • מודל יישומים אינטליגנציה.

  • חפש שרת.

שרת מכוניות זווית

פארוט חסר שרת לניהול מדעי מחשב מובנים. זה יכול לעבוד, על ידי ריצה של שרת AI ב

  • מצא מודל.

  • git clone https://github.com/ggerganov/llama.cpp

  • בנה את llama.cpp.

  • רון שרת llama.cpp.

פועלת השרת כך, עם מודל GGUF (ראה: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

צורך דוגמה נוספת, באמצעות הGPU הראשוני:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

הערה

התיעוד של Parrot כתוב באנגלית ומשתמש בתרגום מכוני לשפות אחרות.