Εφαρμογή

Τεκμηρίωση για την εφαρμογή Parrot Libre AI IDE.

Σημείωση

Ο Παρότ είναι σε πρώιμη ανάπτυξη, δεν έχει ήδη καθοριστεί για τους τελικούς χρήστες.

Αναγκές

Απαιτείται ένα τρέχον GNU/Linux σύστημα, όπως το Debian Stable για το Parrot.

Λήψη

Η τρέχουσα έκδοση του Parrot μπορεί να κατεβαθεί από εδώ:

Διαφορετικά, η έκδοση είναι επίσης διαθέσιμη σε αυτόν τον διακομιστή:

Διέρχομαι

Είναι ένα AppImage, οπότε χρειάζεται να γίνει εκτέλεσης, μετά να το εκτελέσετε:

chmod +x Parrot.AppImage
./Parrot.AppImage

Κατάσταση

Παρότι από όλους τους τμήματος της Parrot δεν είναι έτοιμοι ακόμη.»

Main components:

  • Εργαλείο IDE (επεξεργαστής κειμένου/επεξεργαστής κώδικα).

  • Επέκταση ανοιχτής γλώσσας ΤΝ.

  • Διαδρομή επέκτασης διανοητικού υπολογιστή.

  • Διαδικτυακός διακομιστής μηχανικής μάθησης.

  • Μοντέλο ΤΝ.

  • Αναζήτηση διακομιστή.

Τι ανεπτύξει σωστά:

  • Εργαλείο IDE (επεξεργαστής κειμένου/επεξεργαστής κώδικα).

  • Επέκταση ανοιχτής γλώσσας ΤΝ.

  • Διαδρομή επέκτασης διανοητικού υπολογιστή.

What is missing:

  • Διαδικτυακός διακομιστής μηχανικής μάθησης.

  • Μοντέλο ΤΝ.

  • Αναζήτηση διακομιστή.

Διακομιστής ΤΝ

Ελάμβανει το χωρίς εσωτερικό διακομιστή AI γνώμης. Μπορεί να γίνει λειτουργία

  • Εντοπίστε ένα μοντέλο.

  • git clone https://github.com/ggerganov/llama.cpp

  • Build llama.cpp.

  • Εκτελέστε διακομιστή llama.cpp.

Εκτέλεση του διακομιστή ως αυτό, με το μοντέλο GGUF (ανατρέξτε: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Another example, using the first GPU:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Σημείωση

Η τεκμηρίωση του Parrot γράφεται στην Αγγλική και χρησιμοποιεί αυτοματισμό μηχανής μετάφρασης για άλλε