Anwendung

Dokumentation für die Parrot-Libre-AI-IDE-Anwendung.

Bemerkung

Parrot befindet sich noch in der frühen Entwicklung und ist nicht für Endbenutzer bereit.

Anforderungen

Der Parrot erfordert ein aktuelles GNU/Linux-System, wie z. B. Debian Stable.

Herunterladen

The current version of Parrot can be downloaded here:

Alternativ sind Veröffentlichungen auch auf diesem Server verfügbar:

Laufen

Es ist eine AppImage, daher muss es ausführbar gemacht und dann ausgeführt werden:

chmod +x Parrot.AppImage
./Parrot.AppImage

Status

Zurzeit sind nicht alle Teile von Parrot bereit.

Hauptkomponenten:

  • IDE (Text- / Code-Editor).

  • IDE-KI-Erweiterung.

  • KI-Erweiterungsserver.

  • KI-Schlussfolgerungsserver.

  • KI-Modell.

  • Suchserver durchsuchen.

Was im Prinzip funktioniert:

  • IDE (Text- / Code-Editor).

  • IDE-KI-Erweiterung.

  • KI-Erweiterungsserver.

Was fehlt:

  • KI-Schlussfolgerungsserver.

  • KI-Modell.

  • Suchserver durchsuchen.

KI-Server

Parrot is missing the built-in AI inference server. It can be made to work, by running your own AI server and model. That would require, in sum:

  • Finde ein Modell.

  • git clone https://github.com/ggerganov/llama.cpp

  • Erstellen Sie llama.cpp.

  • Führe den llama.cpp Server aus.

Das Server so laufen lassen, mit dem GGUF-Modell (siehe: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Ein weiteres Beispiel, das die erste GPU verwendet:

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Bemerkung

Die Parrot-Dokumentation ist auf Englisch verfasst und verwendet künstliche Intelligenz für maschinelle Übersetzungen in anderen Sprachen.