Aplikasion

Tsi' nupel k'aj rikchapel ixsis ku kuxtaltew tz'ijob'al ixsis i ku kuxtaltew.

Note

Achaj k'awej ch'ab'ej awil b'ez, u le tzij le usuarios finaw.

K'iche':kinich huekin, K'iche' le nuyujchikin ku jachik.

Neq'awej ri kuxtaj GNU/Linux tz'ij, ri kuxtaj Debian Stable.

Download

The current version of Parrot can be downloaded here:

Tsamajil ajtijilob' le jachk'in chanjalachil:

Ejecutar

Ti es un AppImage, tami needs to be made executable, then run:

chmod +x Parrot.AppImage
./Parrot.AppImage

Estado

Ċu ch'ulajil k'ayi u tz'iij ri kex ti Parrot.

Componentes principales:

  • Entuji (editor chi' bixin)

  • Extensión de IA del IDE.

  • K'iche' ajtuwinaq lej xyooj tz'ij.

  • Servidor de motor de inferencia de Inteligencia Artificial.

  • Modelo de IA.

  • Tz'ijob'il ch'ulubal.

¿Qué funciona nominalmente?:

  • Entuji (editor chi' bixin)

  • Extensión de IA del IDE.

  • K'iche' ajtuwinaq lej xyooj tz'ij.

¿tsi' ajchij?

  • Servidor de motor de inferencia de Inteligencia Artificial.

  • Modelo de IA.

  • Tz'ijob'il ch'ulubal.

Servidor de Inteligencia Artificial

Tz'iij u ts'aajil u AI kex ikamal u ts'aajil u Parrot. U ts'aajil u kub'alal tsaq nuk'umil u tz'iij kex AI u xiluj, nupakal tsaq nuk'umil u

  • Tum'a nina jachajwa'.

  • git clone https://github.com/ggerganov/llama.cpp

  • Build llama.cpp.

  • Ejecutar el servidor de archivo llama.cpp.

Nixajil nixajil yal chu'um le GGUF modelo (chiij: TheBloke).

cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf

Otra aksawal, uchicabal ri k'ex ajawilob'

export CUDA_VISIBLE_DEVICES=0

cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
    --n-gpu-layers 1024 \
    -c 8192 \
    --host 0.0.0.0 \
    --port 8080 \
    -t 16 \
    -m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf

Note

La documentación de Parrot está escrita en inglés y utiliza la traducción automática del maquinario para otros idiomas.