అప్లికేశన్
ప్రోగ్రామ్ లైబ్రె ఐడీ అప్లికేషన్ వివరణ.
Note
ప్రారోట్ మొదటి అవస్థాయం లేదు, వాడుకర్లక�
అవసరాలు
పారోట్ నేర్చుకోవడానికి ముగింపు GNU/Linux సిస్
డౌన్లోడ్
ప్రారోట్ తపస్సు కంటే డౌన్లోడ్ చెయ్యవలసిన�
ముగింపు, ఈ సర్వర్ లోని దాన్ని మళ్ళంగా ఉంట�
పాఠ్యం
ఇదే AppImageలో ఉండాలి, తాళ్లు మధ్యస్థానం పంపడ�
chmod +x Parrot.AppImage
./Parrot.AppImage
స్టాటుస్
ప్రసిద్ధాంగా, Parrot యొక్క అన్ని భాగాలు తయారు �
మొత్తం పార్టు వస్తున్నాయి:
ఐడీ (టెక్స్ట్/కోడ్ ఎడిటర్).
ఐడీ ఆఇ ఎక్స్టెంశన్.
ఆఇ ప్రోକ్ସైజింగ్ సర్వర్.
ఆఈ నిర్ణయిక పొందిగా సర్వర్.
ఆఇ మోడుల్.
శోధిక సర్వర్."
చిన్న సమాధానం చేయబడింది:
ఐడీ (టెక్స్ట్/కోడ్ ఎడిటర్).
ఐడీ ఆఇ ఎక్స్టెంశన్.
ఆఇ ప్రోକ్ସైజింగ్ సర్వర్.
అయ్యుడు తప్పుడు:
ఆఈ నిర్ణయిక పొందిగా సర్వర్.
ఆఇ మోడుల్.
శోధిక సర్వర్."
ఆఈ సర్వర్
పార్డ్ మూస్తాయిన విజిపైన్ ఆయ్ ఇ�
ఫైండ్ ఒక మోడెల్.
git clone https://github.com/ggerganov/llama.cppబొయ్యా లమ్మ.cpp.
పేరు-పద్మించు లామా.క్ప్ సర్వర్."
వెబ్‌సైట్ ఇంకొక్కరించడానికి GGUF మోడుల్ (
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
మొదటి GPU ను ఉపయో๗ించే ఒక ఉదాహరణ:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
Note
పారట్ (te-IN) డోక్యుమెంటేషన్ ఇంగ్లీష్ లో పది�