어플리케이션
파랑이 자유로운 AI IDE 어플리케이션에 대한 문서입니다.
참고
파랑아가 초기 개발 단계에 있어서, 최종 사용자에게는 준비되지 않았습니다.
요구사항
파랑식물은 최신의 GNU / Linux 시스템이 필요합니다., 예를 들어 Debian Stable.
다운로드
파랑깃털이 다운로드 가능한 현재 버전은 여기를 참조하세요: <Parrot>
대체로, 릴리스는 이 서버에서도 사용할 수 있습니다:
달리다
이것은 AppImage이므로 실행 가능한 상태로 만들고 실행하세요.
chmod +x Parrot.AppImage
./Parrot.AppImage
상태
현재, Parrot의 일부분이 준비되지 않았어요.
기본 구성 요소:
아이디어 개발도구(텍스트/코드 에디터)입니다.
IDE 인공지능 확장입니다.
인공지능 확장 서버입니다.
인공지능 추론 엔진 서버입니다.
인공지능 모델.
검색 서버를 찾습니다.
무슨 이름을 가지고 기능하는가:
아이디어 개발도구(텍스트/코드 에디터)입니다.
IDE 인공지능 확장입니다.
인공지능 확장 서버입니다.
무엇이 누락되었습니까:
인공지능 추론 엔진 서버입니다.
인공지능 모델.
검색 서버를 찾습니다.
인공지능 서버
파랑소리가 내장 AI 추론 서버를 사용하지 않습니다. 자체 AI 서버 및 모델을 실행하여 �
찾아가는 모델.
git clone https://github.com/ggerganov/llama.cpp
림마 llama.cpp을(를) 작성합니다.
달라발 서버를 실행하십시오.
서버를 이렇게 실행하면, GGUF 모델과 함께 (TheBloke을 참조).
cd llama.cpp/build
./bin/server -c 4096 --host 127.0.0.1 -t 16 mymodel.gguf
다른 예로, 첫 번째 GPU를 사용하여:
export CUDA_VISIBLE_DEVICES=0
cd ~/devel/ggerganov/llama.cpp/build
./bin/server \
--n-gpu-layers 1024 \
-c 8192 \
--host 0.0.0.0 \
--port 8080 \
-t 16 \
-m /srv/ml/huggingface/TheBloke/Phind-CodeLlama-34B-v2-GGUF/phind-codellama-34b-v2.Q8_0.gguf
참고
패럿 문서는 영어로 작성되고, AI 기계 번역을 사용하여 다른 언어로 번역합니다.