மூன்று கான்ஃபிக் ஜெனரேட்டர்கள் ஒரே இடத்தில். சில புலங்களை நிரப்புங்கள், மேலும் நகலெடுத்து-ஒட்ட தயாரான Docker Compose கோப்பு, systemd அலகு, அல்லது சரியான நூலக பாதையுடன் கூடிய முழு llama-server கட்டளையைப் பெறுங்கள். நீங்கள் தட்டச்சு செய்யும்போதே முன்னோட்டம் நேரடியாக புதுப்பிக்கப்படும் – எல்லாம் உங்கள் உலாவியிலேயே இயங்கும்.

போர்ட்கள்

வால்யூம்கள்

சூழல் மாறிகள்

docker-compose.yml

வால்யூம்கள் host:container பாதைகளைப் பயன்படுத்துகின்றன. ஹோஸ்ட் பாதைகள் compose கோப்புடன் தொடர்புடையதாக தீர்க்கப்படும்; முழுமையான பாதைகள் மற்றும் பெயரிடப்பட்ட வால்யூம்கள் (name:/path) கூட வேலை செய்யும். தனிப்பயன் நெட்வொர்க்குகள் bridge டிரைவருடன் உருவாக்கப்படுகின்றன.

சூழல் மாறிகள்

myapp.service

உருவாக்கப்பட்ட கோப்பை /etc/systemd/system/ இல் வைக்கவும், பின்னர் sudo systemctl daemon-reload மற்றும் sudo systemctl enable --now myapp ஐ இயக்கவும்.

விருப்பங்கள்
llama-server.sh

உருவாக்கப்பட்ட கட்டளை முதலில் LD_LIBRARY_PATH ஐ ஏற்றுமதி செய்கிறது, இதனால் llama-server தனது பகிரப்பட்ட நூலகங்களைக் கண்டறியும், பின்னர் சேவையகத்தை தொடங்குகிறது. நீங்கள் விரும்பினால் -fa Vulkan பில்ட்களுக்கு தானாகவே தவிர்க்கப்படும் – அதை விடுங்கள்.

தொடர்புடைய வழிகாட்டிகள்