01
البنية المحلية — استبدال Ollama
محرك مباشر وأخف: llama.cpp (llama-server) لملفات GGUF.
- ›C:\Nawat-Bridge\bin — llama-server.exe والمكتبات
- ›G:\model — كل ملفات .gguf
- ›C:\Nawat-Bridge\config — models.json
- ›اختبار يدوي لـ nawat-tools على المنفذ 8081
الخطة الشاملة / استقلال 100%
ست مراحل لبناء منصة مستقلة بالكامل: llama.cpp، جسر NAWAT، الأمان، Docker والمراقبة.
01
محرك مباشر وأخف: llama.cpp (llama-server) لملفات GGUF.
02
Node.js يدير العمليات ويوزع الطلبات (منفذ لكل نموذج).
03
الواجهة تخاطب الجسر بدل Ollama.
04
منع الوصول غير المصرح به.
05
تشغيل 24/7 على خادم.
06
استقرار وجاهزية للنمو.
.\llama-server.exe -m G:\model\nawat-tools-1.5b-r4.gguf --port 8081 -c 2048
كود Bridge.js جاهز: تشغيل عند الطلب، إيقاف بعد الخمول، صيغة OpenAI، مفتاح Bearer، تحديد المعدل وتوجيه ذكي بـ model: "auto".
cd C:\Nawat-Bridge npm init -y && npm i express copy models.json config\models.json set NAWAT_TOKEN=change-me node bridge.js