Ollama — شغّل نماذج AI على جهازك بدون إنترنت

عايز تشغل نماذج AI على جهازك من غير إنترنت ومن غير ما بياناتك تروح لأي سيرفر؟ Ollama بيخلي ده سهل زي ما تشغل أي برنامج.

إيه هو Ollama؟

Ollama هو أداة بتخليك تنزل وتشغل نماذج AI مفتوحة المصدر على جهازك بأمر واحد. من غير Python أو إعدادات معقدة.

الفكرة: بدل ما تستخدم ChatGPT أونلاين وبياناتك تروح لـ OpenAI، بتشغل نموذج مشابه على جهازك — خاص بيك 100%.

التثبيت

ماك: نزل التطبيق من ollama.com واسحبه لمجلد التطبيقات. خلاص.

ويندوز: نزل المثبّت من الموقع وثبته. حيضيف أمر ollama في Command Prompt.

لينكس: أمر واحد في التيرمنال:

curl -fsSL https://ollama.com/install.sh | sh

المساحة المطلوبة: البرنامج نفسه صغير. النماذج بتاخد مساحة حسب حجمها (من 2 لـ 40 جيجا).

تنزيل وتشغيل أول نموذج

افتح Terminal واكتب:

ollama run llama3.2

أول مرة حينزل النموذج (حوالي 2-4 جيجا حسب الحجم). بعدها حيفتح محادثة — ابدأ اتكلم!

نماذج تانية تجربها:

ollama run mistral — نموذج Mistral 7B سريع ومتوازن

ollama run gemma2 — نموذج Google Gemma 2

ollama run codellama — متخصص في البرمجة

ollama run phi3 — صغير جداً وسريع من Microsoft

واجهة المحادثة

Ollama بيشتغل من Terminal. لو محتاج واجهة رسومية جميلة:

Open WebUI: واجهة ويب تشبه ChatGPT — بتتصل بـ Ollama وبتديك نفس تجربة المحادثة مع تاريخ ومحادثات متعددة.

التثبيت:

docker run -d -p 3000:8080 –add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data –name open-webui ghcr.io/open-webui/open-webui:main

بعدها افتح http://localhost:3000 في المتصفح.

استخدام الـ API

Ollama بيشغل API محلي على المنفذ 11434 — تقدر تبني تطبيقات عليه:

curl http://localhost:11434/api/generate -d ‘{“model”: “llama3.2”, “prompt”: “اشرحلي الذكاء الاصطناعي في 3 جمل”}’

متوافق مع OpenAI API: يعني أي تطبيق بيستخدم OpenAI API تقدر توجهه لـ Ollama المحلي بتغيير العنوان بس.

متطلبات الجهاز والنماذج المناسبة

8 جيجا رام: Phi 3 Mini أو Gemma 2B — سريعة وكويسة للأساسيات.

16 جيجا رام: Llama 3.2 8B أو Mistral 7B — أداء ممتاز لأغلب المهام.

32 جيجا رام أو أكتر: Llama 3 70B — أداء منافس للنماذج المغلقة.

كارت شاشة: مش ضروري بس بيسرّع كتير. كروت NVIDIA الأفضل دعماً.

فوائد الخصوصية

كل حاجة محلية: ما فيه بيانات بتطلع من جهازك. مثالي لـ:

– معالجة مستندات سرية (عقود، بيانات مالية)

– شركات عندها سياسات خصوصية صارمة

– بيانات طبية أو قانونية حساسة

– أي حد عايز خصوصية كاملة

جرّب بنفسك

نزّل Ollama من الموقع الرسمي وشغل أمر ollama run llama3.2. اسأله سؤال بالعربي وبالإنجليزي وقارن الإجابات مع ChatGPT. جرب نموذج تاني واختار المفضل.

شاهد أيضاً

Fine-tuning — ازاي تدرّب نموذج AI على بياناتك الخاصة

عندك بيانات خاصة ومحتاج نموذج AI يفهمها بشكل أفضل؟ الضبط الدقيق (Fine-tuning) هو الحل — …

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *