Ollama v0.19
يعزز أداء مهام الذكاء الاصطناعي على أجهزة Apple Silicon، مما يتيح استجابات أسرع وفعالية محسّنة.
تسريع Ollama على Apple Silicon باستخدام MLX من Apple. يوفر أداءً أسرع للنماذج، ويدعم NVFP4، ويحسن التخزين المؤقت للاستجابات السريعة.
المزيد عن Ollama v0.19
Ollama v0.19
Ollama هو تطبيق يتيح تشغيل نماذج الذكاء الاصطناعي على أجهزة Apple Silicon. يوفر هذا الإصدار الجديد أداءً أسرع لتسريع المهام الأكثر تطلبًا على macOS. يمكن استخدامه في مساعدين شخصيين ووكلاء الترميز.
- •أسرع أداء على Apple Silicon:يعمل Ollama الآن على إطار عمل التعلم الآلي من Apple، MLX، للاستفادة من بنية الذاكرة الموحدة. هذا يؤدي إلى تسريع كبير في جميع أجهزة Apple Silicon. على سبيل المثال، تم تحقيق 1851 رمزًا/ثانية في الملء المسبق و134 رمزًا/ثانية في فك التشفير عند استخدام الكمية int4.
- •دعم NVFP4: استجابات أفضل:يستخدم Ollama الآن تنسيق NVFP4 من NVIDIA للحفاظ على دقة النموذج مع تقليل متطلبات عرض النطاق الترددي للذاكرة والتخزين لأحمال عمل الاستدلال. يتيح للمستخدمين مشاركة نفس النتائج كما هو الحال في بيئة الإنتاج.
- •تحسين التخزين المؤقت:تمت ترقية ذاكرة التخزين المؤقت لـ Ollama لجعل مهام الترميز والوكيل أكثر كفاءة. يؤدي إلى تقليل استخدام الذاكرة وزيادة عدد مرات الوصول إلى ذاكرة التخزين المؤقت عند التفرع عند استخدام موجه نظام مشترك.
لتحقيق أقصى استفادة من نماذج الذكاء الاصطناعي، يتيح لك Ollama تجربة أداء فائق على أجهزة Apple Silicon. من خلال الاستفادة من MLX وNVFP4، يمكنك الآن الاستمتاع باستجابات أسرع وجودة أعلى. اختر Ollama لتحسين سير عملك وتعزيز كفاءتك في مهام الترميز والمساعدين الشخصيين.
