Ollama v0.19
Yapay zeka modellerini Apple Silicon cihazlarınızda daha hızlı çalıştırmanızı sağlayan bir yenilik.
Ollama, Apple'ın MLX makine öğrenimi çerçevesi ile desteklenerek Apple Silicon'de daha hızlı performans sunuyor. Kodlama ve kişisel asistanlar için optimize edildi.
Ollama v0.19 hakkında daha fazla
Ollama v0.19
Ollama, Apple Silicon'da MLX ile çalışan bir platformdur. Bu platform, kişisel asistanlar ve kodlama araçları gibi uygulamalarda yüksek performans sunar. Kullanıcılar, daha hızlı yanıtlar ve daha verimli görevler elde edebilirler.
- •MLX ile Hızlandırılmış Performans:Apple'ın makine öğrenimi çerçevesi MLX ile güçlendirilmiştir. Bu sayede, Apple Silicon cihazlarda önemli bir hız artışı sağlar. M5, M5 Pro ve M5 Max çipinde, GPU Neural Hızlandırıcılar kullanılarak hem ilk token süresi (TTFT) hem de üretim hızı (saniyedeki token sayısı) hızlandırılır.
- •NVFP4 Desteği:Model doğruluğunu korurken, çıkarım iş yükleri için bellek bant genişliğini ve depolama gereksinimlerini azaltmak için NVIDIA'nın NVFP4 formatından yararlanır. Bu, kullanıcıların üretim ortamındakiyle aynı sonuçları paylaşmasını sağlar.
- •Geliştirilmiş Önbellekleme:Kodlama ve ajans görevlerini daha verimli hale getirmek için önbellek iyileştirildi. Daha az bellek kullanımı, daha fazla önbellek isabeti ve daha akıllı kontrol noktaları ile daha hızlı yanıtlar sunar.
Günümüzün hızla değişen dünyasında, hızlı ve verimli araçlara sahip olmak çok önemlidir. Bu platform, MLX'in gücüyle, Apple Silicon cihazlarınızda daha hızlı performans sunar. Daha hızlı kodlama ve daha akıllı görevlerle, kullanıcı deneyimini dönüştürür. Bu platformu seçerek, verimliliğinizi artırabilir ve daha iyi sonuçlar elde edebilirsiniz.
