Mistral, yapay zekayı cebinize getiriyor!
Fransız yapay zeka girişimi Mistral, taşınabilir cihazlarda çalışmak üzere optimize edilmiş ilk üretken yapay zeka modellerini duyurdu. “Les Ministraux” olarak adlandırılan yeni model ailesi, dizüstü bilgisayarlar ve akıllı telefonlar gibi uç cihazlarda çalışabilecek şekilde tasarlandı.
Les Ministraux ailesi, taşınabilir cihazlarda çalışabilen iki farklı yapay zeka modelinden oluşuyor: Ministral 3B ve Ministral 8B. Her iki model de, metin üretimi ve veriyi anlama kapasitesini destekleyen oldukça geniş bir bağlam penceresine sahip; 128.000 token’lik bu pencere, bir metni analiz ederken yaklaşık 50 sayfalık bir kitabın uzunluğundaki bilgiyi işleyebilme anlamına geliyor. Bu, modellerin çok büyük veri setlerini bile verimli bir şekilde analiz edebilmesi ve anlamlandırabilmesi için önemli bir özellik sunuyor.
Ministral 3B ve 8B modelleri, farklı uygulamalarda kullanılmak üzere özelleştirilebiliyor. Bu kapsamda, metin üretimi, dil çevirisi, yerel analizler gibi temel görevlerin yanı sıra, daha karmaşık ve ileri seviye otonom robotik işlemleri de destekliyor. Örneğin, akıllı telefonlar ve dizüstü bilgisayarlar üzerinde çalışan bu modeller, cihaz üzerinde internet bağlantısı gerektirmeyen akıllı asistanlar için veri işleme veya talimatları anlama görevlerini başarıyla gerçekleştirebiliyor. Ayrıca, yerel analizler yaparak işletmeler için güvenli, hızlı ve gizlilik odaklı bir veri işleme çözümü sunuyor.
Ministral 8B modeli, daha kapsamlı veri işleme kapasitesine sahipken, Ministral 3B modeli daha kompakt ve hafif yapısıyla özellikle yerel analizler ve temel dil işlemleri gibi hafif görevler için ideal bir çözüm sağlıyor. Her iki model de düşük gecikmeli bir performans sunarak, kullanıcıların cihazlarında hızlı bir yapay zeka deneyimi yaşamalarını sağlıyor. Bu özellikler, özellikle cihaz üzerinde anlık geri bildirim veya hızlı yanıt gerektiren uygulamalar için uygun hale getiriyor.
Mistral, blog yazısında “Les Ministraux, cihaz üzerinde çeviri, internet bağlantısı gerektirmeyen akıllı asistanlar, yerel analizler ve otonom robotik gibi kritik uygulamalar için düşük gecikmeli ve hesaplama açısından verimli bir çözüm sunmak üzere geliştirildi” diye açıklıyor. Ministral 8B modeline araştırma amaçlı olarak bugünden itibaren erişilebilecek. Ancak, bu modeli ticari kullanım için devreye almak isteyen geliştiriciler ve şirketler Mistral ile iletişime geçerek lisans başvurusunda bulunmaları gerekiyor.
Geliştiriciler, Ministral 3B ve Ministral 8B modellerine Mistral’ın bulut platformu “Le Platforme” üzerinden veya Mistral’ın anlaşmalı bulut sağlayıcılarından ulaşabilecek. Fiyatlandırma ise, Ministral 8B için milyon başına 10 sent ve Ministral 3B için milyon başına 4 sent olarak belirlendi. Son zamanlarda, daha küçük boyutlu modeller popülerlik kazanıyor. Bu modeller, büyük modellere kıyasla eğitimi, özelleştirilmesi ve çalıştırılması daha ucuz ve hızlı. Google’ın Gemma küçük model ailesi ve Microsoft’un Phi model koleksiyonu da bu trendi takip ediyor. Meta da yakın zamanda Llama model ailesinin yeni versiyonlarında küçük modellere yer verdiğini açıkladı.
Mistral, Ministral 3B ve Ministral 8B’nin, benzer Llama ve Gemma modellerine göre talimat takip etme ve problem çözme yeteneklerini değerlendiren çeşitli yapay zeka kıyaslamalarında üstün performans gösterdiğini iddia ediyor.
