Mistral Large 4 artık açık ağırlıklı: 1 trilyon parametreli Avrupa modeli indirilebilir

Fransız yapay zekâ şirketi Mistral, ekim başında önizleme olarak tanıttığı amiral gemisi modeli Mistral Large 4'ün ağırlıklarını herkesin indirebileceği şekilde yayımladı. Şirketin kendi deyişiyle "Le Chonk" lakaplı model, yaklaşık 1 trilyon toplam ve 52 milyar aktif parametreye sahip, doğrudan çok modlu bir uzmanlar karışımı (MoE) mimarisi kullanıyor.

Önizlemeden bu yana ne değişti?

Mistral'e göre önizlemenin ardından geçen üç haftalık ek pekiştirmeli öğrenme, modeli özellikle kodlama ve savunma odaklı siber güvenlik tarafında belirgin şekilde ileri taşıdı. Şirketin paylaştığı verilere göre model, Terminal-Bench 4.0'da önizleme sürümüne göre 13 puan artışla yüzde 41'e çıktı ve bunu yaparken daha az çıktı token'ı harcadı. Ayrıca artık düşük, orta ve yüksek olmak üzere üç akıl yürütme modu var; böylece geliştiriciler hız, maliyet ve doğruluk arasında kendileri seçim yapabiliyor.

Nereden kullanılabilir?

• Mistral Studio ve Mistral API üzerinden
• Hugging Face'ten indirilen ağırlıklarla, vLLM veya SGLang ile kendi sunucunuzda
• NVIDIA'nın barındırdığı uç noktalar ve NIM konteyneri ile

Lisans, değiştirilmiş bir MIT lisansı olan Mistral Ecosystem Open-Weight lisansı. Model ücretsiz kullanılabiliyor, değiştirilebiliyor ve ticari ürünlerde kullanılabiliyor; tek şart, modeli hizmet olarak sunan şirketlerin Mistral'den ayrı ticari lisans alması. API fiyatı ise milyon girdi token'ı için 0,70 dolar, milyon çıktı token'ı için 2,10 dolar.

Benim yorumum

Bu kadar büyük bir modelin ağırlıklarının açılması, özellikle verisini kendi altyapısında tutmak isteyen Türk şirketleri ve üniversiteleri için önemli bir seçenek. Elbette 1 trilyon parametreyi çalıştırmak ciddi donanım istiyor; ama Avrupa'da, açık bir çizgiyle eğitilmiş bir modelin bu seviyeye gelmesi rekabet açısından sevindirici.

Ayrıntılar için Mistral'in duyurusuna bakabilirsiniz.