Kimi K3.1 Pro, Yapay Zekâ Endeksinde 55 Puanla Dördüncü Sıraya Çıktı

Modelin toplam parametre sayısı 2,8 trilyon, aktif parametre sayısı ise token başına 104 milyar olarak açıklandı. Kimi K3.1 Pro; metin ve görsel girdileri destekliyor, 1 milyon tokenlık yerel bağlam penceresi kullanıyor ve geleneksel RoPE katmanları yerine NoPE mimarisinden yararlanıyor. Ayrıca geleneksel kuadratik dikkat mekanizmasının yerine Kimi Delta Attention adlı hibrit yapı uygulanıyor. Bu yapı, KV önbelleğinin boyutunu azaltmayı ve uzun bağlamlarda hesaplama verimliliğini artırmayı amaçlıyor.

Model özellikle aracı performansı ölçen testlerde dikkat çekti. GDPval-AA değerlendirmesinde 1.846 Elo puanıyla üçüncü sıraya çıkan sistem, Terminal-Bench 4.0 testinde yüzde 67 başarı elde etti. Kimi K3’te yüzde 13 olan bu oran, Claude Sonnet 5.5’in yüzde 64’lük sonucunun da üzerine çıktı. AutomationBench-AA puanı da yüzde 58’den yüzde 73’e yükseldi. Diğer testlerde ise Humanity’s Last Exam sonucu yüzde 47’den yüzde 52’ye, SciCode sonucu yüzde 59’dan yüzde 61’e çıktı.

Moonshot, modelin eğitim sürecinden siber güvenlikle ilgili verilerin çıkarıldığını belirtti. Buna rağmen Kimi K3.1 Pro’nun xdev-bench-hard testinde yüzde 81 başarı gösterdiği aktarıldı. Model 69 katmandan oluşuyor ve her üç katmanda bir yer alan 24 Gated Multi-Head Latent Attention katmanı içeriyor. Dört yardımcı birimden üçü bilgileri özetlerken, dördüncü birim tüm bağlamın anlık görünümünü işliyor.

Kimi K3.1 Pro’nun ağırlıklarının 4 Kasım’da yayımlanması planlanıyor. Fiyatlandırmada Kimi K3’e göre yüzde 33 indirim uygulanırken giriş, çıkış ve önbellek isabeti için 1 milyon token başına sırasıyla 2, 10 ve 0,20 dolar ücret belirleniyor. Modelin görev başına maliyeti yaklaşık 1,98 dolar olarak verildi.

Kaynak: ShiftDelete