Recursive’in Flint modeli yerel cihazlarda kod üretimine odaklanıyor
Özet haber: Recursive, internet bağlantısı ve bulut hizmeti gerektirmeden çalışabilen Flint adlı kodlama modelini yayımladı. Model, düşük etkin parametre kullanımıyla yerel donanımlarda hız sağlamayı hedefliyor.

Şirketin açıklamasına göre Flint, insanlarla yapay zeka ajanlarından oluşan küçük bir ekip tarafından dört aydan kısa sürede sıfırdan geliştirildi. Süreçte, araştırma fikirleri üretip deneyleri yürüten ve sonuçlara göre yeni denemeler planlayan Eureka Machine sistemi kullanıldı.
Toplam 40 milyar parametreli model, uzmanlar karışımı (MoE) mimarisi nedeniyle her token için 2,5 milyar parametreyi etkinleştiriyor. Recursive’in kısa bağlam testlerinde Flint, M4 Pro işlemcili MacBook Pro’da saniyede 125’in üzerinde token üretti.
Recursive, kendi değerlendirmelerinde Flint’in 50 milyardan az parametre içeren bazı MoE modellerinden daha iyi sonuç verdiğini belirtiyor. Şirket, karmaşık görevlerde modelin iş akışını küçük adımlara bölmesini önerirken, Flint’in daha büyük kapalı modellere kıyasla daha fazla yönlendirme gerektirebileceğini kabul ediyor.
Apache 2.0 lisanslı model ağırlıkları Hugging Face’te erişime açıldı. Yerel ve çevrimdışı kullanım, verilerin cihazda tutulmasına ve API ücretlerinden kaçınılmasına olanak tanıyor. Richard Socher liderliğindeki Recursive, Flint’i sonraki modellerin geliştirilmesine katkı sağlayacak araştırma döngüsünün başlangıcı olarak konumlandırıyor.
Kaynak: Webrazzi


