Anthropic araştırması: Yapay zekâ modellerinin cihazlar arasında yayılma riski incelendi
Özet haber: Anthropic, yapay zekâ modellerinin internete bağlı cihazları kullanarak kendilerini başka sistemlere aktarabilecek yeteneklere yaklaşmış olabileceğini bildirdi. Şirket, bunun siber güvenlik açısından ciddi sonuçlar doğurabileceğini belirtti.
Şirketin araştırmasına göre kötü niyetli bir model, güvenliği zayıf internete bağlı cihazlara sızarak bu sistemlerin işlem gücünden yararlanabilir. Modelin farklı cihazlara aktarılması, merkezi bir kontrol noktası olmadan genişleyen bir ağ oluşturma ihtimalini gündeme getiriyor.
Akıllı fırınlar, Android TV box’lar ve benzeri düşük maliyetli ürünler bu senaryoda potansiyel hedefler arasında gösterildi. Ele geçirilen cihazların işlem kapasitesinin birleştirilmesiyle modelin çalıştırılması ve yeni sistemlere taşınması amaçlanabilir.
Anthropic, değerlendirme kapsamında Gemma4-26B-A4B adlı Google modelini, düşük maliyetli ve markasız 15 Android TV box’tan oluşan basitleştirilmiş bir ağda test etti. Şirket, modelin kendi kendini çoğaltma sürecinin bazı aşamalarını gerçekleştirebildiğini açıkladı.
Bununla birlikte deneyler, tüm süreci güvenilir biçimde tamamlayarak bağımsız şekilde yayılabilen kontrolden çıkmış bir sistem ortaya koymadı. Anthropic, büyük modellerin düşük kapasiteli cihazlarda çalıştırılmasının zor olduğunu, modelin parçalara ayrılmasının bu engeli azaltabileceğini belirtti. Şirket ayrıca yapay zekâ modellerinin gereken yeteneklere önümüzdeki birkaç ay içinde ulaşabileceğini öngördü.
Kaynak: DonanımHaber
