Nadella’dan yapay zekâ için şeffaflık ve denetim çağrısı
Özet haber: Microsoft CEO’su Satya Nadella, gelişmiş yapay zekâ modellerinin güvenilir kabul edilmek yerine potansiyel olarak tehlikeye atılmış sistemler gibi ele alınması gerektiğini savundu.
X’te yayımladığı uzun değerlendirmede Nadella, yapay zekânın yalnızca önerileri ve eylemleri kabul edilen ya da reddedilen, iç içe geçmiş “kara kutular” olarak görülmesini eleştirdi. Ona göre sistemlerin nasıl çalıştığı ve hangi kararları neden aldığı daha görünür hale getirilmeli.
Nadella, modellerin kontrol altında tutulabildiği, davranışlarının izlenebildiği ve geride değiştirilemez, insanlar tarafından okunabilir kanıtlar bıraktığı bir yapı kurulmasını önerdi. Bu yaklaşım, yapay zekâ çıktılarının sonradan incelenebilmesini ve sorumluluğun daha net biçimde belirlenmesini amaçlıyor.
Microsoft yöneticisinin önerileri arasında olayların zamanında açıklanması, bağımsız denetimler, doğrulanabilir veriler ve modellerin sınırlandırılması da yer aldı. Özellikle sınırlandırma konusuna dikkat çeken Nadella, ileri düzey sistemlerin oluşturduğu risklerle mücadelede teknik gözetimin yanı sıra güvenilir kanıt üretiminin de gerekli olduğunu belirtti.
Kaynak: The Verge
