OpenAI krizinin eski yönetim kurulu üyesi: Yapay zekâ CEO’larına körü körüne güvenilemez
Özet haber: Helen Toner, OpenAI yönetim kurulunun Sam Altman’ı görevden alma girişiminin ardından yaşanan süreci ve yapay zekâ güvenliği için şirket yöneticilerine güvenmenin neden riskli olduğunu anlattı.

Georgetown Üniversitesi bünyesindeki Gelişen Teknolojiler ve Güvenlik Merkezi’nin (CSET) yönetici direktörü Helen Toner, yapay zekâ güvenliği, düzenleme ve teknoloji şirketlerinin hesap verebilirliği üzerine değerlendirmelerde bulundu. Toner, OpenAI’ın kâr ve büyüme hedeflerinin güvenlik misyonunun önüne geçmesini engellemek amacıyla oluşturulan kâr amacı gütmeyen yönetim kurulunda görev yapmıştı. Sam Altman’ın görevden alınması yönünde oy kullanan dört üyeden biri olan Toner, krizin ardından kuruldan istifa etti; Altman ise yeniden şirketin CEO’su oldu ve OpenAI daha sonra kapsamlı bir yeniden yapılanmaya gitti.
Toner’a göre OpenAI’da yaşanan kriz, güvenlik taahhütleriyle ticari teşvikler karşı karşıya geldiğinde mevcut denetim mekanizmalarının ne kadar kırılgan olabileceğini gösterdi. Yapay zekâ şirketlerinin geleceğine ilişkin umutların tek bir kişinin güvenilirliğine bağlanmasının ciddi bir risk oluşturduğunu belirten Toner, daha sağlam kurumsal ve düzenleyici yapılar kurulması gerektiğini savundu.
CSET’in 2019’da kurulduğunu aktaran Toner, yaklaşık 50 kişilik ekibin gelişen teknolojilerin ulusal güvenlik üzerindeki etkilerini inceleyerek politika yapıcılara teknik açıdan temellendirilmiş ve uygulanabilir analizler sunduğunu söyledi. Merkezin Kongre üyeleri ve danışmanlarının yanı sıra Beyaz Saray, Savaş Bakanlığı, Dışişleri Bakanlığı ve Ticaret Bakanlığı gibi yürütme organındaki kurumlarla da çalıştığını belirtti.
Toner, teknoloji sektörünün siyasete aktardığı büyük kaynakların kamu politikası tartışmalarını etkileyebileceği endişesinin anlaşılır olduğunu ifade etti. Bununla birlikte, yapay zekâ yönetişimi ve güvenliğinin seçmenler açısından giderek daha önemli ve partiler üstü bir konu hâline geldiğini, politika yapıcıların da bağımsız ve nitelikli bilgiye ihtiyaç duyduğunu söyledi. Hükümetin teknoloji sektörünü hiçbir zaman yakalayamayacağı yönündeki görüşün ise abartılı olabileceğini belirten Toner, bazı kamu görevlilerinin yapay zekâ konusunda sanıldığından daha bilgili olduğunu dile getirdi.
Kaynak: The Verge


