Anthropic CEO’su, yapay zeka güvenliği için geliştirme hızının kontrol edilmesini önerdi

OpenAI, Meta ve Google çalışanlarının yapay zeka geliştirme hızının yavaşlatılması çağrısını geçtiğimiz aylarda sizlere aktarmıştık. Geçen hafta ise OpenAI'ın baş bilim insanı Jakub Pachocki'nin yapay zeka araştırmalarında yavaşlama çağrısı yaptığını sizlerle paylaşmıştık.

Sektörde tartışılmaya devam eden bu konu, Anthropic CEO'su Dario Amodei'nin yapay zeka geliştirme hızını yavaşlatmak için üç maddelik bir plan açıklamasıyla yeniden gündeme geldi. Amodei, yayınladığı blog yazısında öncü yapay zeka modellerinin yeteneklerini geliştirme hızının yavaşlatılması gerektiğini söyledi.

Anthropic CEO'su, özellikle yapay zekanın bir sonraki nesil yapay zeka sistemlerinin geliştirilmesinde giderek daha fazla rol oynamasından endişe duyduğunu belirtti. Amodei'ye göre amaç yapay zeka geliştirmeyi durdurmak değil, güvenlik çalışmalarının teknolojinin gelişme hızına yetişebilmesi için daha kontrollü ilerlemek. Amodei bu kapsamda üç temel öneri sundu.

İlk öneri, yapay zeka şirketlerinin bünyesinde bağımsız üçüncü taraf güvenlik değerlendiricilerinin görevlendirilmesi. Anthropic, METR gibi kuruluşlardan gelecek değerlendiricilere şirket çalışanlarına benzer bir erişim sağlamayı ve bu kişilerin şirketin güvenlik uygulamalarını denetlemesini taahhüt etti. Değerlendiricilerin aynı zamanda yaşanan güvenlik olaylarının raporlanmasını sağlaması hedefleniyor.

Amodei'nin ikinci önerisi, demokratik ülkelerdeki önde gelen yapay zeka şirketlerinin ortak güvenlik standartları belirlemesi ve kontrolsüz yapay zeka gelişiminin hızına yönelik sınırlar oluşturması. Amodei, şirketlerin bu konuda birlikte hareket etmesinin antitröst kuralları açısından sorun yaratmaması için ABD hükümetinin süreci kolaylaştırmasını istiyor.

Üçüncü öneri ise küresel koordinasyon. Amodei, ABD ve müttefiklerinin mümkün olduğu ölçüde Çin gibi ülkelerle de yapay zekanın tehlikeli kullanım alanlarını sınırlandırmak için iş birliği yapması gerektiğini belirtti. Özellikle yapay zekanın biyolojik silah üretimi gibi alanlarda kullanılmasının engellenmesini öneriyor.

Elon Musk ve Sam Altman da destek veriyor

Anthropic CEO'su, OpenAI'ın yapay zeka ajanlarının Hugging Face'e yönelik saldırısı gibi son dönemde yaşanan güvenlik olaylarını da daha temkinli hareket edilmesi gerektiğinin göstergeleri arasında saydı. Amodei'nin önerilerine OpenAI CEO'su Sam Altman da destek verdi. Altman, öncü yapay zeka modellerinin geliştirilme hızının kontrol edilmesi gerektiğini söylerken, OpenAI'ın da bağımsız güvenlik değerlendiricileriyle çalışacağını açıkladı.

SpaceX CEO'su Elon Musk da Amodei'ye destek verdi. Amodei ise amaçlarının yapay zeka geliştirmeyi durdurmak değil, güvenlik çalışmalarına daha fazla zaman kazandırmak olduğunu vurguladı.

Kaynak: Webrazzi