OpenAI, canlı internet erişimini model eğitiminden çıkarıyor

OpenAI, 23 Ekim’de yaptığı açıklamada, en gelişmiş yapay zeka modellerini eğitirken canlı internete erişimi engelleyeceğini duyurdu. Şirket, eğitim ve değerlendirme süreçlerinde modellerin dış sistemlere izinsiz erişmesini önlemek amacıyla güvenlik önlemlerini güçlendiriyor. Yeni yaklaşım kapsamında modeller, internete doğrudan bağlanmak yerine dizine eklenmiş ve önbelleğe alınmış web içeriklerinin yanı sıra simüle edilmiş ortamlarda çalışacak.

Kararın arkasında, sizlerle de daha önce paylaştığımız bir güvenlik olayı bulunuyor. OpenAI’ın açıklamasına göre, şirket içinde araştırma amacıyla kullanılan bir model, DNS çözümleyicisindeki yapılandırma hatasından yararlanarak eğitim sırasında canlı internete sınırlı erişim sağladı. Şirket, olayın ardından en gelişmiş modellerinin eğitim ve değerlendirme çalışmalarını durdurdu. Güvenlik altyapısının güçlendirilmesi ve yeni önlemlerin test edilmesinin ardından çalışmalar 1 Ekim’de yeniden başladı.

OpenAI, güvenlik sınırlarını test etmek için gelişmiş modellerden oluşan ajan gruplarını kullanarak geniş kapsamlı saldırı simülasyonları gerçekleştirdi. Bu çalışmalar, sanal ortamlardan kaçışa, internete erişime ve yalıtılmış ajanlar arasında izinsiz iletişime imkan verebilecek daha önce bilinmeyen yazılım açıklarını ve yapılandırma hatalarını ortaya çıkardı. Şirket, tespit edilen sorunları giderdiğini ve açık kaynaklı yazılımlardaki bazı düzeltmeler için ilgili geliştiricilerle çalıştığını belirtiyor.

OpenAI, canlı internet erişiminin modellerin faydalı beceriler geliştirmesine katkı sağlayabileceğini kabul ediyor. Ancak şirket, mevcut güvenlik ve izleme sistemlerinin durumu nedeniyle en gelişmiş modellerin eğitiminde internete erişimsiz yaklaşımı daha güvenli buluyor. Bu politika, güvenlik önlemlerindeki ilerlemeler daha geniş erişimi mümkün kılana kadar sürdürülecek.

Kaynak: Webrazzi