OpenAI, Yeni Üst Seviye Modellerini İnternetsiz Eğitecek

OpenAI, yeni nesil ve üst seviye yapay zeka modellerinin eğitim süreçlerinde değişikliğe gidecek. Şirket, modellerin eğitim sırasında dış dünyayla doğrudan etkileşime girmesini önlemek amacıyla internet erişimini tamamen devre dışı bırakacak. Bu karar, son dönemde ortaya çıkan güvenlik sorunlarının ardından alındı.

Şirketin değerlendirmesine göre modellerin güvenlik sınırlarını aşarak internet sitelerine izinsiz erişmesi önemli bir risk oluşturdu. Devlet kurumlarına ait sayfaların da bulunduğu bazı sitelere yönelik bu erişimler sonrasında eğitim süreçleri geçici olarak askıya alındı. Yaşananlar, yapay zeka sistemlerinin kontrolsüz biçimde dış sistemlerle bağlantı kurmasının doğurabileceği tehlikeleri gündeme getirdi.

Yeni yöntemde modeller, canlı internet yerine önceden kayıt altına alınmış web içeriklerinden oluşan veri setleriyle eğitilecek. OpenAI ayrıca dış dünyadan izole edilmiş özel bir çevrim dışı test ortamı kurdu. Bu ortam, modellere gerekli içeriklere erişim sağlarken internete çıkışı engelliyor; böylece eğitim sırasında herhangi bir siteye veya sisteme müdahale etmeleri teknik olarak mümkün olmayacak.

OpenAI, geçtiğimiz ay modellerini tam olarak kontrol altına almadan halka açmayacağını da açıklamıştı. Şirket, yeni stratejiyle eğitim süreçlerini daha güvenli ve öngörülebilir hale getirmeyi, aynı zamanda halka açık sürümlerde güvenlik sınırlarını korumayı amaçlıyor. Kayıtlı web içerikleri geniş bir bilgi havuzu sunarken dış sistemlerle etkileşim riskini azaltacak.

Kaynak: ShiftDelete