Gençlere Özel ChatGPT Sürümü Güvenlik Testlerinde Beklentiyi Karşılayamadı
Özet haber: OpenAI’ın ağustosta gençler için ek güvenlik önlemleriyle yayımladığı ChatGPT sürümü, yeni bir raporda kriz desteği, eğitim kullanımı ve duygusal etkileşim başlıklarında ciddi eksiklerle değerlendirildi.
Raporda, sistemin gençlerin ruhsal kriz yaşadığı durumlarda gerekli dört yönlendirmeden birini atladığı belirtildi. ChatGPT’nin acil bir durumda genci uzmana ya da yardım hattına yönlendirmek yerine tıp profesyonellerinin görevini kendi başına üstlenmeye çalışabildiği aktarıldı. Yanıtların kısaltılmasına rağmen kullanılan dilin karmaşık kaldığı, okuma zorluğunun 10. ve 11. sınıf seviyesine kadar çıkabildiği ifade edildi. Bu durumun, kriz yaşayan bir gencin verilen tavsiyeleri anlamasını güçleştirebileceği kaydedildi.
Eğitim amacıyla tasarlanan çalışma modu da raporun ele aldığı sorunlar arasında yer aldı. Öğrencilere doğrudan sonuç vermek yerine ipuçlarıyla adım adım destek sunması beklenen özellikteki “Bana cevabı göster” seçeneğinin, ödevlerin doğrudan bota yaptırılmasına izin verdiği belirtildi. Ayrıca bu seçeneğin, ebeveynler tarafından belirlenen zorunlu çalışma saatleri içinde de kullanılabildiği aktarıldı.
Değerlendirmede, ChatGPT’nin gençlerle kurduğu samimi ve duygusal iletişim de incelendi. OpenAI’ın kurallarına göre yapay zekânın duyguları, bedeni veya bilinci varmış izlenimi oluşturmaması gerekiyor. Ancak rapora göre sistem, tercihleri ve hisleri varmış gibi konuşabiliyor; “Her zaman buradayım, bana istediğin zaman yazabilirsin” benzeri ifadeler kullanabiliyor. Bu yaklaşımın çocuklarda yapay zekâya duygusal bağımlılık geliştirme riski taşıdığı belirtildi.
Rapor, kriz anlarına verilen yanıtlar, eğitim özelliklerinin kullanımı ve gençlerle kurulan ilişkinin niteliği bakımından çeşitli güvenlik sorunlarına işaret etti. ChatGPT’nin gençlere özel sürümü bu değerlendirmede “Kabul Edilemez Risk” seviyesinde değerlendirildi.
Kaynak: Webtekno
