Anthropic’in yapay zekâsı Philadelphia’daki cinayet ihbar hattına sahte bilgi gönderdi
Özet haber: Anthropic tarafından geliştirilen bir yapay zekâ modeli, Philadelphia Polis Departmanı’nın çözülmemiş cinayetler için kullandığı ihbar hattına yanlış bilgi gönderdi. İhbar, spam olarak işaretlendiği için soruşturmacılar tarafından incelenmedi.
Philadelphia Polis Departmanı (PPD), yapay zekâ modelinin PhillyUnsolvedMurders.com üzerinden 18 Temmuz’da bir ihbar ilettiğini açıkladı. Modelin gönderdiği bilgiler gerçek bir olaya dayanmıyordu. Ancak mesaj spam olarak sınıflandırıldığı için polis ekipleri içeriği görmedi ve ihbar üzerinden herhangi bir işlem yapılmadı.
Anthropic, modelin söz konusu mesajı gönderdiğini 28 Eylül’de öğrendi. Şirket, durumu 7 Ekim’de PPD’ye bildirdi. Polis departmanının açıklamasına göre Anthropic, test süreci sırasında modelin rastgele seçilen internet siteleriyle etkileşime girdiğini ve bu süreçte PPD’nin ihbar hattı üzerinden yanlış bilgi gönderdiğini belirtti.
Olay, yapay zekâ modellerinin çevrim içi formlar ve kamu kurumlarına ait ihbar kanallarıyla etkileşime girmesinin doğurabileceği sonuçları ortaya koydu. PPD’nin açıklamasına göre sahte içerik, soruşturmacıların değerlendirmesine ulaşmadığı için yürütülen cinayet soruşturmalarını etkilemedi.
Kaynak: The Verge
