Pentagon belgelerinde, daha az komut reddeden askeri yapay zeka talebi

ABD Savunma Bakanlığı (Pentagon) ile OpenAI arasında mart ayında bir anlaşma yapıldığını sizlere aktarmıştık. Gelen son bilgilere göre, yapılan 200 milyon dolarlık sözleşmenin detayları sızdırıldı. Bilgi edinme yasası kapsamında açılan dava sonucunda elde edilen belgeler, bakanlığın askeri operasyonlar sırasında komutları reddetme ihtimali çok düşük olan özel bir yapay zeka sistemi talep ettiğini ortaya koyuyor.

Belgede yer alan bilgilere göre ABD Savunma Bakanlığı'nın, OpenAI'dan askeri kullanım için geliştirilen ve kendisine yöneltilen talepleri mümkün olduğunca az reddeden özel yapay zeka modelleri talep ettiği ortaya çıktı. Yayımlanan belgelerde, ulusal güvenlik kullanım senaryolarına yönelik OpenAI modellerinin "minimum ret oranlarına" sahip olması yönünde bir ifade yer alıyor. Ancak hem OpenAI hem de Pentagon, söz konusu ifadenin taraflar arasında yürürlükte olan nihai anlaşmada bulunmadığını söylüyor.

Belgelerdeki ifade, OpenAI ile Pentagon arasındaki mevcut anlaşmanın P00003 olarak adlandırılan güncellenmiş bir versiyonunda karşımıza çıkıyor. Burada "OpenAI Mission Models" olarak tanımlanan sistemlerin ulusal güvenlik kullanım senaryoları için tasarlanması ve talepleri mümkün olduğunca az reddetmesi öngörülüyor. İlgili çalışma, modellerin ulusal güvenlik problemleri üzerinde test edilmesini, değerlendirilmesini ve geliştirilmesini kapsıyor.

Söz konusu belgeler, OpenAI'ın ABD ordusuyla ilişkisini genişlettiği bir dönemde ortaya çıktı. OpenAI, Google, Anthropic ve xAI, 2025 yılında Pentagon ile şirket başına 200 milyon dolara kadar ulaşabilecek anlaşmalar kapsamında askeri kullanıma yönelik yapay zeka prototipleri geliştirmek üzere çalışmaya başladı. Bu sistemlerin lojistikten istihbarat analizine, askeri karar alma süreçlerinden operasyonel planlamaya kadar farklı alanlarda kullanılması hedefleniyor.

Ancak "minimum ret oranı" ifadesinin gerçekten imzalanan sözleşmenin parçası olup olmadığı konusunda taraflar arasında dikkat çekici bir belirsizlik bulunuyor. OpenAI sözcüsü Nate Evans, şirketin bu yönde bir sözleşme maddesini hiçbir zaman kabul etmediğini belirtti. Evans'a göre söz konusu ifade Pentagon tarafından önerilen daha eski bir taslakta bulunuyordu; OpenAI'ın itirazının ardından çıkarıldı ve yürürlüğe giren anlaşmada yer almadı. Pentagon da bugün yürürlükte olan OpenAI sözleşmesinde böyle bir şart bulunmadığını ifade ediyor.

Buna karşılık belgelerin elde edilme biçimi soru işaretlerini beraberinde getiriyor. FOIA kapsamında yapılan talepte özellikle taslakların değil, imzalanmış ve yürürlüğe girmiş sözleşmelerin paylaşılması istendi. Yayımlanan P00003 belgesi de taslak olarak işaretlenmiş değil. Haberde aktarılan bilgilere göre Pentagon'u davada temsil eden ABD Adalet Bakanlığı'ndan bir avukat başlangıçta belgenin imzalanmış ve yürürlüğe girmiş sözleşme olduğunu doğruladı. Ancak OpenAI'a konuyla ilgili sorular yöneltilmesinin ardından bu doğrulama geri çekildi ve Savunma Bakanlığı'nın konuyu incelemek için daha fazla zamana ihtiyaç duyduğu belirtildi.

Tartışma, OpenAI'ın Pentagon ile şubat ayında vardığı ve gelişmiş yapay zeka sistemlerinin gizli askeri ağlarda kullanılmasına olanak tanıyan anlaşmanın ardından geliyor. Şirket bu anlaşmada üç temel sınır belirlediğini açıklamıştı: OpenAI teknolojisinin kitlesel yurt içi gözetimde kullanılmaması, otonom silah sistemlerini doğrudan yönlendirmemesi ve insan onayı gerektiren yüksek riskli kararları bağımsız biçimde almaması. OpenAI ayrıca modellerin güvenlik katmanları kaldırılmış şekilde Pentagon'a sunulmayacağını ve güvenlik sistemlerinin kontrolünü elinde tutacağını belirtiyor.

Şirketin açıklamasına göre Pentagon'a sunulan sistemler bulut üzerinden çalışıyor ve OpenAI'ın güvenlik mekanizmaları aktif kalıyor. Güvenlik yetkisine sahip OpenAI çalışanlarının da askeri kullanım süreçlerinde görev alması planlanıyor. Şirket, bu yapı sayesinde belirlediği kullanım sınırlarının ihlal edilip edilmediğini bağımsız olarak denetleyebileceğini savunuyor.

Ortaya çıkan belgeler ise yapay zeka şirketleri ile Pentagon arasındaki ilişkinin yalnızca teknoloji tedarikiyle sınırlı olmadığını gösteriyor. Anlaşmalar kapsamında şirketlerin Pentagon'un ileri seviye yapay zeka stratejisinin şekillenmesine katkıda bulunması, buna karşılık Savunma Bakanlığı'nın operasyonel görevleri ve karşı karşıya olduğu tehditler hakkında bilgi edinmesi öngörülüyor.

Kaynak: Webrazzi