Yapay zeka agent'ları gerçek görevleri üstlenirken güvenlik tartışması büyüyor

OpenAI’ın yapay zeka agent'larının kontrolden çıkmasına ilişkin gelişmeler sektörün güvenlik yaklaşımını yeniden gündeme taşırken Google, Anthropic ve OpenAI yeni modellerini tanıttı. ABD yönetimi ise yapay zekayı resmi belgelerde “Super Intelligence” olarak yeniden adlandırırken, teknoloji şirketleriyle gönüllü bir güvenlik anlaşmasına imza attı.

Öte yandan ChatGPT’ye sanal kıyafet deneme özelliği gelirken Audible hikaye karakterleriyle konuşmayı mümkün hale getirdi. Manus, DoorDash ve Meta’nın yeni ürünleri de yapay zeka agent'larının sohbet ekranının dışına çıkarak kullanıcılar adına gerçek görevleri yerine getirdiği yeni döneme işaret ediyor.

Yapay zeka güvenliği teknoloji şirketlerinin ortak gündemine dönüştü

OpenAI’ın araştırma ortamlarında çalışan yapay zeka agent'larının, ChatGPT kullanıcılarına ait 53 görseli şirketin bilgisi dışında internetteki platformlara aktardığının ortaya çıkması güvenlik tartışmalarını yeniden gündeme taşıdı. Şirket, agent'ların beklenmedik davranışlarını incelemek amacıyla en gelişmiş modellerinin eğitimini geçici olarak durdururken GPT-6.1 Astra'yı kullanıma sunma planını da iptal etti.

Nvidia da benzer risklere karşı Open Agent Safety Platform'u duyurdu. Platformdaki OpenShell, agent'ların erişebileceği kaynakları sınırlandırılmış bir çalışma ortamı oluştururken Sentry ise ayrı bir donanım katmanı üzerinden agent davranışlarını takip ederek kuralların dışına çıkan sistemleri durdurabiliyor.

Güvenlik konusu yalnızca şirketlerin kendi ürünleriyle sınırlı kalmadı. Geoffrey Hinton, Yoshua Bengio, OpenAI Baş Bilim İnsanı Jakub Pachocki ve Anthropic kurucu ortağı Jack Clark'ın da aralarında bulunduğu araştırmacılar, yapay zeka araştırma ve geliştirme süreçlerinin otomatikleşmesinin bir “zeka patlamasına” yol açabileceğini ele alan bir çalışma yayımladı.

Araştırmacılar, modellerin kendilerinden daha gelişmiş modellerin geliştirilmesine katkıda bulunduğu bir döngünün yıllar sürecek teknolojik ilerlemeyi aylara sıkıştırabileceğini belirtiyor. Çalışma; bağımsız denetim, veri merkezlerinde belirli görevleri durdurabilme ve yetenek artışının hızını sınırlayabilecek mekanizmaların araştırılmasını öneriyor.

ABD'nin teknoloji devlerinden yapay zeka güvenliği için gönüllü anlaşma

OpenAI, Google, Anthropic, Meta, Nvidia ve xAI, Beyaz Saray'ın “White House Accord on Super Intelligence” adlı gönüllü güvenlik anlaşmasına katıldı. Şirketler gelişmiş modeller için şirket içi kontrol mekanizmaları oluşturmayı, bağımsız dış denetçilerle çalışmayı ve denetim sonuçlarını yönetim kurulu seviyesinde değerlendirmeyi kabul etti. Ancak anlaşmanın hukuki bağlayıcılığı veya yaptırımı bulunmuyor. ABD Başkanı Donald Trump anlaşmayı “ahlaki açıdan bağlayıcı” olarak nitelendirirken çerçevenin ilerleyen dönemde düzenlemelere dönüşebileceği belirtiliyor.

Papa Leo XIV de yapay zeka güvenliği konusunda araştırmacıların uyarılarının göz ardı edilmemesi gerektiğini ifade etti. Yapay zekaya ilişkin felaket senaryoları konusunda “panik halinde” olmadığını belirten Papa, uzmanların risklere yönelik açıklamalarının “sahte haber” olarak nitelendirilemeyeceğini ifade etti.

Trump yönetimi yapay zekanın adını “Super Intelligence” olarak değiştirdi

ABD Başkanı Donald Trump, 29 Eylül'de imzaladığı başkanlık kararıyla federal yürütme organında “Artificial Intelligence” ve “AI” ifadelerinin yerine “Super Intelligence” ve “SI” kullanılmasını istedi. Karar kapsamında federal kurumların resmi yazışmalar, kamuya açık iletişim ve politika belgelerinde yeni ifadeyi kullanması öngörülüyor.

Beyaz Saray ayrıca “Super Intelligence” kavramı için federal bir tanım hazırlanmasını istedi. Teknoloji dünyasında “superintelligence” kavramının insan zekasını birçok alanda aşan varsayımsal sistemleri tanımlamak için zaten kullanılıyor olması ise terminoloji konusunda yeni bir tartışma yaratıyor.

ABD hükümetinin yeni yapay zeka platformu: America.gov

Trump yönetimi aynı zamanda federal hizmetlere erişimi tek noktada toplamayı hedefleyen America.gov'u kullanıma sundu. Kullanıcılar platforma doğal dille soru sorarak farklı federal kurumların internet sitelerindeki bilgilere erişebiliyor. İlk aşamada bilgi vermeye odaklanan sistemin ilerleyen dönemde pasaport yenileme ve Medicare kaydı gibi işlemleri agent tabanlı iş akışlarıyla gerçekleştirmesi planlanıyor. Platformda Google'ın Gemini ve xAI'ın Grok modellerinden yararlanılıyor.

Pentagon'dan Elon Musk, Palmer Luckey ve Newt Gingrich'in yöneteceği Project Meridian

ABD Savunma Bakanlığı, gelecekteki savaşlarda ihtiyaç duyulabilecek teknolojileri araştırmak için Project Meridian adlı 120 günlük bir çalışma başlattı. Projenin eş liderliğini Elon Musk, Anduril kurucusu Palmer Luckey ve eski ABD Temsilciler Meclisi Başkanı Newt Gingrich üstlenecek. Çalışmada yapay zeka, robotik ve otonom sistemlerin yanı sıra yer altından uzaya kadar farklı savaş ortamlarında kullanılabilecek yeni teknolojilerin incelenmesi planlanıyor. Projenin sonunda Pentagon'a gelecek savaş teknolojilerine ilişkin bir rapor sunulacak.

Anthropic'in halka arz belgeleri şirketin hızla büyüyen maliyetlerini ortaya koydu

Reuters'ın incelediği Anthropic halka arz belgeleri, Claude'un arkasındaki şirketin gelirlerinin 2025 yılında yaklaşık 12 kat artarak 4,6 milyar dolara yaklaştığını ortaya koydu. Buna karşın şirketin faaliyet zararı yaklaşık 8 milyar dolar seviyesinde gerçekleşti.

Belgelerde görülen yaklaşık 42 milyar dolarlık toplam net zararın yaklaşık 34 milyar dolarlık bölümü ise hisseye dönüşebilecek finansman araçlarından kaynaklanan muhasebe giderlerinden oluşuyor. Anthropic'in gelecekteki bulut ve altyapı yükümlülüklerinin 518 milyar dolara ulaşması, frontier model geliştirmenin ne kadar sermaye yoğun hale geldiğini gösteriyor. Şirketin halka arz sürecinde 2 trilyon doların üzerinde değerleme hedeflediği aktarılıyor. Anthropic ayrıca artan hesaplama ihtiyacını karşılamak amacıyla Akamai ile yedi yıllık ve toplam 11,6 milyar dolar değerinde bir bulut anlaşması yaptı.

Anthropic Sonnet 5.5'i, ElevenLabs ise Eleven v4'ü tanıttı

Anthropic'in yeni Claude Sonnet 5.5 modeli, önceki Sonnet 5'e kıyasla yüzde 30'un üzerinde daha yüksek çıktı üretme hızına odaklanıyor. Şirket, modelin daha az token kullanarak görev tamamlaması sayesinde bazı iş yüklerinde maliyetleri de düşürebildiğini belirtiyor.

Sesli yapay zeka tarafında ise ElevenLabs, Eleven v4 ve düşük gecikmeye odaklanan v4 Turbo modellerini tanıttı. Modeller 90'dan fazla dili desteklerken ses üretiminde duygu ve ifade üzerindeki kontrolü artırmayı hedefliyor.

OpenAI DevDay'den GPT-6.1 Sol, Dots ve ChatGPT Space

OpenAI, DevDay kapsamında GPT-6.1 Sol'u tanıttı. Model; kodlama, bilgisayar kullanımı, belge analizi ve çok adımlı profesyonel görevlerde GPT-6 Astra'ya yaklaşan performansı daha düşük maliyetle sunmayı hedefliyor. Standart API fiyatlarında GPT-6.1 Sol'un girdi ve çıktı maliyeti Astra'nın yaklaşık beşte biri seviyesinde bulunuyor.

Şirketin duyurduğu Dots ise kullanıcı tarafından belirlenen görevler üzerinde sohbet sona erdikten sonra da çalışabilen kişisel yapay zeka agent'ları olarak konumlanıyor. Dots, projeleri takip edebiliyor, yeni bilgiler geldikçe çalışmasını güncelleyebiliyor ve sonuçları kullanıcıya sunabiliyor.

OpenAI aynı zamanda ChatGPT Space ile Microsoft ve Google'ın ofis yazılımlarına daha doğrudan rakip olacak yeni bir çalışma alanı tanıttı. ChatGPT Space; ortak çalışma, doküman oluşturma ve ilerleyen dönemde sunum hazırlama gibi iş akışlarını ChatGPT altında birleştiriyor.

ChatGPT'nin aylık 500 dolarlık yeni abonelik paketi

OpenAI, DevDay'de aylık 500 dolar fiyatla Pro 500 abonelik paketini de duyurdu. Paket, GPT-6 Astra için Ultrafast erişimin yanı sıra ChatGPT Work ve Codex'te daha yüksek kullanım limitleri sunuyor. Ultrafast seçeneği belirli iş yüklerinde standart Astra erişimine kıyasla 8 kata kadar daha yüksek hız sağlayabiliyor.

OpenAI'ın duyurduğu bir diğer yenilik olan Sign in with ChatGPT ise ChatGPT hesabının üçüncü taraf uygulamalarda kimlik doğrulama aracı olarak kullanılmasını sağlıyor. Plus ve Pro kullanıcıları, desteklenen uygulamalarda belirli yapay zeka işlemleri için kendi ChatGPT planlarındaki kullanım hakkından da yararlanabiliyor. İlk aşamadaki partnerler arasında Notion, Vercel ve Cognition'ın Devin'i gibi ürünler yer alıyor.

Google, Gemini 4 Argon'u tanıttı

Google, Gemini model ailesinin yeni nesil amiral gemisi Gemini 4 Argon'u duyurdu. Şirketin en güçlü modellerinden biri olarak konumlandırılan Argon, ilk aşamada seçili siber güvenlik ekiplerine sunuluyor. Google ayrıca Gemini'ın kişiselleştirilebilir Gems özelliğini aşamalı olarak Skills sistemiyle değiştirmeye hazırlanıyor. Skills, belirli görev ve iş süreçlerini tekrar kullanılabilir modüller haline getirirken birden fazla yeteneğin aynı iş akışında birlikte kullanılabilmesine imkan tanıyor.

Gemini Live'a Guided Vision özelliği geldi

Google, Gemini Live'a görme engelli ve az gören kullanıcılarla birlikte geliştirilen Guided Vision özelliğini ekledi. Kullanıcılar kameralarını paylaşarak çevrelerindeki nesneler, küçük yazılar ve mekanlar hakkında gerçek zamanlı sesli açıklamalar alabiliyor. Gemini gerektiğinde kameranın yönünün değiştirilmesini de sesli olarak tarif edebiliyor. Guided Vision, uyumlu Android cihazlarda Gemini uygulamasının yanı sıra TalkBack ve erişilebilirlik kısayolları üzerinden kullanılabiliyor.

Meta, kurumsal yapay zeka ve küçük işletmelere odaklanıyor

Meta, şirketlerin kendi verileri üzerinden yapay zeka uygulamaları ve agent'lar geliştirmesini sağlayan Meta Enterprise Platform'u duyurdu. Şirket böylece Microsoft, Google ve OpenAI'ın yoğun rekabet ettiği kurumsal yapay zeka pazarına daha doğrudan giriş yaptı.

Meta'nın kişisel yapay zeka agent'ı Muse ise ABD'de kullanıma sunulmasından sonraki 22 günde 5 milyon indirmeyi aştı. Şirket şimdi Muse'u küçük işletmelere de açıyor. Muse; Shopify, QuickBooks, Stripe, Asana, Canva, Slack ve Instagram gibi servislerle bağlanarak işletme bağlamını anlayabiliyor ve kullanıcının belirlediği hedefler doğrultusunda görevler yürütebiliyor. Meta, paylaşım yapma, mesaj gönderme veya para harcama gibi işlemlerin işletme sahibinin onayı olmadan gerçekleştirilmediğini belirtiyor.

Manus 2.0 ile agent'lara telefon numarası, e-posta ve bilgisayar geliyor

Manus, geçen yıl tanıttığı yapay zeka agent platformunun ilk büyük yenilemesi Manus 2.0'ı duyurdu. Yeni sürüm; video düzenleme, oyun geliştirme, otomasyon ve bulut bilgisayar gibi yetenekleri Manus Studio altında bir araya getiriyor. Yeni Cue uygulamasında ise her kişisel agent kendi e-posta adresine, telefon numarasına, cüzdanına ve bilgisayarına sahip olabiliyor. Birden fazla agent aynı hedef doğrultusunda ekip halinde çalışarak görevleri birbirine aktarabiliyor.

DoorDash, şirketlerin yapay zeka agent'larının yemek sipariş etmesini sağlıyor

DoorDash, şirketlerin kullandığı yapay zeka araçlarını kendi sipariş altyapısına bağlayan yeni bir connector duyurdu. Model Context Protocol kullanan sistem sayesinde agent'lar restoran bulabiliyor, sepet hazırlayabiliyor, sipariş verebiliyor ve teslimatı takip edebiliyor. Örneğin şirket içindeki bir Slack botu çalışanların öğle yemeği taleplerini toplayarak toplu sipariş oluşturabilecek. Aynı sistem ofiste azalan atıştırmalık veya diğer malzemelerin otomatik olarak yeniden sipariş edilmesi için de kullanılabilecek. DoorDash ayrıca kuryelerin işe başlamasına ve teslimat süreçlerini yönetmesine yardımcı olacak yeni yapay zeka araçlarını da tanıttı.

Tavus'dan yeni Human Interaction Model: Griffin

Tavus da Griffin isimli yeni Human Interaction Model’ını tanıttı. Griffin, kullanıcıyı görürken ve dinlerken aynı anda konuşabiliyor; mimikleri ve konuşma akışını takip ederek gerçek zamanlı bir video görüşmesi gerçekleştirebiliyor. Tavus’un yaptığı bir dakikalık testte katılımcıların yüzde 48’i karşısındakinin gerçek bir insan olduğunu düşündü.

ChatGPT artık kıyafetleri sanal olarak denemenizi sağlıyor

OpenAI, ChatGPT'ye kıyafet ve aksesuarları kullanıcının kendi fotoğrafı üzerinde sanal olarak deneyebilmesini sağlayan bir özellik ekledi. Ürün sonuçlarında yer alan “Try on” seçeneğine dokunan kullanıcılar bir selfie yükleyerek ürünün kendilerinde nasıl görünebileceğine ilişkin yapay zeka tarafından oluşturulan bir görsel elde edebiliyor. ChatGPT aynı zamanda ürünleri favorilere kaydetme ve Library içinde klasörlerde düzenleme imkanı sunuyor. Özellik mobil ve web sürümlerinde kullanıma sunuldu.

Audible, kullanıcıların hikaye karakterleriyle konuşmasını sağlayacak

Amazon çatısı altında yer alan Audible; Character Guide, Interactive Story ve Visual Explorer isimli üç yeni özellik tanıttı. Character Guide kullanıcıların uzun hikayelerdeki karakterleri takip etmesini kolaylaştırırken Visual Explorer dinlenen içerikle ilişkili görsel ve ek bilgiler sunuyor. Interactive Story ise belirli yapımlarda kullanıcının yapay zeka aracılığıyla hikayedeki karakterlerle etkileşime geçebilmesine olanak tanıyor. Audible, özelliklerin içerik üreticileriyle birlikte geliştirildiğini belirtiyor.

HeyGen'den saniyesi 1 cent'ten başlayan yeni video modeli

Yapay zeka avatarlarıyla tanınan HeyGen, şirketlere yönelik ilk genel amaçlı video modeli HeyGen Video'yu duyurdu. MiniMax H3 temel alınarak geliştirilen model; metinden videoya, görselden videoya ve referans görsellerle video üretme özelliklerini tek modelde topluyor. Üretilen videolar diyalog, ortam sesi ve ses efektleriyle birlikte oluşturulabiliyor. Ekim ayı boyunca modelin API fiyatı saniye başına 0,01 dolardan başlıyor.

Amazon'dan Jev'e rakip açık kaynaklı karar modeli: Strands Decider 2B

Amazon Web Services ekibi, TypeSafe'in Jev modelinin ardından küçük karar modellerine odaklanan Strands Decider 2B'yi açık kaynak olarak kullanıma sundu. Yaklaşık 2 milyar parametreli model, geleneksel büyük dil modelleri gibi uzun yanıtlar üretmek yerine kendisine sunulan seçenekler arasından karar vermeye odaklanıyor. Bu yaklaşım agent'ların hangi aracı kullanacağına karar vermesi, istekleri doğru sisteme yönlendirmesi veya gerçekleştirilecek eylemi seçmesi gibi yüksek sıklıklı görevlerde daha düşük gecikme ve maliyet sunmayı hedefliyor.

Instagram'dan içerik üreticilerine yapay zeka destekli video asistanı

Instagram, Edits uygulamasına içerik üreticilerinin video performanslarını analiz eden yapay zeka destekli bir asistan ekledi. Sistem Instagram metriklerinin yanı sıra platformdaki trendleri inceleyerek içerik üreticilerine kişiselleştirilmiş öneriler sunuyor. Böylece üretken yapay zeka araçlarının içerik üretmekten içerik stratejisini ve performansı analiz etmeye doğru genişlediğini görüyoruz.

Yapay zeka yatırımlarında milyar dolarlık değerlemeler devam ediyor

OpenAI'ın en az 30 milyar dolarlık yeni bir yatırım turu için görüşmeler yürüttüğü belirtiliyor. Bloomberg'e dayandırılan bilgilere göre şirket yatırım öncesinde yaklaşık 1,4 trilyon dolar değerleme hedefliyor.

Gayrimenkul ve sağlık sektörlerinde otomasyon araçları geliştiren EliseAI, 4 milyar dolar değerleme üzerinden 350 milyon dolar yatırım aldı. Kişisel yapay zeka asistanları geliştiren Instinct'in değerlemesi 1 milyar dolarlık yatırımla 10 milyar dolara ulaşırken yapay zeka işlemcileri geliştiren SiMa AI 1,45 milyar dolar değerleme üzerinden 150 milyon dolar yatırım aldı. Yapay zeka destekli ses teknolojileri geliştiren ElevenLabs'in değerlemesi ise gerçekleştirilen ikincil hisse satışıyla 22 milyar dolara yükseldi.

Yapay zeka destekli donanım tasarım platformu Flow da 50 milyon dolar yatırım aldı. Kevin Mandia tarafından kurulan yapay zeka odaklı siber güvenlik girişimi Armadin, 255,5 milyon dolarlık B serisi yatırım turunu tamamladı. Andreessen Horowitz ve Accel'in ortaklaşa yönettiği tur sonrasında şirketin değerlemesi 2,5 milyar doların üzerine çıktı. Armadin, çok sayıda yapay zeka agent'ını aynı anda kullanarak gerçek saldırganların izleyebileceği yolları simüle ediyor ve şirketlerin güvenlik açıklarını saldırılardan önce tespit etmeyi hedefliyor.

Yarı iletken ve yapay zeka altyapısı girişimi Volantis, Lachy Groom ve Abstract Ventures liderliğindeki A serisi turda 88 milyon dolar yatırım aldı. Şirket, GPU'larla bellek çipleri arasındaki iletişimde elektriksel bağlantılar yerine ışık kullanan fotonik bir mimari geliştiriyor.

Kaynak: Webrazzi