Arm AGI CPU, AMD EPYC’yi Geride Bıraktı: 2 Kat Performans Farkı!
Özet haber: Arm’ın yapay zekâ ajanları için geliştirdiği AGI CPU, yeni performans testlerinde AMD’nin EPYC işlemcilerini geride bıraktı. Yedi farklı iş yükünde raf başına ortalama 1,99 kat performans avantajı elde eden işlemci, yapay zekâ ajanlarının kullandığı izole çalışma ortamlarının oluşturulmasında da yüzde 45’e varan süre avantajı sağladı.Arm AGI CPU, AMD EPYC 9755 Karşısında Nasıl Bir Performans Sergiledi?Arm […] Devamı: Arm AGI CPU, AMD EPYC’yi Geride Bıraktı: 2 Kat Performans Farkı! Technopat

Arm’ın yapay zekâ ajanları için geliştirdiği AGI CPU, yeni performans testlerinde AMD’nin EPYC işlemcilerini geride bıraktı. Yedi farklı iş yükünde raf başına ortalama 1,99 kat performans avantajı elde eden işlemci, yapay zekâ ajanlarının kullandığı izole çalışma ortamlarının oluşturulmasında da yüzde 45’e varan süre avantajı sağladı.
Arm AGI CPU ile AMD’nin beşinci nesil EPYC 9755 işlemcisi, yapay zekâ ajanlarının gerçekleştirdiği işlemleri temel alan yedi farklı iş yükünde karşılaştırıldı. Signal65 tarafından Arm iş birliğiyle yürütülen çalışmada işlemcilerin sunucu düzeyindeki performansları ölçüldü, ardından belirli bir güç tüketimi sınırı altında sunucu rafı başına sağlayabilecekleri toplam işlem kapasitesi hesaplandı. Testler, yapay zekâ ajanlarının araç kullanımı, otonom görev yürütme, bilgi erişimi ve yapay zekâ modellerinin çalışmasını destekleyen CPU işlemlerine odaklandı.
Terminal-Bench 2 ve SWE-bench gibi testlerin de yer aldığı karşılaştırmada Arm AGI CPU, raf başına hesaplanan performansta AMD EPYC 9755’in ortalama 1,99 katına ulaştı. Yedi iş yükündeki performans oranları 1,43 kat ile 3,19 kat arasında değişti.
En yüksek farkın görüldüğü senaryoda Arm tabanlı sistemlerin aynı raf ve güç bütçesi içerisinde AMD tabanlı yapılandırmanın üç katından fazla iş tamamlayabildiği hesaplandı.
Performans farkının önemli bir bölümü sunucuların güç tüketiminden kaynaklanıyor. 24 kW güç bütçesine sahip bir sunucu rafında, yapılandırmaya bağlı olarak 21 ile 23 arasında Arm AGI CPU sunucusu kullanılabiliyor. Aynı güç sınırı altında çift soketli AMD EPYC 9755 sunucularından ise 13 adet yerleştirilebiliyor.
Bu yapılandırmalarda Arm tarafındaki toplam fiziksel çekirdek sayısı 5.712 ile 5.888 arasında değişirken AMD tarafında 3.328 çekirdek bulunuyor. Arm tabanlı sunucuların hesaplamalarda kullanılan güç tüketimi 950 ile 1.050 watt arasında, çift soketli AMD sistemlerinin güç tüketimi ise 1.700 watt seviyesinde. Karşılaştırmadaki raf yoğunluğu ve toplam performans sonuçları, işlemcilerin ölçülen performansları ile sunucuların belirtilen güç değerleri üzerinden modelleniyor.
Farklı yapay zekâ iş yükleri ayrı ayrı değerlendirildiğinde de Arm AGI CPU’nun üstünlüğü devam ediyor. Yazılım araçlarının çalıştırıldığı senaryolarda ortalama 1,7 kat, yapay zekâ ajanlarının görev akışları ve orkestrasyon işlemlerinde 2 kat, akıl yürütme ve planlama süreçlerini destekleyen CPU iş yüklerinde ise 2,2 kat raf başına performans avantajı hesaplandı. Testler yalnızca yapay zekâ modellerinin çıkarım hızını değil, modellerin çevresinde çalışan yazılım altyapısını da kapsıyor.
Sunucu sayısındaki ve işlem kapasitesindeki farklılık, ihtiyaç duyulan veri merkezi altyapısına ilişkin hesaplamalara da yansıdı. Web sunucusu işlemleri, yapay zekâ ajanlarının kaydedilmiş görev akışlarının yeniden çalıştırılması ve model sunumuna ilişkin CPU işlemlerinde aynı miktarda işi tamamlamak için gereken raf sayısı Arm tarafında yaklaşık yarıya düştü. Veritabanı ve vektör arama iş yüklerinde ise eşdeğer işlem kapasitesi için yüzde 30 ile yüzde 35 arasında daha az raf gerektiği hesaplandı.
Araştırmanın ikinci bölümünde Arm AGI CPU, bu kez AMD EPYC 9965 ile karşılaştırıldı. Sandbench kullanılarak gerçekleştirilen testlerde yapay zekâ ajanlarının kod çalıştırmak ve görevlerini yürütmek için oluşturduğu izole çalışma ortamlarının başlatılma süreleri incelendi. Karşılaştırmada runc, Firecracker ve gVisor olmak üzere üç farklı çalışma ortamı teknolojisi kullanıldı.
Arm AGI CPU, soğuk başlatma işlemlerini AMD EPYC 9965’e kıyasla yüzde 45 daha kısa sürede tamamladı. Daha önce hazırlanmış bir ortamın yeniden başlatıldığı sıcak başlatma senaryolarında süre yüzde 27 azalırken, kaynakların dört kat fazla tahsis edildiği yoğun kullanım koşullarındaki en kötü durumda yüzde 41 daha düşük başlatma süresi kaydedildi. Bu testte karşılaştırma, çift soketli AMD EPYC 9965 sistemi üzerinden yapıldı.
Yapay zekâ ajanları, geleneksel sohbet botlarından farklı olarak bir görevi tamamlamak için birden fazla yazılım aracını kullanabiliyor, veri tabanlarına erişebiliyor, kod çalıştırabiliyor ve farklı hizmetlerle iletişim kurabiliyor.
Her yeni işlem, işlemci üzerinde ek yük oluştururken bazı görevlerde güvenli ve birbirinden ayrılmış çalışma ortamlarının hazırlanması gerekiyor. Bu nedenle işlemcinin yalnızca ham hesaplama performansı değil, aynı anda yürütülen çok sayıdaki işlemi ne kadar hızlı tamamladığı da önem taşıyor.
Arm, bu iş yüklerini değerlendirmek için Fujitsu, Meta ve OpenAI’ın desteğiyle yeni bir CPU performans ölçüm metodolojisi geliştirdi. Metodoloji, gerçek yapay zekâ ajanı kullanım senaryolarının temsil edilmesini, tekrarlanabilir işlemci testlerinin gerçekleştirilmesini ve sonuçların uçtan uca görev performansıyla karşılaştırılmasını kapsıyor.
İşlemci düzeyindeki ölçümler, yapay zekâ modelinin çıkarım performansı ve ağ gecikmesi gibi değişkenlerin etkisini ayırırken sistemin tamamında gerçekleştirilen testler de görevlerin sonuçlandırılma sürecini inceliyor.
Ancak açıklanan yaklaşık iki katlık avantaj, doğrudan kurulu ve çalışan iki veri merkezinin performans karşılaştırmasından elde edilmedi. Sunucu düzeyindeki ölçümler bağımsız olarak doğrulansa da raf başına sonuçlar güç tüketimi ve sunucu yoğunluğu üzerinden oluşturulan bir modele dayanıyor. Çalışma ayrıca Arm tarafından finanse edildi ve nihai üretim donanımları üzerindeki daha kapsamlı testler henüz tamamlanmadı.
Signal65’in sonraki testlerinde son üretim sürümündeki Arm AGI CPU sistemleri, daha fazla iş yükü ve farklı rakip işlemcilerle karşılaştırılacak. Mevcut sonuçlar da Arm mimarisinin bütün uygulamalarda x86 işlemcilerden daha hızlı çalıştığını ortaya koymuyor.
Yazılım uyumluluğu, sunucu kurulum maliyetleri, güç dağıtımı, soğutma altyapısı ve gerçek kullanım koşulları, AMD ve Intel tabanlı mevcut veri merkezlerinin Arm sistemlerine geçişinde belirleyici olmaya devam ediyor.
1996 yılında Üsküdar’da doğan Mert Can Aka, sinema, bilim, teknoloji ve tarih alanlarına duyduğu ilgiyle şekillenen kariyerinde teknoloji editörlüğüne odaklandı. Öğrenmeyi ve bilgiyi aktarmayı merkeze alan Aka, farklı kurumlarda çeşitli görevler üstlendi. Bu süreçte MediaMarkt’ın MediaTrend Teknolojik Yaşam dergisini son sayısına kadar yöneterek dergicilik tarafında da deneyim kazandı. Bilgisayar Mühendisliği, Bilgisayar Programcılığı, Web Tasarım ve Kodlama ile birlikte Adalet ve İktisat alanlarında akademik geçmişe sahip olan Aka, bugün Technopat’ta Yazı İşleri Müdürü olarak görev yapıyor. Otomotivden yapay zekaya, donanımdan ev teknolojilerine uzanan geniş bir yelpazede ürettiği on bini aşkın içerik yüz milyonlarca okura ulaştı.
Kaynak: Technopat


