Microsoft, yapay zekâ çıkarımında kendi hızlandırıcısına yöneliyor
Özet haber: Microsoft’un 2027’de üretim ortamlarında kullanmayı planladığı Maia 300, yapay zekâ modellerinin çıkarım süreçlerinde verimliliği artırmayı ve şirketin Nvidia ile AMD GPU’larına bağımlılığını azaltmayı hedefliyor.
Microsoft, yapay zekâ iş yükleri için geliştirdiği üçüncü nesil hızlandırıcı Maia 300’ü tanıttı. Uzun bağlamlı akıl yürütme, düşük gecikmeli sohbetler ve çok aşamalı görevleri yürüten yapay zekâ ajanları için tasarlanan çipin, büyük ölçekli model çalıştırmanın maliyetini düşürmesi amaçlanıyor.
Şirketin verilerine göre Maia 300, önde gelen GPU tabanlı sistemlere göre megavat başına yüzde 40 daha fazla token işleyebilecek. 96 hızlandırıcıdan oluşan bir sunucu rafı ise Maia 200’e kıyasla token işleme kapasitesini 7 kata kadar artıracak.
Microsoft, Azure altyapısında 2027’den itibaren çok gigavatlık Maia kurulumlarına geçmeyi planlıyor. Şirket böylece kendi ürün ve hizmetlerindeki yapay zekâ çıkarımının temelini kendi hızlandırıcılarına dayandırmayı hedefliyor.
Maia 300, sekiz HBM4 bellek yığını ve 18 TB/s tepe bellek bant genişliği kullanıyor. Termal tasarım gücü 950 watt olan hızlandırıcıda hesaplama birimleri, bellek denetleyicileri ve giriş-çıkış işlevleri ayrı bileşenlere ayrılıyor. Hesaplama birimi TSMC’nin N2P üretim süreciyle hazırlanırken, çoklu chiplet mimarisi farklı bölümlerde uygun üretim teknolojilerinin kullanılmasına ve hesaplama için daha fazla silikon alanı ayrılmasına imkân veriyor.
Kaynak: DonanımHaber
