Microsoft’tun birinci AI çipi Maia 100’ün ayrıntıları açıklandı!

0

BEĞENDİM

ABONE OL

News

0

Microsoft’un, Hot Chip 2024 konferansında tanıttığı birinci özelleştirilmiş yapay zeka (AI) çipi olan Maia 100 çipinin ayrıntıları ortaya çıktı. Bu küçük çip, AI iş yüklerini daha evvel hiç olmadığı kadar süratli ve verimli hale getirmeyi vaat ediyor. Pekala, Microsoft Maia 100 neler sunuyor? Ayrıntılar haberimizde…

Microsoft’tun birinci özelleştirilmiş AI çipi Maia 100, TSMC’nin 5nm teknolojisiyle üretildi

Öncelikle bu yeni çip, Microsoft’un Azure platformunda büyük ölçekli AI uygulamaları için özel olarak tasarlanmış. Microsoft, Maia 100 çipini TSMC’nin 5nm teknolojisiyle üretti. Bu, çipin çok daha küçük, lakin çok daha güçlü olduğu manasına geliyor.

820 mm² üzere devasa bir boyuta sahip olan bu çip, birebir vakitte 64 GB HBM2E bellekle donatılmış. 1.8 TB/s bellek bant genişliği sayesinde, AI uygulamalarınızın muhtaçlık duyduğu tüm bilgileri son derece süratli bir biçimde işleyebiliyor. Bu sürat, bilhassa büyük data setleri ve ağır AI süreçleri için son derece kıymetli.

Çipin performansına gelince, burada da inanılmaz sayılar karşımıza çıkıyor. 6-bit ağır Tensor süreçlerinde yüksek performans sunarken, BF16 formatında ise 0.8 TOPS üzere etkileyici bir süreç gücü sağlıyor. Yani, AI model eğitimi ve çıkarım süreçlerinde çok daha süratli sonuçlar elde edebilecek.

Microsoft Maia 100 AI çipinin bir öbür dikkat cazip istikameti de güç verimliliği. 700W’lık bir tasarım gücüne sahip olmasına karşın, kullanım sırasında 500W TDP ile çalışıyor. Bu da, yüksek performans gerektiren vazifelerde bile güç tasarrufunu maksimize ettiğini gösteriyor. Bu özellik, bilhassa büyük data merkezleri ve bulut hizmetleri sunan işletmeler için büyük bir avantaj sağlayacak.

Bu çip yalnızca sürat ve güç açısından değil, birebir vakitte ilişki seçenekleri açısından da üstün. 600 GB/s art uç bant genişliği ile bilgileri inanılmaz bir süratle taşıyabiliyorsunuz. PCIe Gen5X8 ilişkisiyle da 32 GB/s suratında bilgi transferi mümkün hale geliyor. Bu temas özellikleri, büyük bilgi sürece ve dağıtık AI uygulamaları için ülkü bir altyapı sunuyor.

Microsoft, Maia 100’ü sadece donanım olarak değil, yazılım açısından da güçlü bir paketle sunuyor. Özel olarak geliştirilen Maia SDK, geliştiricilerin PyTorch ve Triton üzere tanınan AI modellerini süratli bir halde bu yeni çipe taşımalarına imkan tanıyor.

Peki, siz bu çip hakkında ne düşünüyorsunuz? Bu çipin yapay zeka çalışmalarında nasıl bir tesir yaratacağını düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmına yazabilirsiniz.