NVIDIA, Yapay Zekâ İçin Özel Geliştirilen Bugüne Kadarki En Gelişmiş Çipini Duyurdu: İşte Akılalmaz Özellikleri

İş ve oyuna yönelik performans donanımlarının yanı sıra yapay zekâ dalının de donanım mimarlarından olan NVIDIA, üretken yapay zekâların çalıştırılmasında kullanılacak yeni çipini duyurdu. Çip, yapay zekâ çipi serisi GH’ın yeni üyesi GH200 oldu.

NVIDIA GH200, şirketin paylaştığı duyuruya nazaran en karmaşık ve yüklü üretken yapay zekâ süreçlerinin üstesinden gelebilecek, vektör, teklifçi ve büyük çaplı lisan modelleri için kullanılabilecek. Öte yandan çip, şirketin şu anki en güçlü yapay zekâ çipi H100 ile tıpkı grafik işlemcisini taşıyacak.

Aynı grafik işlemci var lakin daha yüksek hafıza sunulacak:

Çip, H100 grafik işlemcisiyle tıpkı işlemciyi taşıyacak olsa da bu üniteden 3,5 kat daha fazla hafıza (282 GB) sunacak. Bu hafıza, H100’de bulunan dördüncü kuşak Tensor çekirdekleri ve Transformer Engine ile sunulan performans ile birleştiğinde standart bir kullanıcının hayal edemeyeceği derecede yüksek süreç gücü sunacak.

Ayrıca değişen şey yalnızca hafıza ölçüsü olmayacak. GH200 ile yeni HBM3e bellek de kullanıma sunulacak. Bu bellek hakkında şimdi bilgiler paylaşılmamış olsa da bir evvelki nesile nazaran %50 daha hızlı olacak.

NVIDIA’nın H100 grafik ünitesi, saniyede 3,35 TB’a kadar data transfer suratı sunabiliyor. Bunu, standart tüketiciler için günümüzün en güçlü grafik işlemcisi karşılaştırmak gerekirse NVIDIA GeForce RTX 4090, saniyede 1 TB’a kadar transfer destekliyor. GH200’de ise bu sayının saniyede 10 TB’a çıkacak.

Üstelik NVIDIA’nın yapay zekâ çipleri tek başına kullanılan çipler de değil. Şirketin “NVLink Switch System” teknolojisi sayesinde birebir anda 256 adet işlemci birbiriyle temaslı bir biçimde kullanılabiliyor. Saniyede 850 TB’dan fazla bilgi transferi yapılabiliyor (H100 serisi datalarına göre). Böylelikle trilyonlarca parametreye sahip yapay zekâ sistemleri çalıştırılıyor, eğitiliyor.

NVIDIA, GH200’ün fiyatını şimdi açıklamadı. Lakin H100 serisi grafik ünitelerinin günümüzde yaklaşık 40 bin dolardan satıldığını belirtelim.