Nisan ayında tanıtılan H100, 80 milyar transistörden oluşuyor ve bir dizi teknolojik gelişmeden yararlanıyor. Bunlar arasında güçlü yeni Trafo Motoru ve bir NVIDIA NVLinkGelişmiş öneri sistemleri ve büyük dil modelleri gibi en büyük yapay zeka modellerini hızlandırmak ve konuşma tabanlı yapay zeka ve ilaç keşfi gibi alanlarda yenilikleri yönlendirmek için ® ara bağlantısı.
Kurucu ve CEO Jensen Huang, “Hopper, yapay zeka fabrikalarının yeni motoru, dil tabanlı yapay zeka, robotik, sağlık ve yaşam bilimlerinde ilerleme sağlamak için kullanılan trilyonlarca parametreli modelleri eğitmek için dağlarca veriyi işliyor ve rafine ediyor” dedi. NVIDIA’nın. “Hopper’ın Transformer Engine’i, performansı bir büyüklük sırasına kadar artırarak, büyük ölçekli AI ve HPC’yi şirketlerin ve araştırmacıların erişimine sunuyor.”
Hopper’ın mimarisine ve Transformer Engine’e ek olarak, birkaç başka anahtar yenilikler H100 GPU’yu, ikinci nesil Çok Örnekli GPU, gizli bilgi işlem, dördüncü nesil NVIDIA NVLink ve DPX Talimatları dahil olmak üzere NVIDIA’nın hızlandırılmış bilgi işlem veri merkezi platformunda bir sonraki büyük sıçramayı sağlamak için güçlendirin.
için beş yıllık bir lisans NVIDIA AI Kurumsal yazılım paketi artık ana akım sunucular için H100’e dahildir. Bu, AI iş akışlarının geliştirilmesini ve dağıtımını optimize eder ve kuruluşların AI sohbet robotları, öneri motorları, vizyon AI ve daha fazlasını oluşturmak için gereken AI çerçevelerine ve araçlarına erişmesini sağlar.
Hopper’ın Küresel Sunumu
H100, önceki nesle göre 5 kat daha az sunucu düğümü kullanırken, aynı AI performansını 3,5 kat daha fazla enerji verimliliği ve 3 kat daha düşük toplam sahip olma maliyetiyle sunarak, şirketlerin AI dağıtma maliyetlerini düşürmelerine olanak tanır.
NVIDIA, yeni teknolojiyi hemen denemek isteyen müşteriler için Dell PowerEdge sunucularında H100’ün artık şu anda mevcut olduğunu duyurdu. NVIDIA Başlatma Paneliücretsiz uygulamalı laboratuvarlar sağlayarak şirketlere en son donanıma ve NVIDIA AI yazılımına erişim sağlar.
Müşteriler ayrıca sipariş vermeye başlayabilir NVIDIA DGX™ H100 sistemlerisekiz H100 GPU içeren ve FP8 hassasiyetinde 32 petaflop performans sunan . NVIDIA Temel Komutanlığı™ ve NVIDIA AI Enterprise yazılımı, her DGX sistemine güç vererek tek bir düğümden bir NVIDIA DGX SuperPOD™, büyük dil modellerinin ve diğer büyük iş yüklerinin gelişmiş AI geliştirmesini destekler.
Dünyanın önde gelen bilgisayar üreticilerinden H100 destekli sistemlerin önümüzdeki haftalarda piyasaya sürülmesi bekleniyor. Yıl sonuna kadar piyasada 50’den fazla sunucu modeli ve 2023’ün ilk yarısında düzinelerce sunucu modeliyle birlikte. Ortak bina sistemleri arasında Atos, Cisco yer alıyor. , Dell TeknolojileriFujitsu, GIGABYTE, Hewlett Packard Enterprise, Lenovo ve süper mikro.
Ayrıca, dünyanın önde gelen yüksek öğretim ve araştırma kurumlarından bazıları, yeni nesil süper bilgisayarlarına güç sağlamak için H100’ü kullanacak. Bunlar arasında Barselona Süper Bilgi İşlem Merkezi, Los Alamos Ulusal Laboratuvarı, İsviçre Ulusal Süper Bilgi İşlem Merkezi (CSCS), Teksas İleri Düzey Bilgi İşlem Merkezi ve Tsukuba Üniversitesi bulunmaktadır.
H100 Buluta Geliyor
Amazon Web Servisleri, Google Cloud, Microsoft Azure ve Oracle Bulut Altyapısı gelecek yıldan itibaren bulutta H100 tabanlı örnekleri ilk dağıtanlardan biri olacak.
Azure AI Infrastructure genel müdürü Nidhi Chappell, “Microsoft Azure’daki en yeni H100 GPU’larda yeni nesil AI modellerini etkinleştirmek için sabırsızlanıyoruz” dedi. “Azure AI süper hesaplamaya yaptığımız yatırımlarla birleşen Hopper mimarisindeki gelişmelerle, dünya çapında AI gelişimini hızlandırmaya yardımcı olabileceğiz.”
Oracle Bulut Altyapısı ürün yönetimi başkan yardımcısı Karan Batta, “Müşterilerimize NVIDIA’nın en yeni H100 GPU’larını sunarak, en karmaşık makine öğrenimi ve HPC iş yüklerini hızlandırmalarına yardımcı oluyoruz” dedi. “Ayrıca, NVIDIA’nın yeni nesil H100 GPU’larını kullanmak, zorlu dahili iş yüklerimizi desteklememize olanak tanıyor ve ortak müşterilerimize sağlık, otonom araçlar, robotik ve IoT alanlarında atılımlarla yardımcı oluyor.”
NVIDIA Yazılım Desteği
H100’ün gelişmiş Transformer Engine teknolojisi, kuruluşların daha yüksek doğruluk düzeyiyle büyük dil modellerini hızla geliştirmelerini sağlar. Bu modeller ölçek olarak büyümeye devam ettikçe, bazen eğitilmesi aylar gerektiren karmaşıklık da artar.
Bunun üstesinden gelmek için, dünyanın önde gelen büyük dil modellerinden bazıları ve derin öğrenme çerçeveleri H100’de optimize ediliyor. NVIDIA NeMo Megatron, Microsoft DeepSpeed, Google JAX, PyTorch, TensorFlow ve XLA. Hopper mimarisiyle birleştirilen bu çerçeveler, büyük dil modellerini günler veya saatler içinde eğitmeye yardımcı olmak için AI performansını önemli ölçüde hızlandıracak.
NVIDIA Hopper ve H100 hakkında daha fazla bilgi edinmek için Huang’ın GTC açılış konuşması. GTC’ye kaydolun NVIDIA ve endüstri liderleriyle oturumlara katılmak için ücretsiz.
İçerik Business Wire India’ya aittir. DKODING Medya, sağlanan içerikten veya bu içerikle ilgili herhangi bir bağlantıdan sorumlu değildir. DKODING Medya içeriğin doğruluğundan, güncelliğinden veya kalitesinden sorumlu değildir.
Source : https://www.dkoding.in/press-release/nvidia-hopper-in-full-production/