A Hopper GPU-k az NVIDIA legújabb generációs, nagy teljesítményű grafikus processzorai, amelyeket kifejezetten mesterséges intelligencia (AI) és nagy teljesítményű számítástechnika (HPC) céljára fejlesztettek ki. A fejlett Tensor Cores magokkal rendelkező, csúcstechnológiás architektúrájuk több innovatív technológiát integrál, hogy maximális hatékonyságot biztosítson. A Hopper GPU-k számos különböző feladat elvégzésére ideálisak, támogatják az AI-következtetést, a mélytanulási képzést, a generatív AI-t és még sok mást.

Mi az NVIDIA Hopper GPU-k architektúrájának kialakítása?

A „Hopper GPU” név a Hopper architektúrából származik, amely a nagy teljesítményű grafikus processzorok alapját képező GPU mikroarchitektúra, és amely mesterséges intelligencia (AI) feladatokra és nagy teljesítményű számítástechnikai (HPC) alkalmazásokra van optimalizálva. A Hopper GPU-kat a TSMC gyártja 4 nanométeres technológiával, és több mint 80 milliárd tranzisztort tartalmaznak, ami őket a piacon elérhető legfejlettebb grafikus kártyák közé sorolja.

A Hopper architektúrával az NVIDIA ötvözi a legújabb generációs Tensor magokat öt forradalmi újítással: transzformátor motor, NVLink/NVSwitch/NVLink kapcsolórendszerek, bizalmas számítástechnika, második generációs többpéldányos GPU-k (MIG-ek) és DPX utasítások. Ezek a technológiák lehetővé teszik a Hopper GPU-k számára, hogy az előző generációhoz képest akár 30-szoros AI-következtetés-gyorsítást érjenek el (az NVIDIA Megatron 530B chatbotja alapján – a világ legátfogóbb generatív nyelvi modellje).

Melyek a Hopper GPU-k innovatív jellemzői?

A Hopper GPU-k számos új funkcióval rendelkeznek, amelyek javítják a teljesítményt, a hatékonyságot és a skálázhatóságot. Az alábbiakban bemutatjuk a legfontosabb újításokat:

  • Transformer motor: A transformer motor segítségével a Hopper GPU-k akár kilencszer gyorsabban képesek AI modelleket képezni. A nyelvi modellek területén végzett következtetéses feladatok esetében a GPU-k akár 30-szoros gyorsulást érnek el az előző generációhoz képest.
  • NVLink kapcsolórendszer: A negyedik generációs NVLink 900 GB/s kétirányú GPU sávszélességet biztosít, míg az NVSwitch jobb skálázhatóságot garantál a H200 klaszterek számára. Ez biztosítja, hogy a billió paraméterrel rendelkező AI modellek hatékonyan feldolgozhatók legyenek.
  • Bizalmas számítástechnika: A Hopper architektúra biztosítja, hogy az adatok, AI-modellek és algoritmusok feldolgozás közben is védve legyenek.
  • Multi-instance GPU (MIG) 2.0: A MIG technológia második generációja lehetővé teszi, hogy egy Hopper GPU-t akár hét izolált példányra osszanak. Ez lehetővé teszi, hogy több ember egyszerre dolgozzon különböző feladatokon anélkül, hogy zavarnák egymást.
  • DPX utasítások: A DPX utasítások lehetővé teszik a dinamikusan programozott algoritmusok akár hétszer gyorsabb kiszámítását, mint az Ampere architektúrájú GPU-k esetében.

Milyen felhasználási esetekre alkalmasak a Hopper GPU-k?

A Hopper architektúrán alapuló NVIDIA GPU-k széles körű, nagy teljesítményű munkaterhelésekhez lettek tervezve. A Hopper GPU-k fő alkalmazási területei a következők: ¬

  • Következtetés feladatok: A GPU-k az iparág vezető megoldásai közé tartoznak az AI következtetés produktív felhasználása terén. Akár e-kereskedelmi ajánló rendszerekről, orvosi diagnosztikáról vagy autonóm vezetéshez szükséges valós idejű előrejelzésekről van szó, a Hopper GPU-k hatalmas adatmennyiségeket képesek gyorsan és hatékonyan feldolgozni.
  • Generatív mesterséges intelligencia: A csúcskategóriás GPU-k biztosítják a generatív mesterséges intelligenciával rendelkező eszközök betanításához és futtatásához szükséges számítási teljesítményt. A párhuzamos feldolgozás hatékonyabb számításokat tesz lehetővé olyan kreatív feladatokhoz, mint a szöveg-, kép- és videógenerálás.
  • Mélytanulásos képzés: Nagy számítási teljesítményükkel a Hopper GPU-k ideálisak nagy neurális hálózatok képzéséhez. A Hopper architektúra jelentősen lerövidíti az AI-modellek képzési idejét.
  • Beszélgető mesterséges intelligencia: A természetes nyelvfeldolgozáshoz (NLP) optimalizált Hopper GPU-k ideálisak mesterséges intelligenciával működő nyelvi rendszerekhez, például virtuális asszisztensekhez és mesterséges intelligenciával működő csevegőrobotokhoz. Felgyorsítják a nagy mesterséges intelligencia modellek feldolgozását, és biztosítják a gyors reagálású interakciót, amely zökkenőmentesen integrálható az üzleti folyamatokba, például a támogatásba.
  • Adatelemzés és nagy adathalmazok: A Hopper GPU-k nagy sebességgel kezelnek hatalmas adatmennyiségeket, és hatalmas párhuzamos feldolgozással gyorsítják a komplex számításokat. Ez lehetővé teszi a vállalatok számára, hogy gyorsabban értékeljék a nagy adathalmazokat, hogy előrejelzéseket készítsenek és a megfelelő intézkedéseket megtegyék.
  • Tudomány és kutatás: Mivel a GPU-k HPC-alkalmazásokhoz lettek tervezve, ideálisak rendkívül komplex szimulációkhoz és számításokhoz. A Hopper GPU-kat például asztrofizikában, éghajlatmodellezésben és számításos kémiában használják.

A NVIDIA jelenlegi modelljei

Az NVIDIA H100 és az NVIDIA H200 megjelenésével az amerikai vállalat két Hopper GPU-t vezetett be a piacra. Ezzel szemben az NVIDIA A30 továbbra is a korábbi Ampere architektúrán alapul. Technikai szempontból a H200 nem teljesen új modell, hanem a H100 továbbfejlesztett változata. Az alábbi áttekintés bemutatja a két GPU közötti legfontosabb különbségeket:

  • Memória és sávszélesség: Míg az NVIDIA H100 80 GB HBM3 memóriával rendelkezik, a H200 GPU 141 GB kapacitású HBM3e memóriával van felszerelve. A H200 a memóriaszélesség tekintetében is egyértelműen előrébb jár, 4,8 TB/s-mal szemben a H100 2 TB/s-ával.
  • Teljesítmény AI-következtetéshez: Összehasonlításképpen, az NVIDIA H200 kétszeres következtetési teljesítményt nyújt olyan modellekhez, mint az LLaMA 2-70 B. Ez nemcsak gyorsabb feldolgozást, hanem hatékony méretezést is lehetővé tesz.
  • HPC-alkalmazások és tudományos számítások: A H100 már első osztályú teljesítményt nyújt komplex számításokhoz, amelyet a H200 még felülmúl. Az inferencia sebessége akár kétszer akkora, a HPC-teljesítmény pedig körülbelül 20 százalékkal magasabb.
Ugrás a főmenübe