最強的AI處理器!

NVIDIA推出史上全新架構的H100處理器

· AI,nvidia


NVIDIA於今年3月宣佈,推出新一代加速運算平台的Hopper架構,效能比上一代平台Ampere呈指數級成長,這款GPU封裝了800億個電晶體,成為目前全球最大且效能最強的圖形加速器,而其突破性的功能,如革命性的Transformer Engine及高度擴展性的NVLink互連技術,可以應用在大規模的AI語言模型、深度推薦系統、基因組學和複敦的數位分身等領域的發展。

由於H100的強大運算能力,各大人工智慧平台都爭相搶訂這顆超級處理器,Google在今年的年度雲端大會Google Cloud Next 23’上,也請到NVIDIA執行長黃仁勳親自出席,與Google雲端執行長 Thomas Kurian 宣布擴大合作。Google將採用H100的技術架構,建置最新雲端超級電腦,以執行Google的大型語言模型,並利用Vertex AI提供生成式人工智慧AIGC服務。

這顆售價 USD 25,000 ~ 30,000 的高檔CPU,根據Raymond James證券估算,製造成本大概落在USD3,320左右,如果不考慮研發成本的話,NVIDIA H100的利潤高達823%。這將會再度推動NVIDIA的股價持續上漲,也會帶動整個AI產業鏈成長。就連Tesla都傳出將啟動超級電腦,準備用於各式人工智慧應用,Tesla的投資人 Sawyer Merritt透過社交平台X (Twitter) 指出,Tesla已啟動10,000顆H100 GPU Cluster,會協助訓練全自動輔駕駛FSD 系統。

但是NVIDIA顯然遇到了產能不足的問題。根據CoreWeaver共同創辦人兼技術長Brian Venturo透露,H100到今年底之前恐怕都會缺貨。

這也是因為NVIDIA採用台積電4奈米製程,專為滿足NVIDIA加速運算需求設計,而台積電目前的產能跟不上市場的需求,這也是為什麼台積電開始不斷在持續擴廠,期望能夠彌補產能的缺口。