報導記者/涂志豪
生成式AI應用遍地開花,輝達推新GPU
台北報導
隨著微軟轉投資OpenAI推出的聊天機器人ChatGPT全球爆紅,包括Google、阿里巴巴、百度等網路大廠也紛紛加入生成式人工智慧(Generative AI)戰局,繪圖處理器(GPU)大廠輝達(NVIDIA)將針對生成式AI應用,推出搭載代號為Ampere及Hopper的資料中心GPU的全新運算系統,法人預期龐大的GPU需求將有助於台積電及日月光投控今年營運表現逐季成長。
生成式AI的主體運算在於透過GPU進行機器學習後的訓練及推論,輝達2020年推出Ampere架構A100,目前已被大量運用在大型資料中心、專業繪圖、雲端及邊緣運算等領域,而輝達2022年推出新一代Hopper架構H100,配備最新的第四代NVLink互連技術,能夠支撐巨型AI語言模型、深層推薦系統、基因體學運算、及複雜的數位孿生等運算。
輝達Ampere架構A100採用台積電7奈米製程,內含542億顆電晶體,至於Hopper架構H100採用台積電4奈米製程,內含800億顆電晶體,特別強化AI加速運算。
業界推算,每千萬名生成式AI每日活躍用戶(Daily Active User,DAU)所需求算力,約等同於2.4~3.0萬顆資料中心GPU,換算需要350~400片12吋晶圓產能,隨著算力需求的持續提升,台積電將直接受惠。
由於GPU運用在AI運算的關鍵在於記憶體頻寬,業界目前都是採用先進封裝技術將GPU及記憶體整合在單一封裝,台積電提供InFO及CoWoS等先進封裝,日月光投控VIPack先進封裝平台也推出FOPoP量產服務,可望順利承接生成式AI帶動的GPU先進封裝新訂單,包括京元電、中華精測、穎崴等亦成為系統級測試及測試介面重要合作夥伴。
再者,生成式AI系統除了仰賴GPU提供核心運算,AI加速器及客製化演算法亦扮演重要角色,也需配合高速傳輸介面及高速網路來強化資料傳輸。
法人看好創意、世芯-KY、智原、M31、力旺等設計服務及矽智財(IP)業者可望受惠,包括提供AI系統整合的宜鼎、光通訊晶片供應商宏觀、高速網路晶片廠瑞昱及亞信、USB高速介面的創惟及威鋒等也可望順利打進供應鏈。