產業新訊

聯發科 AI小模型助邊緣運算

新聞日期:2024/10/15 新聞來源:工商時報

報導記者/張珈睿

台北報導
 隨AI模型快速發展,晶片大廠高通與聯發科不約而同,分別針對AI語言模型及邊緣終端技術,提出最新見解與應用展望,揭示AI小模型及邊緣推論的趨勢。聯發科企業策略與前瞻技術資深處長梁伯嵩日前指出,小型參數語言模型的出現,對於邊緣裝置使用AI提供更多可能性;高通資深技術行銷總監江坤霖也表示,生成式AI(Generative AI)若僅依賴雲端,將難以實現普及化,AI推論轉移邊緣將是趨勢。
 模型提供業者轉向推出小規模模型,包括微軟、Google等公司。梁伯嵩認為,對於常見的AI使用情境,小型及中型模型更有意義;且小型模型使用算力較少,運行成本也更低。他比喻,對於企業來說,並不需要一個博士應對日常使用,小型語言模型更像是研究生、大學生即可解題。
 聯發科AI AGENT不限語言文字的多模型態即能符合邊緣裝置需求。緊接而來的旗艦級晶片連發,供應鏈透露,Vivo、OnePlus主品牌將採用聯發科,子品牌則使用高通,左右逢源。
 江昆霖分析,未來邊緣AI朝向小而美的方式邁進,而CPU、NPU都是AI訓練的關鍵,但因應產品設計概念,需要不同處理器達到最佳化,每個處理器單元充分合作,加上軟體提升,解決複雜使用情境。他強調,高通致力於打造AI生態系,加速裝置AI開發,如推出AI Stock軟體套件及AI Hub,通過讓開發者在高通平台上選用模型,開發符合自身需求的邊緣AI裝置。
 儘管智慧型手機市場銷售增長有限,但引入AI功能仍有助元件升級。法人評估,下一代旗艦機型Galaxy S25,隨著高通Snapdragon 8 Gen5晶片的使用,有望帶動被動元件需求成長;而聯發科即將推出的Dimensity 9400晶片,也可能幫助陸系旗艦手機在被動元件與光學方面實現升級。
 另外,蘋果開始針對不同產品線之SoC進行精細化設計,A18 Pro和A18晶片面積不同,前者要更大。未來安卓旗艦晶片是否也會陸續跟進,值得觀察。

×
回到最上方