產業新訊

群聯自研AI服務方案

新聞日期:2023/07/19 新聞來源:工商時報

報導記者/李娟萍

凌華、技鋼都是合作夥伴
台北報導
 群聯(8299)18日宣布,推出自主研發的AI(人工智慧)運算服務「aiDAPTIV+」服務方案,擴大儲存AI應用市場。
 群聯執行長潘健成將在該公司於8月4日舉行的第二季線上法說上,親自剖析對AI浪潮的看法。
 群聯的AI服務方案,也將在於美西時間8月8日至8月10日於美國的快閃記憶體峰會(Flash Memory Summit)亮相。
 群聯的AI服務方案,為整合SSD的AI運算架構,將大型AI模型做結構性拆分,並將模型參數隨應用時間序列與SSD協同運行,以達到在有限的GPU與DRAM資源下,最大化可執行的AI模型,預計能有效降低提供AI服務,所需投入的硬體建構成本。
 首波應用在導入整合SSD協同運算的量產aiDAPTIV+AOI光學檢測系統,可幫助SMT工廠加速進入工業4.0,降低硬體建置成本,提升不良率的檢測效率,消除人力檢測所導致的不穩定性。
 近期隨著ChatGPT等超大型AI模型的興起,帶動AI於未來可能輔助企業與個人的想像空間。因AI模型的成長速度極快,也導致提供AI服務的硬體建構成本大幅提升。
 其主要原因為現行AI模型,主要運行於GPU與DRAM當中,但未來AI模型的成長速度,將遠超過GPU與DRAM可供給的量。
 根據微軟研究報告指出,AI模型的成長速度將會是GPU卡中的DRAM成長速度的200倍。換言之,現行的AI運算硬體架構成長速度,已無法滿足AI應用的需求。
 群聯的aiDAPTIV+AOI服務,適用於各種SMT產品線,包含SSD、顯示卡、DRAM、主機板等,目前已有凌華、技鋼等將近10家的SMT夥伴,參與群聯AI服務系統測試,已有效提升客戶與SMT廠既有AOI系統的準確率。

×
回到最上方