圖說:群聯電子攜手聯發科,共同推動生成式 AI 運算與服務。
群聯電子(8299TT)與聯發科技(2454TT)於15日攜手宣布,群聯的 AI 運算服務「aiDAPTIV+」將與聯發科生成式 AI 服務平台「MediaTek DaVinci」深度整合,「MediaTek DaVinci」平台是聯發科基於 GAI 服務框架(GAISF)打造的一款先進的生成式 AI 服務開放式平台,開發者可在「MediaTek DaVinci」平台上開發各類實用的插件, 建立豐富的生態系統,同時提升使用者的互動體驗。
群聯推出「aiDAPTIV+」服務方案,通過其獨特的 SSD 整合 AI 運算架構,將大型 AI 模型進行結構性拆分,並與 SSD 協同運行。這種方法不僅大幅降低了 AI 基礎建設的硬體成本,還提高了運算效率,使得在有限的 GPU 與 DRAM 資源下也能夠訓練大型 AI 模型。「aiDAPTIV+」的技術已在工業 4.0 領域獲得實證,預計未來也將持續協助各產 業加速進行 AI 轉型,提升企業競爭力。再者,相較於傳統的 AI 伺服器架構,群聯的 「aiDAPTIV+」方案在相同的 AI 模型微調訓練運算條件下,所需的整體電力較少,也符合當前減少能源消耗和碳足跡的環保趨勢。
群聯「aiDAPTIV+」方案不僅已在全球首款整合 SSD 協同運算的量產 AOI 光學檢測系統 中展現其工業應用價值,更已協助國立陽明交通大學廖元甫教授的客台語 AI 提升辨識準確度。與聯發科「MediaTek DaVinci」的結合,將進一步拓展「aiDAPTIV+」技術的應用範疇,為 AI 服務市場注入新動力,不僅將為用戶帶來更優質的體驗,也將為開發者開闢更廣闊的創新空間。
群聯技術長林緯博士強調,群聯的使命即是透過創新技術來解決實際問題,並推動產業進步。「aiDAPTIV+」技術方案將為 AI 模型微調 (Fine-Tuning) 運算領域帶來革命性貢獻,而聯發科的「MediaTek DaVinci」平台在 AI 服務領域也已取得卓越的成就,通過雙方的共同努力,我們將能夠快速導入 AI 應用於大眾的日常生活,為客戶創造更大的價值。
聯發科人工智慧暨數據工程處協理葉家順表示,聯發科長期致力於推動 AI 的創新與應用,期待「MediaTek DaVinci」生成式 AI 服務平台能為產業激發出更多的新應用。群聯的「aiDAPTIV+」技術方案不僅為我們的平台帶來了前所未有的地端運算能力,也為我們的使用者和開發者社群開啟了新的可能性。我們期待這次合作能夠為整個產業 帶來深遠的影響,並攜手創造更加智慧的未來。
群聯與聯發科雙方合作的效益包括:
- 創新的 AI 運算架構:「aiDAPTIV+」的模型結構分拆並與 SSD 協同運行技術,支援更大型 AI 模型的訓練。
- 提升成本效益:預計將降低 AI 服務的硬體建構成本,使得 AI 技術的應用更為廣泛 且經濟。
- 提升「MediaTek DaVinci」平台的擴展性:結合「aiDAPTIV+」後,將為開發者提供更 多元客製化插件的開發可能性。
- 加速部署地端 AI 應用:透過結構性拆分 AI 模型,「aiDAPTIV+」能夠快速適應不同應用需求。
- 更符合 ESG 趨勢的解決方案:「aiDAPTIV+」能降低 AI 模型微調運算的總電力需求,減少能源消耗和碳足跡,符合環保趨勢。
此外,透過群聯「aiDAPTIV+」技術方案與聯發科「MediaTek DaVinci」平台的合作,AI伺服器廠商將能提供一個完整的地端軟硬體整合方案,使 AI 伺服器產品更具競爭力,為終端客戶提供一站式 AI 服務。