圖說:群聯推出自主研發的 AI 服務方案 aiDAPTIV+ 擴大儲存於 AI 應用市場。
群聯電子 (Phison; 8299TT) 今(18)日宣布推出自主研發的 AI 服務方案「aiDAPTIV+」,擴大群聯的 IMAGIN+ 儲存設計服務於 AI 應用市場。
群聯電子深耕 NAND 控制晶片超過 23 年,近幾年已透過將 AI 技術導入 NAND 控制晶片與演算法裡,以提升 NAND 儲存方案的運算效能與可靠度;同時群聯也建置數據科學團隊,開發並應用相關 AI 技術,建置世界級的驗證實驗室,加速群聯的儲存方案快速導入各種 PC、手機、汽車、伺服器、電競等應用。
隨著 ChatGPT 等超大型 AI 模型的興起,帶動 AI 人工智慧於未來可能輔助企 業與個人的無窮想像空間。也因為 AI 模型的成長速度極快,導致提供 AI 服務的 硬體建構成本大幅提升,其主要原因為現行 AI 模型主要運行於 GPU 與 DRAM 當中,但未來 AI 模型的成長速度將遠超過 GPU 與 DRAM 可供給的量。根據微軟研究報告指出,AI 模型的成長速度將會是 GPU 卡中的 DRAM 成長速度的 200 倍,現行的 AI 運算硬體架構成長速度可能已無法滿足 AI 應用的需求。
群聯自主研發的 AI 人工智慧運算服務「aiDAPTIV+」。此 AI 架構為透過群聯獨創整合 SSD 的 AI 運算架構,將大型 AI 模型做結構性拆分,並將模型參數隨應用時間序列與 SSD 協同運行,以達到在有限的 GPU 與 DRAM 資源下,最大化可執行的 AI 模型,預計能有效降低提供 AI 服務所需投入的硬體建構成本。而首波的應用場景為全球首款導入整合 SSD 協同運算的量產 aiDAPTIV+ AOI 光學檢測系統(簡稱 Phison aiDAPTIV+ AOI 服務),助力 SMT 工廠加速進入工業 4.0,並進一步提升檢測精準度,消除人力檢測所導致的不穩定性。
群聯的 aiDAPTIV+ AOI 服務,能適用於各種 SMT 產品線,包含 SSD、顯示卡、DRAM、主機板等,目前已有將近 10 家的 SMT 夥伴與客戶導入 Phison aiDAPTIV+ AOI 服務,提升客戶與 SMT 廠既有 AOI 系統的準確率,並降低因人員失誤產生的逃脫率至 10 DPPM 以下,大幅提升直通率達 99%以上。
凌華科技(ADLINK Technology)邊緣運算平台事業處總經理陳少華表示:「凌華與群聯在工業儲存應用方面已有多年合作經驗與默契,近期更攜手布局 AI 應用市場。群聯已將 AI 機制導入 NAND 控制晶片的設計,可強化產品效能與可靠度, 再搭配凌華新一代的 NVIDIA Jetson Orin 平台,將可提供工控與 AI 領域客戶更完整可靠的方案。目前凌華的邊緣AI推論平台DLAP-211-Orin Nano以及DLAP 211-Orin NX 已成為群聯自主研發的 aiDAPTIV+ AOI 自動光學檢測系統的首批認證邊緣運算設備,未來亦將持續擴大合作。」
技鋼科技副總經理藍俊坤表示:「群聯整合了固態硬碟(SSD)提出創新的 AI 運算架構 aiDAPTIV+,這樣的運算結構能在特定的 AI 演算法大幅降低硬體建置成本,這次群聯推出的aiDAPTIV+ AOI 平台就是這種創新運算架構的成果展現。技鋼很榮幸能夠率先成為群聯 aiDAPTIV+ AOI 平台的認證合作夥伴。許多客戶已經成功部署了配備群聯 aiDAPTIV+ AI 運算架構的技嘉客製化專業工作站和 AMD 運算卡,在 SMT 生產線上提高了不良率檢測的效率,大幅降低人力檢測可能產生的疏失。未來,技鋼與群聯也將持續擴大在不同 AI 領域的產品應用合作,為高速運算打造新紀錄。」
群聯 AI 研發團隊負責人暨國立陽明交通大學智慧科學暨綠能學院合聘助理教授 林緯博士表示,「群聯的本業與核心競爭力是 NAND 控制晶片研發,因此,如何擴大 NAND 儲存與 AI 應用的連結一直是群聯近幾年努力的方向。群聯的 AI 研發團隊透過整合 SSD 與自主研發的全新 AI 運算架構『aiDAPTIV+』,不僅能有效降低 AI 伺服器硬體建構成本,而且能將此 AI 運算架構運用於各種 AI 應用場景;例如此次發表的全球首創 aiDAPTIV+ AOI 光學檢測系統,便是群聯透過整合 SSD 與 打造全新 AI 運算架構的成功案例。未來群聯預計持續擴大『aiDAPTIV+』技術開發,與各個領域的合作夥伴共同擴大 NAND 儲存於 AI 領域的應用,並協助提升生 產效率與降低成本。 」群聯將於美西時間 8/8 至 8/10 於美國的快閃記憶體峰會 (Flash Memory Summit) 邀請全球的 Ecosystem 夥伴與客戶參觀群聯最先進的 NAND 控制晶片,包含全球 首款支援 3600MT/s 速度的 3D NAND 的 PCIe 4.0 DRAM-Less client SSD controller PS5027-E27T、全球首款 PCIe 5.0 DRAM-Less client SSD controller PS5031-E31T、 以及群聯的 AI 服務方案 aiDAPTIVE+ AOI 應用現場展示 (Live Demo) 等,共同討論與 擴大 NAND 儲存應用的市場。