圖說:群聯電子於 NVIDIA GTC 2024 宣布 aiDAPTIV與戰略合作夥伴。
群聯電子(Phison; 8299TT)18日宣布與技嘉、華碩、MAINGEAR、台灣大哥大及聯發科建立「aiDAPTIV+」 技術合作夥伴關係。在 NVIDIA GTC 大會上,群聯電子和合作夥伴將展示「aiDAPTIV+」技術方案。這是一種整合硬體和軟體的 AI 模型微調訓練解決方案,可讓企業進行AI模型微調運算的過程中依舊保有資料的安全性與不外流,強化機器學習(Machine Learning)安全性。
AI 模型的預訓練(Pre-trained)可提供 AI 對語言或圖形等的通用理解,群聯 「aiDAPTIV+」可賦能 AI 模型微調運算,將預訓練(Pre-trained)的 AI 模型塑造成能 夠理解特定領域的專業工具(例如 符合律師、會計師、醫師、工程師等特殊領域的 AI 助理),以提供符合各種專業領域所需的精確服務。通用型工作站硬體透過「aiDAPTIV+」 軟體 Middleware 和群聯獨家專利設計的 aiDAPTIVCache 系列 ai100 SSD,將可讓現行的工作站電腦或是 AI 伺服器訓練更大的 AI 模型。
MAINGEAR 創始人兼執行長 Wallace Santos 表示:「MAINGEAR 的 Pro AI 系列工作站採用群聯「aiDAPTIV+」技術,讓使用者能夠在不大幅增加成本的情況下,擁有大型 AI 語言模型微調訓練能力。我們致力於打造功能強大且經濟實惠的解決方案,確保中小型企業、大學和研究機構在以前需要數百萬美元投資的產業中獲得競爭優勢。」
群聯「aiDAPTIV+」是業界最創新的解決方案,可解決企業當今的 AI 落地應用痛點。 群聯「aiDAPTIV+」的功能包括:
- 易用性 – 專注於訓練使用者的資料,而不是訓練工程師。「aiDAPTIV+」的設計旨在提供使用者降低 AI 訓練複雜性和 AI 運算硬體設施需求。
- 高 CP 值與可擴充性 – 利用群聯獨家專利的高耐用 aiDAPTIVCache 系列 SSD,使用者能在不大幅增加成本的前提下,直接與現行工作站或 AI 伺服器整合,並增加 GPU 的可用記憶體容量,讓使用者可以運算更大的 AI 模型與使用更多的資料量進行 AI 訓練。
- 保密與安全 –「aiDAPTIV+」是一種地端 AI 微調訓練解決方案,可讓使用者將資料保留在地端,不用上傳雲端,資料更安全保密。
技嘉科技執行長李宜泰指出,技嘉跟群聯已有很長的技術合作經驗,技嘉 SSD 採用群聯的技術方案,雙方一直是合作無間。除了 PC 市場外,技嘉也深耕 AI 伺服器多年,我們很高興群聯推出的獨創 AI 技術方案「aiDAPTIV+」,協助技嘉的 AI 伺服器客戶提供另一種 AI 模型微調運算的運算架構,透過整合 SSD 至 AI 運算架構,將 SSD 當作DRAM 來使用,大幅降低 AI 模型微調運算的成本,對全球想要導入 AI 輔助應用的客戶而言是一大福音。技嘉將持續擴大跟群聯在「aiDAPTIV+」技術的合作,共同為 AI 應用普及盡一份心力。
華碩全球副總裁暨開放平台事業群資料中心技術長暨資料中心事業部總經理朱培蘭(Paul Ju)表示,華碩 AI 伺服器整合群聯最新的高速資料傳輸技術「aiDAPTIV+」,在不大幅增加客戶成本的前提下,大幅提升運算效能。未來華碩也將持續跟群聯密切合作,共創多贏。
台灣大哥大資訊長蔡祈岩指出,隨著 AI 技術持續突破發展,逐漸滲透軟硬體及跨產業應用,台灣大哥大以電信本業天賦,積極布局跨產業合作,持續提升附加價值予台灣大用戶。群聯的獨家「aiDAPTIV+」技術方案,不僅完美整合台灣大現有的 AI 運算架構,有效擴大台灣大的 AI 模型運算規模以及效能提升。未來台灣大將密切的與群聯合作,協助台灣大用戶以商務角度切入「打造企業與一般用戶專屬生成式 AI 應用與運算平台」。
群聯電子「aiDAPTIV+」亦與聯發科最新的人工智慧平台「MediaTek DaVinci」合作,使企業從訓練階段到實際運作大型 AI 模型的過程,都能維持對地端敏感資訊的控制能力。
聯發科技人工智慧暨數據工程處協理葉家順表示,聯發科技致力成為 AI 賦能者,讓前瞻科技普及。群聯電子的「aiDAPTIV+」強大的地端運算能力,結合 MediaTek DaVinci 的高整合度及擴展性,我們共同賦能各行各業導入生成式 AI。
在 GTC 上,群聯電子還將展示全系列的 PCIe Gen5 生態系統產品,包括 X200 SSD、PS7100 系列 Redrivers 和 PS7200 系列 Retimers。
- PCIe Gen5 SSD X200: 最高效能超過 14GB/s,在 U.2/U.3 和 E3.S 外形尺寸中,最高儲存容量達 32TB,能滿足資料中心和伺服器的高效能與高容量需求。
- PS7100 系列 Redrivers:採用 PHiTUNE AI 技術的 Redrivers,信號調節能力高達 20dB,可最大化主機板佈線,支援更長的走線長度。
- PS7200 系列 Retimers:適用於企業和汽車應用的高階 Retimers,支援 CXL 2.0 和 link 分叉(link bifurcation),可在較長的訊號線上進行 PCIe Gen5 信號調節。