高通、Mistral AI合作 為邊緣裝置打造生成式AI模型

圖說:高通與Mistral AI合作,共同為邊緣裝置打造全新生成式AI模型。

高通技術23日在Snapdragon高峰會宣布與Mistral AI合作,將Mistral AI最先進的全新生成式AI模型──Ministral 3B和Ministral 8B導入搭載Snapdragon系列平台的裝置中,包括Snapdragon 8 Elite行動平台、專為汽車應用打造的Snapdragon Cockpit Elite和Snapdragon Ride Elite平台,以及專為AI PC打造的Snapdragon X系列運算平台。Ministral 3B和Manistral 8B是Mistral AI首款專為裝置上運行使用所打造的頂級商用AI模型。

Mistral AI的Ministral 3B和Ministral 8B體積小巧,但功能強大,非常適合在智慧型手機、汽車、PC等裝置中執行。在裝置中搭載生成式AI可帶來諸多好處,包括加強隱私性、降低延遲、可靠性、節省成本和提高能源效率。

高通技術資深副總裁暨技術規劃和邊緣解決方案業務總經理Durga Malladi表示:「我們很興奮宣布與Mistral AI的合作,這將協助我們實現將最新AI技術應用於邊緣裝置的目標,Mistral AI的Ministral 3B和Ministral 8B將使設備製造商、軟體商和數位服務供應商能夠提供創新的使用體驗,例如AI助理和其他能理解使用者需求的應用程式,這都要歸功於裝置上AI的即時性、可靠性和增強的隱私性。」

Mistral AI共同創辦人暨執行長Arthur Mensch表示:「與高通技術的合作是Mistral AI的重要里程碑,這證明了我們的新模型能夠在搭載Snapdragon系列平台的裝置上於本機運行,進而實現速度更快的本地處理,協助降低成本與能源需求。透過合作,我們正實現先進AI的普及,讓世界各地的開發人員和使用者都能在其裝置上體驗我們模型的完整潛力。」

兩家公司正在合作,近期就會透過Qualcomm AI Hub將Ministral 3B和Ministral 8B開放給開發人員。開發人員現在可在Qualcomm AI Hub取得包括Mistral 7B v0.3等其他熱門的Mistral AI模型,讓開發人員和使用者皆能受惠於Mistral AI的先進功能。

回到頂端