圖說:由ADI 和 Antmicro共同開發的AutoML for Embedded已正式推出。
隨著AI迅速向邊緣領域挺進,對智慧邊緣元件的需求隨之激增,而要在精巧尺寸的微控制器上部署強大的模型,仍是困擾眾多開發者的難題,開發者需要兼顧資料預處理、模型選擇、超參數調整並針對特定硬體進行優化,學習曲線極為陡峭。因而,開發者希望能在微控制器等邊緣元件和其他受限平台上輕鬆地建構和部署性能穩健、資源密集型的機器學習模型,而無需在複雜的程式碼或硬體限制上耗費精力。
由ADI 和 Antmicro共同開發的AutoML for Embedded現已正式推出並整合在Kenning框架中。Kenning是一個不受硬體限制的開源平台,專注於對邊緣裝置上的AI模型進行優化、基準測試和部署。AutoML for Embedded旨在使嵌入式工程師、資料科學家等所有使用者都能輕鬆使用高效且可擴展的邊緣AI。
AutoML for Embedded開啟了全新可能,實現端對端機器學習流程的自動化,不僅讓經驗較少的開發者也能建構高品質模型,並能促進資深專家大幅提升實驗效率。最終,開發者將獲得高效的輕量級模型,不僅性能強大,並且不會超出裝備的性能限制。
AutoML for Embedded是基於Kenning庫所建構的Visual Studio Code外掛程式,旨在自然地融入開發者現有的工作流程。其與CodeFusion Studio進行了整合以支援:
- ADI MAX78002 AI加速器MCU和MAX32690:將模型直接部署到先進的邊緣AI硬體。
- 模擬和RTOS工作流程:利用基於Renode的模擬和Zephyr RTOS,快速開發原型並進行測試。
- 通用開源工具:支援彈性的模型優化,避免平台鎖定
透過詳細的步驟教程、可重複的流程和範例資料集,即使沒有資料科學背景的開發者也能以驚人的速度將原始資料轉化為邊緣AI應用,並完成部署。
為開發者而生,業界領導者鼎力支援
AutoML for Embedded是ADI與Antmicro深度合作的結晶,融合了深厚的硬體技術專長與開源創新。透過提供開放、以用戶為中心、可擴展的工具集加速邊緣AI在各產業的普及。
Antmicro業務開發副總裁Michael Gielda表示:「憑藉Kenning此一彈性的開源AI基準測試與部署框架,我們成功開發了自動化流程和VS Code外掛程式,大幅降低建構優化邊緣AI模型的複雜度。其端對端開發服務的核心,在於基於經過驗證的開源解決方案打造高效工作流程,協助客戶實現對產品的全面掌控。憑藉Renode彈性的模擬能力,並與高度可配置的標準化Zepher RTOS進行無縫整合,現已能夠使用Kenning框架中的AutoML來進行透明、高效的邊緣AI開發。」
工作原理:技術揭秘
AutoML for Embedded採用先進的演算法,自動進行模型搜尋和優化。其利用SMAC(基於序列模型的演算法配置)高效探索模型架構和訓練參數,並應用Hyperband和逐次減半策略,將資源集中於最有潛力的模型。同時可根據裝置RAM來核對模型大小,確保部署順利進行。
候選模型可運用Kenning的標準流程進行優化、評估和基準測試,並生成關於模型大小、速度和精度的詳細報告,為部署決策提供重要依據。
真實應用場景:典型案例
AutoML for Embedded正深刻改變邊緣AI的開發模式。例如,在近期的一次展示中,開發者利用AutoML for Embedded在ADI MAX32690 MCU上成功創建因應感測器時間序列資料的異常檢測模型。此模型在物理硬體和Renode數位孿生模擬平台上均進行了部署,並展現出良好的無縫整合和即時性能監測能力。
其他潛在應用包括:
- 在低功耗攝影機上進行圖像分類和目標偵測
- 工業物聯網感測器的預測性維護和異常檢測
- 針對裝置端文本分析的自然語言處理
- 體育賽事和機器人領域的即時動作識別