圖說：Gartner預測到2027年，跨國GenAI濫用引起的AI資料外洩比例將達到40%。
Gartner預測，到2027年，跨國生成式人工智慧（GenAI）引起的AI相關資料外洩比例將超過40%。基因人工智慧在終端用戶中的普及速度已超過了資料治理和安全措施的發展速度，而支援這些技術所需的集中算力引發了對資料本地化的擔憂。
Gartner研究副總裁約爾格·弗里奇表示：「由於監管不力，常常會發生意外的跨境資料傳輸，尤其是當GenAI被整合到現有產品但卻沒有明確的說明或公告時。企業注意到員工使用GenAI工具創作內容的變化。雖然此類工具可用於經過批准的業務應用，但如果它們將敏感提示發送到託管在未知位置的AI工具和 API，就會產生安全風險。」
全球AI標準缺失導致營運效率低下
缺乏全球統一的人工智慧和資料治理最佳實踐與標準，導致市場碎片化，企業不得不制定針對特定地區的策略，這加劇了企業所面臨的挑戰，這可能會限制企業在全球擴展業務和從AI產品與服務中獲益的能力。
Fritsch表示：「在地化AI政策增加了管理資料流和維持品質的複雜性，而這會降低企業的營運效率。為了保護敏感資料和確保合規性，企業必須投資先進的AI治理和安全性。這項需求可能會推動AI安全、治理與合規服務市場的成長並促進提高AI流程透明度和可控性的技術解決方案的發展。 」
企業必須在AI治理成為全球性規定之前採取行動
Gartner預測，到2027年，全球所有主權AI法規都將要求企業落實AI治理。
Fritsch表示：「如果企業無法整合所需的治理模式和控制措施，就會處於競爭劣勢，尤其是缺乏資源快速擴展現有資料治理框架的企業。 」
為了降低AI資料外洩風險，尤其是跨國GenAI的濫用風險並確保合規性，Gartner 建議企業採取以下策略行動：
- 加強資料治理： 企業必須擴展資料治理框架並加入關於使用AI處理資料的準則，確保遵守國際法規並對意外的跨國資料傳輸進行監控。為此，企業需要將資料沿襲和資料傳輸影響評估納入常規隱私影響評估。
- 成立治理委員會：成立委員會加強AI監督，確保AI部署和資料處理的溝通透明。該委員會需要負責技術監督、風險和合規管理以及溝通和決策報告。
- 加強資料安全性： 使用先進技術、加密和匿名化保護敏感資料。例如，驗證特定地理區域的執行環境是否可信並在資料必須離開這些區域時使用差分隱私等先進的匿名化技術。
- 投資TRiSM產品：為專為AI打造的信任、風險和安全管理（TRiSM）產品與功能規劃和分配預算，包括AI治理、資料安全治理、提示過濾和編輯以及非結構化資料合成生成。 Gartner預測，到2026年，採用AI特里斯曼控制措施的企業將減少至少50%的不準確或不合法訊息，並因此減少錯誤決策。
