聯合國成立AI治理委員會 企業應即刻應對

聯合國本週正式成立「AI for Good全球委員會」，匯聚了來自政策制定者、學術界以及Anthropic、Nvidia和Salesforce等組織的高階領導者，旨在共同研擬AI的正面應用解決方案，並確保其發展能以負責任且全球一致的方式進行。儘管該委員會的建議可能需要數年時間才能影響政策，但其成立本身即彰顯了AI治理已從一個小眾的政策議題，迅速演變成一個涉及政府、科技供應商、標準制定機構及國際組織的全球性議題。

對企業領導者而言，這項發展帶來了即時的挑戰。隨著企業持續投資AI、選擇供應商、部署AI代理程式並將模型整合至業務流程中，許多將最終規範這些決策的框架仍處於發展階段。

專家指出，AI的規則與技術正快速演進，企業不應等待監管的完全明朗化。Gartner資深總監分析師Var Shankar建議，企業應從高價值、高風險或影響廣泛的AI應用案例開始進行治理。

全球AI治理現況呈現出既全球化又碎片化的趨勢。企業若在多個國際區域營運，將面臨「拼湊式」的AI法律體系，例如歐盟的AI法案、中國的AI相關措施，以及韓國、加拿大、加州等地各自發展的監管方法。此外，現有各行業的法律，如隱私、消費者保護、金融服務、醫療保健和就業法規，同樣適用於AI系統。

這種複雜性為跨國營運帶來了顯著的挑戰，因為在不同市場部署的系統可能面臨不同的文件記錄、透明度、測試、問責或監督要求。

然而，儘管具體執行方式可能有所差異，但全球在AI治理原則層面正逐漸趨於一致。研究機構Linthicum Research創辦人David Linthicum預期，將會出現「原則層面的協調與實施層面的碎片化」。他補充說，大多數政府在透明度、問責制、隱私、安全、公平性和人類監督等主題上已達成共識。

因此，企業可能難以獲得一份統一的全球AI規則手冊。更實際的挑戰在於，如何在一個普遍期望共享但具體要求因地區而異的環境中有效運作。

實用的AI治理策略已逐漸成形。企業越來越需要回答基本但關鍵的問題：目前使用了哪些AI系統？它們消耗哪些數據？誰對其輸出負責？哪些應用案例風險最高？對此，企業可透過可視化AI使用情況、風險評估、確保人類問責以及數據準備度等經過驗證的方法來應對。

特別是隨著AI代理程式在組織內廣泛應用，其引入的監督、問責和監控新挑戰，使得上述治理優先事項變得尤為重要。許多新興的治理實踐，如測試、監控、文件記錄和系統設計，同時也是數據科學的最佳實踐，有助於提升AI產品和服務的品質。

這也促使企業重新思考治理的定位，從過去的合規導向轉變為一種營運能力，協助企業在擴大規模的同時，能負責任地管理AI風險、效能和問責。Mastercard AI治理副總裁John Hearty表示，良好的治理是維持客戶信任的必要條件，並能有效化解創新與治理之間的權衡。

聯合國AI for Good全球委員會的影響，預計將透過其成員企業的產品和服務間接傳遞。由於大型科技供應商不太可能為不同地區創建完全獨立的治理模式，企業可能會在正式的全球框架出現之前，就透過其使用的平台接觸到新的治理要求。例如，若Salesforce、Anthropic、Nvidia等公司遵循國際治理期望，這些實踐很可能體現在產品功能、合約、文件記錄、審計能力和客戶控制措施中。

儘管聯合國委員會的建議和對全球政策的影響尚需時日，但企業AI的部署正以驚人的速度擴展。組織不能因為等待國際共識而延遲治理工作。同時，主要AI供應商的參與，預示著治理層面的逐步演進，以及全球治理趨勢的日益成熟。AI系統的可視化、結果問責、風險分類、人類監督和完善的文件記錄等，已成為跨地域和監管模式的共同治理基礎。

資料來源：https://www.informationweek.com/responsible-ai/the-un-wants-to-shape-the-future-of-ai-governance-cios-must-act-today