金色百科 | 什么是人工智能治理？

作者：Tayyub Yaqoob，CoinTelegraph；編譯：鄧通，金色財經

一、人工智能治理的前景和重要性

人工智能治理涵蓋確保人工智能技術負責任地开發和使用的規則、原則和標准。

人工智能治理是一個綜合術語，涵蓋旨在指導人工智能（AI）技術的道德創造和利用的定義、原則、指南和政策。 這一治理框架對於解決與人工智能相關的一系列廣泛問題和挑战至關重要，例如道德決策、數據隱私、算法偏見以及人工智能對社會的更廣泛影響。

人工智能治理的概念超越了單純的技術層面，涵蓋了法律、社會和道德層面。 它是組織和政府的基礎結構，確保人工智能系統以有益的方式开發和部署，不會造成無意的傷害。

從本質上講，人工智能治理構成了負責任的人工智能开發和使用的支柱，提供了一套指導各種利益相關者（包括人工智能开發人員、政策制定者和最終用戶）的標准和規範。 通過明確建立指導方針和道德原則，人工智能治理旨在將人工智能技術的快速進步與人類社區的社會和道德價值觀相協調。

二、人工智能治理的級別

人工智能治理適應組織需求，沒有固定的級別，採用 NIST 和 OECD 等框架作爲指導。

人工智能治理並不遵循普遍標准化的水平，正如網絡安全等領域所見。 相反，它利用來自不同實體的結構化方法和框架，允許組織根據其特定要求進行定制。

美國國家標准與技術研究院 (NIST) 人工智能風險管理框架、經濟合作與發展組織 (OECD) 人工智能原則以及歐盟委員會可信人工智能道德准則等框架是最重要的框架之一。 它們涵蓋了許多主題，包括透明度、問責制、公平、隱私、安全和保障，爲治理實踐提供了堅實的基礎。

治理採用的程度取決於組織的規模、所採用的人工智能系統的復雜性以及其運作的監管環境。 人工智能治理的三種主要方法是：

非正式治理

最基本的形式依賴於組織的核心價值觀和原則，並有一些非正式的流程，例如道德審查委員會，但缺乏正式的治理結構。

臨時治理

比非正式治理更加結構化的方法涉及制定具體政策和程序以應對特定挑战。 然而，它可能並不全面或系統。

正式治理

最全面的方法需要开發一個廣泛的人工智能治理框架，該框架反映組織的價值觀，符合法律要求，並包括詳細的風險評估和道德監督流程。

三、人工智能治理的例子

通過 GDPR、經合組織人工智能原則和企業道德委員會等各種示例來說明人工智能治理，展示了負責任的人工智能使用的多方面方法。

人工智能治理通過各種政策、框架和實踐體現出來，旨在通過組織和政府以合乎道德的方式部署人工智能技術。 這些實例凸顯了人工智能治理在不同場景中的應用：

《通用數據保護條例》（GDPR）是人工智能治理在保護個人數據和隱私方面的一個關鍵例子。 盡管 GDPR 不僅僅關注人工智能，但其法規對人工智能應用產生了重大影響，特別是那些在歐盟境內處理個人數據的應用，強調了透明度和數據保護的必要性。

經合組織人工智能原則得到 40 多個國家的認可，強調了對值得信賴的人工智能的承諾。 這些原則主張人工智能系統透明、公平和負責任，指導國際社會朝着負責任的人工智能开發和使用的方向努力。

企業人工智能道德委員會代表了人工智能治理的組織方法。 許多公司設立了道德委員會來監督人工智能項目，確保它們符合道德規範和社會期望。 例如，IBM 的人工智能道德委員會審查人工智能產品，以確保它們符合公司的人工智能道德規範，並邀請來自不同學科的多元化團隊提供全面的監督。

四、讓利益相關者參與人工智能治理

利益相關者的參與對於制定反映廣泛觀點的包容性、有效的人工智能治理框架至關重要。

包括政府實體、國際組織、商業協會和民間社會組織在內的廣泛利益相關者負責人工智能治理。 由於不同地區和國家有不同的法律、文化和政治背景，其監督結構也可能存在很大差異。

人工智能治理的復雜性需要政府、產業界、學術界和民間社會等社會各界的積極參與。 讓不同的利益相關者參與，可以確保在开發人工智能治理框架時考慮多種觀點，從而制定更穩健、更具包容性的政策。

這一承諾還培養了對人工智能技術的道德开發和使用的共同責任感。 通過讓利益相關者參與治理過程，政策制定者可以利用廣泛的專業知識和見解，確保人工智能治理框架信息靈通、適應性強，並能夠應對人工智能帶來的多方面挑战和機遇。

例如，數據收集和處理的指數增長引發了嚴重的隱私問題，需要嚴格的治理框架來保護個人的個人信息。 這涉及遵守 GDPR 等全球數據保護法規，以及利益相關者積極參與實施先進的數據安全技術，以防止未經授權的訪問和數據泄露。

五、引領人工智能治理的未來

人工智能治理的未來將由技術進步、不斷發展的社會價值觀和國際合作的需求決定。

隨着人工智能技術的發展，框架將對其進行管理。 人工智能治理的未來可能會更加強調可持續和以人爲本的人工智能實踐。

可持續人工智能專注於長期开發環境友好且經濟可行的技術。 以人爲本的人工智能優先考慮增強人類能力和福祉的系統，確保人工智能成爲增強人類潛力而不是取代人類潛力的工具。

此外，人工智能技術的全球性需要人工智能治理方面的國際合作。 這包括協調跨境監管框架、培育人工智能道德的全球標准，以及確保人工智能技術可以在不同的文化和監管環境中安全部署。 全球合作是應對跨境數據流動等挑战和確保人工智能收益在全球範圍內公平分享的關鍵。