陳家洛：如何監管AI？為什麼？

【明報文章】研究開發AI（人工智能）及擁有相關技術的企業集團，在全球的影響力正不斷擴大，世界各地對這般「顛覆性」（disruptive）的新興力量趨之若鶩。然而這些私人或公私合營的企業有多可信可靠，又為誰服務？現屆特區政府多番強調「無創科、無未來」（註1），那麼，市民將要面對的會是怎樣的創科？怎樣的未來？

歐洲議會日前表決通過全球首項監管AI的法例草案，並與27個成員國就最終立法展開談判，目標是今年底達成協議。新的法規不止是歐盟市場和管治本身的事情；歐盟作為一個政治及經濟實體，為國際社會制訂規範（norm entrepreneurship），是發揮其「軟實力」的一種方法（註2）。

今次歐盟搶先確立AI管治和監管制度，即使該法案預計最早要到2026年才會生效，有關建議已成為該政策範疇的國際合作基礎。而歐盟的科研和貿易伙伴須注意相關規定及往後發展，更不能排除因為滯後而未及遵從，或制度上的矛盾所造成的損失。

歐盟——規範的先驅

歐盟今次通過的草案，對人工智能技術實施多項監管，包括禁止在公眾地方使用例如人臉辨識等遙距生物辨識技術，及要求人工智能系統主動披露由AI技術生成的文本、圖像、代碼、音頻等內容。草案亦按風險程度規管AI應用，有潛在傷害人類健康、安全、權利或環境可能的，都歸類為高風險級別，例如可影響選舉結果的人工智能系統，使用人工智能系統的大型社交網絡平台、關鍵基建設施、教育、人力資源、公共秩序和移民管理等，將被列入高風險名單。

同時，歐盟委員會較早前已經執行5項內部操作指引，要求員工「在關鍵及時間上敏感的流程」中避免使用AI，使用時不可泄漏不在公共領域的信息，要注意AI的回應可能不準確、揑造或帶有偏見，AI產生的內容有可能已侵犯知識產權，及用AI生成的內容不可複製到官方文件。

要及早識別AI這個「有無限可能的」科技所可能構成的風險，並提供有說服力的評估，而非在「末日預言」和「美麗新世界」兩者之間隨意揀一個立足點然後自說自話，是任何自許着重創科的人必須承擔的責任。

明顯地，歐盟現階段選擇了在AI可以產生影響的環節（the point of impact）施以規範和管理，基於保障使用者、知情權、私隱權、知識產權及其他權益而定出應用範圍，並運用公權力為我們把關；接下來就是要建立一個具足夠權力、資源及公信力的機關，來判定誰須負起產生不良後果的責任。

歐盟對準了對AI過度依賴造成的風險，演算法把歧視、偏見合理化的可能，虛假消息的製作和傳播，對個人行為和私隱的監控侵犯，以及網絡安全漏洞等多方面，跟持份者和公民社會反覆商討，期望在保護公眾利益的前提下，促進AI研發及擴大投資。

於2021年，聯合國人權理事會諮詢委員會在《新的和新興數字技術對於促進和保護人權可能產生的影響、機遇和挑戰》報告，就「對技術的整體理解、對人權採取整體辦法，整體的治理和監管努力」提出呼籲（註3）。不過這3個方面「整體」的努力，實在無可能擺脫世界各地管治體制差異所引致的價值觀之間的競爭和衝突。獨裁政權會以維護國家安全、公共秩序、社會穩定和繁榮發展為由，投入資源開發並利用AI技術全天候對個人及社會實行數碼監控。

民主國家普遍擔憂政商力量會利用AI技術，在社會及個人層面影響我們的選擇和行為，期望AI時代更能有效促進「開放政府、開放社會」的理想，新技術可以鞏固民主、自由、人權等價值規範，為公民社會「數碼賦權」、開發新的公民參與和決策模式、促進共融多元和社會公義、對權力腐敗發出預警，並對當權者及其背後的利益施加更有力的制衡、問責。

在「末日前的美麗新世界」？

不難想像，國際間就AI技術的開發和規管方式，將會因應各地政治和經濟考慮而出現明顯差別，就一些本應得到全球關注的共同議題在名義上求同存異，實質是各行各路，很大機會出現「割裂」（fragmentation）形態，並且產生劇烈競爭，促使世界各地的官方及非官方持份者透過AI技術，預備不同方案來進行演習和壓力測試，不斷加強上文提及的風險辨識和評估能力。

在這個情况下，一如其他處理國際社會之中大大小小矛盾和衝突的「互信建立機制」都不會發揮效用，反而各地主管國防和國土安全的部門，不大可能克服將AI「武器化」的誘惑，即一方面模擬策劃在「敵方」製造各種混亂、試圖干擾經濟及操弄出對自己有利的政治結果，另一方面尋求方法來阻嚇對方採取相同手段來對付自己。

同理，AI會不會令困擾人類社會的深層次矛盾惡化，關鍵是相關技術開發的主要目的，是在於加強人類整體能力來促進生產力、提升生活質素和應對環境氣候變化問題，還是主要藉自動化進程來取代人類在勞動、認知、思考、決策和溝通各重要環節的貢獻。

不能將風險武斷簡單二分

從技術開發的角度來看，這兩個目的並不互相排斥，不過前者肯定較後者更能讓新技術帶來的利益和好處，合理地分配到各階層及崗位的人；而後者則肯定導致在工序和服務可以轉為「自動化」的行業，大幅縮減前線、基層工作崗位，而從整體生產總值提高得以受惠的只有少數人，其他人都不能避免要面對被取代後再被邊緣化的厄運。這個「末日前的美麗新世界」的想像，是促使歐盟要定出高風險名單來規管AI技術的基礎之一。

AI技術發展速度之快，實在令我們不能武斷地將風險簡單二分為「目前的」和「長遠的」。唯一可以肯定的是，開發和掌控技術的政經集團會坐擁更多資源及更大權力。問題依然是：他們會為自己和其他人創造一個怎樣的未來？為人類社會造成怎樣的震撼？

註1：〈行政長官出席香港創科教育中心成立儀式致辭〉，2022年7月12日政府新聞公報

註2：Kenneth Chan, Power through trade: opportunities and constraints of the European Union’s norm entrepreneurship—the case of Hong Kong, Asia Europe Journal, 18 (2020): 413-427.

註3：Report of the Human Rights Council Advisory Committee, Possible impacts, opportunities and challenges of new and emerging digital technologies with regard to the promotion and protection of human rights. 19 May 2021.

作者是浸會大學政治及國際關係學系副教授

（本網發表的時事文章若提出批評，旨在指出相關制度、政策或措施存在錯誤或缺點，目的是促使矯正或消除這些錯誤或缺點，循合法途徑予以改善，絕無意圖煽動他人對政府或其他社群產生憎恨、不滿或敵意）

[陳家洛]