觀點
黃偉豪：死神《奥本海默》的重臨：AI是下一場人類殲滅危機？
【明報文章】在電影《奥本海默》（Oppenheimer）開場的第一幕，便出現了以下說話：「普羅米修斯從眾神那裏竊取了火種，並將其送給人類。為此，他被鎖在岩石上並遭受永恒的折磨。」這引述源自希臘神話，懲罰普羅米修斯的眾神之父宙斯的憤怒，是基於對人性的理解，在沒有駕馭火的能力和制度下，火進入了人類世界，最後只會帶來戰爭和死亡。昔日的「火」是原子彈，而今天的「火」極可能是AI（人工智能）。
該電影是以「原子彈之父」、物理學家奥本海默為主題，導演基斯杜化路蘭（Christopher Nolan）大大減少了複雜和難明的科學理論，就是想發出一個重要信息：當人類未有駕馭強大科技能力的時候，科技只會帶來災難和死亡。路蘭想透過電影讓觀眾明白人性的本質，特別是其黑暗面如貪婪、自私、虛榮和好戰等。
AI已成新一代「火種」
普羅米修斯的神話，跟奥本海默的傳奇和經歷有着很多相同之處。首先，兩者的出發點均是出於對人類的愛和善意，可惜得出的結果卻事與願違。火可以大大改善人類的生活；而奥本海默等一眾傑出科學家，加入為製造原子彈而設立的「曼哈頓計劃」（Manhattan Project），目標便是要比發動第二次世界大戰的納粹德國更早掌控這科技，進而盡快取得勝利、恢復和平。
電影一開場所引述的「火」是一個比喻，應廣泛地演繹，所指的是先進的神級科技和文明。在二戰期間，奥本海默把原子彈這個「火種」帶給了人類，結果雖然成功結束第二次大戰，但人類卻從此活在核戰的死亡陰影之下。時至今日，AI已經成了新一代的「火種」，等待另一批天才科學家，把又一波的危機帶進人間。
電影多番強調的是，科技和科學家只是整個故事的開始和其中一部分，甚至是較次要的部分，因為如何使用發明之後的科技，才是決定結果的關鍵。在這個政治過程中，科學家的地位甚低，甚至被排斥成為受害人。諷刺地，連奥本海默本人都不能倖免，遭遇如此下場。
由於奥本海默在戰後積極反戰，其阻止核擴散和軍備競賽的立場，跟當權者相反，成為了他們的眼中釘。結果前者被政敵指控他與蘇聯關係密切，除去他的安全許可，使他不能再擔任政府有關原子能的官方職位，只能從事民間和學術活動，大大削減了他在政策上的影響力。雖然後來總統甘迺迪在奥本海默的晚年，簽署向後者頒發一個原子能大獎（編者按：甘迺迪在1963年11月遇刺，該獎項由接替就任總統的詹森於同年12月頒發），可以說是對他的平反，但對於為追求和平而發明原子彈的奥本海默來說，仍是壯志未酬，鬱鬱而終，終年只有62歲。
電影要指出的是，當神一般的科技落入自私又自大的人類手中，便會成為毁滅世界的工具，情况逐漸失控，結果一發不可收拾。就以原子彈為例，整個曼哈頓計劃的原先目標，是為了應付納粹德國；惟當美國知道德國根本沒有如此成熟的原子彈研究項目，甚至在德國投降之後，卻沒有暫停計劃，而是本末倒置地，用手段合理化目標，把矛頭指向日本，最終先後在廣島和長崎投下原子彈，造成數以十萬計的無辜平民即時死亡。
個人責任與集體決定
在電影中，有奥本海默被美國時任總統杜魯門接見的一幕。當時已懊惱萬分的奥本海默向杜魯門表示感到「自己滿手鮮血」（I feel I have blood on my hands），但杜魯門卻安慰說向日本投下原子彈是他的決定。可是，從普羅米修斯的傳說中可以了解到，透過發明原子彈，奥本海默的角色就正正是神話中把火送給人類的普羅米修斯，結果給人類帶來史無前例的浩劫，形同死神的化身。
諷刺的是，在看似文明、實質愚昧的人類社會中，除了突然良心發現的奥本海默之外，未必有太多當事人感受到自己的責任，把自己視為殺人兇手。首先，科學家只是發明原子彈，不決定它如何被使用；而決定向日本投下原子彈的杜魯門，並不決定所攻擊的城市；決定目標城市的亦非一個人，而是整個委員會的集體決定，無人需要負上個人責任。值得一提的是，原先日本京都是其中一個目標，但因美方委員會有成員曾在京都度蜜月而幸運地被剔除，顯示決定人命的過程不單不科學，也十分兒戲。
歷史學家也對美國在廣島、長崎投下原子彈的合理性和合法性，提出了強烈質疑。兩個原子彈的主要襲擊目標是平民，事件在今天的標準來看，明顯是徹徹底底的戰爭罪行。而且，若行動目的是向日本和蘇聯展示美國秘密武器的威力，震懾對手，美國大可以選擇人口較少的地區或軍事目標，而非用最殘忍的殺戮方式，在大城市的市中心直接引爆原子彈。
事到如今，人類是否有能力阻止下一場自毁性的災難發生？在核危機未過，俄羅斯與烏克蘭戰爭及日漸升溫的台海危機均有可能引發核戰的同時，AI一日千里而又不可預知的發展，使AI大有可能成為由普羅米修斯交給人類、帶來災難的下一個「火種」。雖然在荷李活的電影裏，「人工意識」（AI consciousness），即機械的自我省覺，擁有跟人一樣的思想和自我身分及價值，進而脫離人類控制，是最賣座的題材；但在現實中，最短期和直接的威脅，始終是AI被人類運用於邪惡的用途上。
藉全人類合作 方能自我救贖
火種已來到人間，神要收回也為時已晚。與核能一樣，國際合作和栛議、邁向全球管治（global governance）的架構才是出路。早前歐洲議會（European Parliament）通過《人工智能法案》（AI Act；註），希望明確禁止操控人類的AI科技，發揮「AI為民」（AI for social good）的精神。可惜，若協議只適用於某些國家及地區，對AI的整體發展影響有限，不足以扭轉歷史進程。正如當年美國也禁止蘇聯取得原子彈技術，惟後者最終都透過間諜等手段成功掌握。換言之，當神的科技掉落凡間，只有靠全人類的合作和互信，而非幸運或個別天才，才能自我救贖。
註：artificialintelligenceact.eu/the-act
作者是美國史丹福大學行為科學高等研究中心院士
■稿例
1.論壇版為公開園地，歡迎投稿。論壇版文章以2300字為限。讀者來函請電郵至[email protected]，傳真﹕2898 3783。
2.本報編輯基於篇幅所限，保留文章刪節權，惟以力求保持文章主要論點及立場為原則﹔如不欲文章被刪節，請註明。
3.來稿請附上作者真實姓名及聯絡方法（可用筆名發表），請勿一稿兩投﹔若不適用，恕不另行通知，除附回郵資者外，本報將不予退稿。
4. 投稿者注意：當文章被刊登後，本報即擁有該文章的本地獨家中文出版權，本報權利並包括轉載被刊登的投稿文章於本地及海外媒體（包括電子媒體，如互聯網站等）。此外，本報有權將該文章的複印許可使用權授予有關的複印授權公司及組織。本報上述權利絕不影響投稿者的版權及其權利利益。
（本網發表的時事文章若提出批評，旨在指出相關制度、政策或措施存在錯誤或缺點，目的是促使矯正或消除這些錯誤或缺點，循合法途徑予以改善，絕無意圖煽動他人對政府或其他社群產生憎恨、不滿或敵意）
