經濟

許健生：AI幾何式突破：Q*計劃

發佈於

11 個月前

2023 年 11 月 27 日

明報

【明報專訊】對一向留意創科的朋友來說，上周「美式宮鬥劇」ChatGPT之父反擊戰十分精彩，其發展速度之快、節奏之緊湊、人物之設定到最後反高潮實在睇得扣人心弦，好睇過好多荷李活電影。據上周中的消息，今次「宮鬥」源於一封OpenAI 內的研究人員給董事會的文件，裏面內容大致是說AGI出現突破發展，但擔心會威脅人類未來，於是董事會找了Sam Altman對話，之後發展大家也知道亦已是歷史了。

人工智慧大致分為3個階段：狹義人工智慧（Artificial Narrow Intelligence, ANI）、廣義人工智慧（Artificial General Intelligence, AGI）和超級人工智慧（Artificial Super Intelligence, ASI）。 ANI相對於人類智慧來說，能力是有限的。它只能執行特定任務，並且需要預先定義的規則和模式。相比之下，人類具有廣泛智能，可以在各種領域中學習、推理和解決問題。人類能夠理解複雜概念，從經驗中學習，並適應新情境和挑戰。

AGI是一個更接近人類智慧的概念，它具有廣泛智能，可以像人類一樣在多個領域中執行各種任務。相較於ANI，AGI能夠自主學習、理解抽象概念和適應新情境。然而，目前尚未實現真正的AGI，且與人類智慧的差距仍然存在。

至於ASI，它是超越人類智能的概念。ASI具有遠遠超出人類的計算能力和智慧，能夠在幾乎任何領域進行高度複雜的思考和解決問題。它擁有超乎人類理解的知識和洞察力，並可能具有創造新知識和改變社會結構的能力。然而，ASI的發展和潛在影響還存在着許多未知的因素，且與人類智慧的比較更困難。

什麼是Q*計劃：

根據消息人士的說法，OpenAI在內部信息中承認了一個名為Q*（發音為Q-Star）的計劃及寄給董事會的信件。因部分OpenAI員工認為Q*計劃可能在AGI方面的突破，並相信在大多數經濟價值任務上已超越人類的自主系統。OpenAI的研究人員對Q*未來成功持樂觀態度。生成式人工智能目前在寫作和語言翻譯方面表現良好，其中答案可以有很大差異。然而，能夠解決只有一個正確答案的數學問題表明人工智能能夠接近人類智慧水平的能力。

研究人員在寄給OpenAI董事會的信中警告這一強大算法對人類的潛在危險。然而，該信中具體提到的安全問題並未透露。筆者推斷，Q*可能已徹底改進AI推理能力，將ChatGPT推向發展AGI的重大突破邊緣，與目前生成式AI模型不同，AGI是一個可以在決策中運用推理的自主系統，賦予其具有人類水平的問題解決能力。

雖然AGI尚未完全實現，但許多專家認為該技術還能進行累積學習，這是人類認知的另一個特點，可以使其能夠以指數級地改進自身。例如在解決數學問題時，Q*已經展示出這些特徵。得益於模型龐大的計算能力，它能夠解決某些數學問題。與只能解決有限數量運算的計算器不同，AGI可以做到泛化、學習和理解。雖然數學成績僅能達到小學生的水平，但在類似數學測試中能夠取得優異成績，依然讓研究人員對它未來的成功非常樂觀。

OpenAI的研究人員對Q*計劃表達了道德上的擔憂：

雖然OpenAI行政總裁Sam Altman對AGI技術能推動創新感到自信，但一些研究人員很快指出了Q*計劃的潛在危險。現在，Altman重新掌舵，並且Q*計劃可能會獲得綠燈。

雖然從目前能掌握的資料並不能了解到Q* 計劃發展到哪個地步，但筆者記得OpenAI曾在4月揚言將會本年底推出ChatGPT 5，但因科技界大咖及全球領袖關注人工智能是否發展太快，之後就沒有太多聲音。那次Q*的真身是否就是傳說中的ChatGPT 5呢？要知道假如從ANI發展到AGI要40年，但隨着算力及自主學習的能力不斷提升，可能只需幾年便能達致ASI水平。其概念可以思考為ANI的IQ有80，那AGI的IQ可能已達300（愛因斯坦的IQ是200），ASI的IQ絕對有可能高達1000以上，這個水平的智慧並非我們現在的人類能夠想像的。

對於AGI和Q*計劃，我們是否應該感到擔憂呢？雖然這是OpenAI迄今最接近實現AGI概念的一次，但這並不是Altman第一次在談論這項技術時引起關注。去年9月，這名矽谷巨頭因將AGI比作「一個你可以僱用為同事的中位數人類（Median Human）」而陷入麻煩，這與他去年有關這種人工智能「可以做任何你希望一個遠程同事能做的事情」（包括學習成為一名醫生和一名非常優秀的編程人員）的評論相呼應。雖然將AGI與「中位數人類」的智能進行比較並不新鮮，但Altman使用這個詞被AI倫理學家和劍橋大學教授Henry Shevlin視為「令人不快」，因為人們對人工智能對就業安全的影響愈來愈擔憂。

目前尚不清楚Project Q*已經進行了多長時間的開發，以及它的應用可能是什麼，但已對於AGI的潛在突破也引起了其他AI研究人員的警鐘。雖然OpenAI認為AGI的積極效果使得潛在的風險場面值得冒。然而，隨着這家擁有創造顛覆性的初創公司如繼續推進其發展，筆者擔心Sam Altman會否將商業成功置於用戶和整個社會的利益、人類文明之上呢？