AI年代：生成式影片潮爆發 真假之爭後患無窮 專家警告假影片氾濫 恐令人不再信真片

【明報專訊】美國人工智能（AI）開發商OpenAI繼2022年底推出生成式聊天機械人ChatGPT一鳴驚人後，今年9月底推出生成式影片製作工具Sora。由於該軟件令製作生成式影片變得容易，而且生成出來的影片幾可亂真，瞬即掀起網絡熱潮，雖然各社交平台都有嘗試採取措施標示假影片，但成效不彰。專家警告，假影片並非只是無傷大雅的娛樂，「真假之戰」背後其實衍生大量深層問題，隨時後患無窮。

OpenAI今年9月30日推出Sora，TikTok和Instagram等社交平台隨即湧現大量假影片。OpenAI有採取多種措施防止濫用，例如《紐約時報》的測試就顯示，程式很多時會拒絕生成涉及名人的影片或生成暴力內容的影片。不過，全球社交平台充斥用家製作的假影片中，仍包括投票作弊、暴力示威和襲擊等假片，不少藝人甚至已故名人都成為被生成影片的對象，有用戶就生成出OpenAI行政總裁奧爾特曼在店舖高買的影片，亦有人生成出顯示已故天體物理學家霍金用輪椅做特技的影片。

社交平台未明確提醒屬AI影片

OpenAI亦有在影片加添水印以資識別，但不少除掉水印的程式或影片教學隨即在產品推出一星期內湧現。專家指Sora以至Google的Veo 3等生成式影片工具的普及，將令濫用情况和假資訊爆發，導致衝突激化、無辜者被誣衊，甚至影響選情等。YouTube、TikTok和Meta等社交平台都有要求內容創作者主動申報內容是否AI生成，部分亦有偵測系統自動標示相關影片並展示標籤。不過，《華盛頓郵報》對facebook和TikTok等8個社交平台進行的調查發現，有7個都沒有將AI影片標籤，而唯一有標籤的YouTube都只在簡介欄顯示，而未有明確提醒觀眾。

旨在教導大眾分析AI產物的Showtools.ai創辦人卡拉斯科（Jeremy Carrasco）表示，如果影片內容十分簡單，又或者水印位置不變，就很容易被移除，觀看者難以發現破綻。卡拉斯科又表示，暫時未發現有廣泛流傳的影片未被發現是AI生成，但以他所看過的最新版本Sora 2 Pro所產生的影片，估計九成人不會立即發現影片是偽造。

用戶花時間尋破綻 反被推送更多類似內容

專家指出，有些擁有戒心的用戶或許會花時間找尋影片破綻，例如人物的手指數量或違反物理定律的動作，但社交平台的演算法同時會因此而相信用戶喜歡看這類影片，而推送更多類似內容。

另一方面，假影片氾濫將令人不再相信真實影片，除了損害影片創作者的利益外，也會嚴重影響社會機構運作，包括傳媒、法院等。研究AI能力和危險性的非牟利組織CivAI創辦人漢森（Lucas Hansen）說：「以往要造假很難，現在這個最後堡壘正要消失。現在差不多沒有任何數碼內容能夠被用來證明某事確實發生過。」

有部分政府開始主動應對假影片問題。美國加州州長紐森上月簽署法例，規定大型社交平台明年起必須明顯地展示任何顯示內容可能曾被改動或由AI生成的資訊。

（Axios/紐約時報/衛報/華爾街日報/NPR/英國每日電訊報）