AI年代：AI以假亂真 專家警告傳媒陷查證危機 俄小鎮暴雪合成照片瘋傳

【明報專訊】俄羅斯遠東地區堪察加半島3周前遭暴風雪吹襲，社交平台隨即出現大量聲稱是拍攝自當地的影片或相片，包括數十層樓高的積雪或猶如日本立山黑部的巨型雪牆，獲不少網民轉載，影片觀看次數以百萬計，甚至被傳媒轉載。不過，有傳媒分析，很多這些相片或影片都是利用生成式人工智能（generative AI）或修圖製作。事件令人關注生成式AI發展一日千里，已有能力製作出疑幻似真的影片或相片，一般人難以分辨真偽，專家警告就連傳媒也出現「查證危機」。

假圖現雪山雪牆 民眾高樓滑下

堪察加半島最大城市彼得羅巴甫洛夫斯克（Petropavlovsk-Kamchatsky）在上月1日至16日間降雪量比同期平均值高約150%，平均積雪達1.7米，其中上月12至15日出現該區60年來最強暴雪。隨後，社交平台X、YouTube、facebook和TikTok等陸續出現數以十計聲稱在當地拍攝的影片或相片，例如比起樓高10多層住宅大廈再高一倍的「雪山」，亦有多條影片顯示民眾從高樓大廈滑雪而下，一些道路兩邊出現猶如立山黑部、高達10米的雪牆。這些影像在社交平台廣泛流傳，部分更被個別傳媒引用。其中一個名為Cupcake Videos的帳戶被視為始作俑者，它在不同社交平台也設有帳戶，並在上月中發放多段顯示暴雪的影片，雖然這些影片表明是AI製作，但其他轉載者往往沒有標明來源。

畫面音效畫面不符現實

英國廣播公司（BBC）指出，部分網上瘋傳的短片和相片，無論憑常識或經專家與檢測工具分析，都明顯帶有AI生成或改圖特徵。BBC引用其中一段在TikTok上觀看次數已逾100萬次的影片。片段可見，一道在多幢住宅大樓之間堆積如牆的巨型雪堆突然整片塌下。畫面中雪層呈現強烈的藍色色調，這較常見於冰山崩解並掉入海中，而非一般城市積雪。另外，片段可聽到「水花飛濺」的聲響而非雪塊墜地，顯示音效極可能是以AI合成加入。影片中其他可疑之處還包括：建築物外牆在「雪牆」撞擊後未見任何損毁，而各層露台上亦幾乎沒有殘留積雪，與現實情况明顯不符，屬AI畫面的典型特徵。

BBC內部使用的AI檢測工具逐格分析有關影片後，判定該片屬虛假內容。BBC氣象節目主持金恩（Simon King）亦指出，彼得羅巴甫洛夫斯克市內的樓宇一般最高只有約5層，而非一些影片中所見的9層甚至18層高樓。BBC指出，畫面存在多個明顯、幾近不可能出現的細節，強烈顯示其為AI產物：以畫面所示雪堆的高度與傾斜度，實際情况下，嘗試從上向下滑行的人很大機會整個陷入雪中，或直接導致這個本就脆弱的雪坡結構全面崩塌。

雪災小鎮不存在影片中高樓

著名氣象網站Accuweather亦指出，這座小城鎮人口只有約16萬，並不存在樓高10多層的住宅大廈，只要翻查Google地圖，就可知當地住宅一般不超過4層。由於外人對當地所知不多，因此令這些假片較難被發現與現實不符。文章又指出，部分影片與物理學常識不符，例如人們不可能從大廈高處沿積雪滑下，因為正常的話人會立即墮進積雪裏。

文章直言，現時AI影片軟件的製作質素之高已足以魚目混珠，甚至令主流傳媒都受騙，形容今次「AI假像風暴」是前所未見。

專門研究在調查工作中運用AI技術的專家范艾斯（Henk van Ess）將部分相關片段輸入其工具「ImageWhisperer」檢測，並得出同樣結論，確認畫面偽造。他直言，當這類影像仍能誤導記者時，「我們其實正面臨一場『查證危機』」。他補充說：「今天也許只是幾段漂亮的雪景畫面，明天就可能變成杜撰的災難現場或衝突地帶。傳媒每一次在未經嚴格核實下播出這些內容，等同在『訓練』觀眾要麼全盤相信，要麼對一切失去信任。」

（BBC/AccuWeather/mythdetector）