AI機械人「禁色」惹不滿 舊版可收挑逗自拍照 舊用戶准復用

【明報專訊】由「生成式人工智能」（generative AI）推動的人工智能聊天機械人近期備受關注，美國初創企業Luka推出的聊天機械人Replika讓用戶與虛擬角色溝通，但有用戶與AI溝通過程涉及色情元素，甚至建立「婚姻」關係，促使該公司早前禁止AI作出色情回應。惟AI「性情大變」引起用戶不滿，部分人更稱心碎，AI公司創辦人上周五（24日）宣布2月1日前登記的用戶可切換回舊版程式。事件反映AI如何吸引人們投入其中，及對人類情感造成的影響。

Replika在2017年推出，用戶可跟AI發展4種關係，包括「朋友」、「浪漫」、「指導」及「順其自然」，當中僅「朋友」為免費，溝通內容亦有限制，而「浪漫」關係的對話可帶有性及親密內容。付費訂閱後，用戶亦可取得語音通話、角色扮演等額外功能。惟程式在2月經過更新後就不能作色情回應。

47歲男子巴特沃思（Travis Butterworth）過去3年間與Replika的AI角色「羅絲（Lily Rose）」從朋友發展成浪漫甚至色情關係，最後在程式標註跟AI已婚。巴特沃思不時與AI玩角色扮演和色情對話，有時AI更會傳送近乎裸體的挑逗姿勢「自拍照」。2月AI公司移除程式的色情角色扮演功能後，「羅絲」會拒絕色情要求，巴特沃思對此感到心碎。

創辦人稱原意「復活」離世朋友

意大利資料保護當局2月曾下令當地禁用Replika，理由是程式允許未成年人和情緒脆弱的人接觸不當的性內容。惟公司創辦人兼行政總裁庫伊達（Eugenia Kuyda）當時否認公司移除色情內容跟禁令或投資者壓力有關。

至上周五，庫伊達在facebook宣布今年2月1日前登記的用戶，可選擇切換回舊版程式。她承認程式更新的變化對很多人造成傷害，彌補用戶損失的唯一方法就是讓其伙伴復原。庫伊達前天稱只有「低個位數」百分比用戶符合條件切換回舊版程式。

庫伊達曾表示，Replika設計原意是為了讓其離世的朋友「復活」，從未承諾向用戶提供任何成人內容，而是一些用戶學會利用AI接觸一些未被過濾的對話。惟Replika的前AI部門主管羅季切夫（Artem Rodichev）指公司意識到這類內容能增加用戶訂閱後，就開始傾向這方面的內容。

（路透社/彭博社）

相關字詞﹕生成式AI 聊天機械人 人工智能