AI陪伴的「情感陷阱」：過度沉迷 數據遭濫用

　　圖：AI情感陪伴應用存在負面影響。\網上圖片

　　【大公報訊】人們為何選擇AI作為伴侶？原因多種多樣。對AI伴侶的需求反映了孤獨的流行，這是現代社會很多人共有的問題。AI能夠為用戶提供情感慰藉，尤其是對於那些存在社交障礙的人們，AI伴侶能夠提供一個交流的平台。對於難以啟齒的困擾，AI更容易成為人類傾訴的「樹洞」。其次，AI伴侶非常方便，24小時在線，不需要睡覺，隨時提供情感支持。第三，技術進步使得AI可根據用戶個人喜好量身定做，再加上算法加持，AI對使用者的興趣、愛好、情緒狀態瞭如指掌，除了可填補了情感空白，也悄悄地滿足了人們塑造「完美伴侶／朋友」的期望。

　　不過，AI陪伴是一把雙刃劍，其風險也值得警惕。用戶可能對AI伴侶形成不健康的情感依賴，模糊了虛擬與真實的界限，用戶甚至把AI伴侶當作真實存在的人，影響現實中的人際交往。

　　目前很多AI伴侶軟件，對用戶年齡限制和安全監管系統相對薄弱，尤其是針對未成年人用戶。去年10月，美國一名14歲少年在與AI聊天機器人長時間對話後自殺身亡，其母將開發軟件的公司Character.ai告上法院。不少AI陪伴軟件的營利模式，需要用戶不斷支付更多的費用，才能解鎖部分功能（比如色情內容），而AI陪伴軟件「軟色情」和「內容擦邊」等問題，屢成爭議。AI伴侶會收集用戶的大量個人數據，也引發數據安全和隱私問題。意大利數據保護機構在今年5月宣布，AI陪伴初創公司Replika因違反用戶個人數據保護規則，處以500萬歐元罰款。

　　全球針對AI的相關立法，仍處於落後狀態。今年5月，加州參議院通過了一項AI聊天機器人監管法案，要求必須至少每隔3小時提醒用戶，陪聊對象「不是人類」。軟件的開發必須設有防自殺機制和遵守數據透明等相關規定。展望未來，如何利用AI提供情感支持，又能在維繫人際關係之間找到平衡，值得思考。