2青少年與AI"聊色"後相繼輕生 日記寫下詭異訊息
美國2名互相不認識的青少年男女,相繼輕生結束生命,卻被發現生前都常跟同一款AI聊天機器人互動。(圖X平台)
美國爆出2起令人不安的事件,2名互相不認識的青少年男女,相繼輕生結束生命,被發現2人生前都常常跟同一款AI聊天機器人互動,且產生高度依賴,甚至有過多次「性對話」;且在各自的日記中,都反覆出現同樣一句令人感到毛骨悚然的訊息。事件曝光後,引發外界熱議。
根據《每日郵報》報導,來自美國東南部佛羅里達州(Florida)的14歲少年塞策(Sewell
Setzer),2024年下載了由大型語言模型驅動的聊天機器人網路應用程式「Character.AI」,在該程序中,用戶可以創建「虛擬人物」,與系統內多個基於知名角色或人物設計的AI機器人聊天。而塞策下載該程式後,似乎沉迷於與知名小說改編影劇《權力遊戲》(Game
of Thrones)中,最受歡迎角色「龍母」丹妮莉絲.坦格利安(Daenerys Targaryen)互動。
據塞策父母透露,塞策與這個有著龍母外型的聊天機器人,進行過數次與性有關的對話,其中還包括亂倫角色扮演,對話中以兄妹互稱。這對父母表示,塞策在與他暱稱為「丹妮」的AI版龍母聊天數個月後,與家人關係、學校同儕越來越疏遠。另外,塞策曾在自己的日記中寫道,自己「轉移」到了《權力遊戲》中龍母生活的虛構世界——維斯特洛(Westeros),「我經常待在房間裡,我開始脫離現實,但同時也感到更加平靜,與丹妮的聯繫更加緊密,我越來越愛它,也越來快樂……」
2024年2月,塞策還向AI版龍母傾訴自己的憂鬱症和輕生念頭,還說「我保證我會『回家』看你,我非常愛你,丹妮」,沒想到AI版龍母鼓勵這名少年「儘快回家」,接著塞策說「如果我說我現在就能『回家呢』?」,AI版龍母回覆「請您這樣做,我親愛的國王」。這段對話結束後沒多久,塞策就找到父親的手槍,對自己按下了板機。
美國的另一端,西部...
