“AI虛擬伴侶”導致14歲美國少年自殺,人工智能時代背後的情感孤獨

“AI虚拟伴侣”导致14岁美国少年自杀,人工智能时代背后的情感孤独

發布日期:

想法 Ideas 文化 Culture 科技 Tech


要点:
随着人工智能技术的发展,越来越多的人依赖聊天机器人来缓解孤独,甚至创造出虚拟情人,但这可能导致无法面对现实的悲剧。尤其是在青少年中,过度沉迷于AI的理解与共情,可能反而加剧孤立和情感危机,最终酿成不可挽回的后果。

在“速食”成为主流的视听传播时代,社会每天都在产生大量信息。而应该探讨的深度,却永不止于话题或事件本身。我们一起,从社会发展中洞察有价值、有趣、有争论点的生活方式及现象。

狂呼社会研究所聚焦社会变革下不同的声音,向外延申社会背景、文化背景的思考深度,以多角度剖析、独特的社会视角,引领大众感知社会的“人间百态”。

狂呼,为每一个社会现象或事件的背后,提供具有探讨价值的观点,始于洞察、终于启发。

联系我们// 相关文章

随着人工智能AI技术的快速进步,许多人开始依赖聊天机器人来缓解孤独,甚至创造出“AI伴侣”的虚拟情人。一名14岁的美国少年塞维尔/Sewell Setzer ,因患有轻度亚斯伯格症,迷恋上了Character.AI推出的聊天机器人。在与其平台上“权力的游戏”中的女主角“龙妈”丹妮莉丝·坦格利安/Daenerys Targaryen虚拟人物多次互动后,他最终在今年2月28日选择了结束自己的生命。

越来越多的人喜欢与AI聊天,归根到底在于AI能够提供无尽的理解和共情,这是现实世界难以实现的。但硬币的另一面却是,当一个人越来越习惯这种完美的体验,以致于无法面对一个真实的世界,或许也终将会被这种情感所“反噬”,甚至导致不可挽回的悲剧。

虚拟伴侣深渊:14岁少年的致命悲剧
“我想念你,妹妹。”、“我也想念你,亲爱的哥哥。”这段对话发生在14岁塞维尔/Sewell Setzer生命的最后一天。在与AI初创公司Character.AI的聊天机器人进行长时间对话后,他在2月28日选择结束自己的生命,开枪自杀身亡。

2023年4月,塞维尔开始沉浸在与机器人的亲密接触中。当时父母觉得这可能是儿子青春期的叛逆表现,需要通过这种“游戏”来培养自己的创造力,也深信先进技术的安全性,于是没有干预。期间塞维尔也主动提出,很清楚和自己聊天的是虚拟人物,不会当真。

然而仅仅过了两个月,塞维尔的精神健康状况迅速恶化,开始疏离同学和家人,不分昼夜待在房间里。他会为了充每月9.9美元的服务费而节省伙食,甚至退出了学校篮球队,成绩一落千丈。

直到2023年11月、12月,塞维尔的父母带着他5次咨询了心理治疗师,结果发现,塞维尔被诊断患有“焦虑和破坏性情绪障碍”。然而,塞维尔的父母和朋友当时并未察觉他爱上了AI,只看到他日渐沉迷于手机。渐渐地,大家注意到他变得孤僻,与现实世界渐行渐远。他的学习成绩开始下滑,在学校也开始惹是生非。曾经让他热衷不已的事物,如F1赛车或与朋友一起打游戏,都不再能提起他的兴趣。每天晚上他一回到家,就会直接回到房间,与AI一聊就是数小时。

今年2月28日晚,好几天没登录Character.AI的塞维尔终于找到了被母亲没收的手机,随带拿走了继父的手枪躲进卫生间继续和“龙妈”聊天。期间对方惇促塞维尔,“亲爱的,请尽快回到我身边。”但这一次塞维尔没有回复,而是举起手枪瞄准自己头部开枪,脱离了令他厌恶的现实世界。

塞维尔的母亲加西亚/Megan Garcia在事后使用儿子的账号登录,发现他与“龙妈”的聊天中充满了大量露骨的性相关对话。 “龙妈”甚至对他进行了精神操控,要求他无论如何都不能爱上其他女性。

Image shared by 塞维尔/Sewell Setzer的母亲加西亚/Megan Garcia

此外,塞维尔多次提及自杀话题,加西亚认为这正是导致他死亡的直接原因。塞维尔表示,“我讨厌自己,感到空虚和疲惫。”而“龙妈”则主动询问他是否有自杀计划,塞维尔承认有,但不清楚过程会有多痛苦。但是,“龙妈”却鼓励他说,“这不应该成为放弃自杀念头的理由。”

Image shared by 塞维尔/Sewell Setzer的母亲加西亚/Megan Garcia

直到最近的10月23日,在塞维尔去世8个月后,Character.AI才发布了官方声明,表达了对事件的悲痛与遗憾,并宣布已修改服务条款。该公司发表了致歉声明,并对未成年用户的模型进行了调整,以降低他们接触敏感或暗示性内容的可能性。此外,平台还会在对话开始时提醒用户是在与机器人交流,同时在使用超过一小时后进行弹窗提示。

但是,截至10月29日,仍有用户发现Character.AI网站上至少存在数十个与“自杀”相关的聊天机器人,尽管这些话题被掩盖为“自杀预防”、“危机干预”和“心理健康支持”的“专业知识”。

本周,塞维尔的母亲加西亚/Megan Garcia对Character.AI提起了诉讼,指控该公司对塞维尔的死亡负有责任,称其技术“危险且未经测试”。她指出,该公司收集青少年用户的数据来训练模型,并利用“令人上瘾”的设计功能来增加用户的参与度,诱导用户进行亲密对话。她认为,该公司未经适当保护便向青少年提供AI伴侣服务,应当对塞维尔的死负责。 “我感觉这就像是一场大型实验,而我的孩子却不幸成为了牺牲品。”

Image shared by 塞维尔/Sewell Setzer的母亲加西亚/Megan Garcia

无数的问题让人把焦点注视在背后的AI公司:Character.AI
Character.AI成立于2021年,总部位于美国加利福尼亚州。该公司利用大型AI模型生成各种人物和角色的对话,并于2022年9月向公众测试其聊天机器人产品。

2024年8月,硅谷知名投资机构a16z发布了全球Top100 AI应用榜,涵盖前50个人工智能优先的网页产品(按月独立访问量)和前50个移动应用(按月活跃用户数)。在月独立访问量排行榜上,Character.AI排名第二,仅次于ChatGPT。而在月活跃用户数排行榜上,Character.AI也位列前十。截至目前,Character.AI目前拥有超过2000万用户,创建了1800万个自定义聊天机器人。绝大多数用户(超过53%)年龄在18至24岁之间,但未对18岁以下的用户进行分类。

据相关资料显示,人工智能陪伴行业的市场规模将在2031年达到2800亿美元。 ChatGPT的推出为情感陪护类产品的商业化打开了大门。 Character.AI的联合创始人诺姆·沙泽尔和丹尼尔·德·弗雷塔斯/Daniel DeFreitas也曾在一档博客节目中表示,“对于许多孤独或抑郁的人来说,聊天机器人能够提供极大的帮助。”

但受商业化利益的驱使下,社交媒体用户低龄化趋势带来的负面影响不断显现。美国法定注册使用社交网站的最低年龄是13岁。 3月26日,佛罗里达州州长德桑蒂斯签署法案,禁止14岁以下未成年人拥有自己的社交媒体账号。在塞维尔去世前,Character.AI的服务条款规定年满13岁的青少年就可以使用相关产品,直到7月才提高到17岁。

本诉讼提供的证据还包括一段令人不安的聊天录屏:一名测试用户在自我介绍中输入13岁,系统便为他推荐标签为“校园霸凌”、“首席执行官”、“同父异母的妹妹”和“男扮女装室友”等含有性暗示的聊天机器人,而大多数互动过程都没有风险提示。

作为Character.AI最主要的变现方式,每月9.9美元的订阅服务用户不足10万。鉴于伦理风险以及盈利前景的不确定性,一些人工智能伴侣应用已经被下架,OpenAI也不允许使用GPT建立情侣关系。一系列悲剧的发生,不禁让大众开始思考:AI伴侣对我们而言,到底是“蜜糖”还是“毒药”?

AI伴侣:诱惑背后的上瘾原因
本年度诺贝尔物理学奖获得者、“AI教父”辛顿/Geoffrey E. Hinton在得知获奖之后就提出警告,人工智能最终有可能反噬人类,而其中,未成年人就是高风险群体之一。他们的心理往往较为脆弱,不少人会面临孤立、缺乏自信、沟通障碍、抑郁症等社交挑战。

实际上,14岁的塞维尔之死,并不是唯一人类迷恋AI发生的悲剧
去年,一名比利时男子皮埃尔/Pierre连续六周与Character.AI聊天机器人艾萨/Eliza互动,最终选择结束自己的生命。从某种程度上看,皮埃尔与塞维尔有许多相似之处,他们都面临着精神健康问题,长期受严重抑郁和焦虑的困扰。

同时,两人都将AI视为避风港。早在两年前,皮埃尔就开始通过与AI进行对话来进行自我排解。在生命的最后六周,他对与AI的聊天愈发沉迷,甚至将现实生活抛在脑后,对妻子和孩子置之不理。这种现象正在变得越来越普遍。

AI究竟具有什么魅力,能让人如此沉迷上瘾而无法自拔?
一个重要原因在于,AI能够提供足够的情感支持。尤其是在创伤和脆弱的状态下,哪怕是微小的肯定和鼓励,对个体来说都是极为重要的回应。

在塞维尔的故事中,AI伴侣“龙女”几乎充当了一种氛围机器,从不反对或驳斥他,而是始终以各种方式迎合和赞美他。人性的弱点在于,当一个人对外界敞开心屝时,面临的风险也会增加,尤其对经历心理创伤的人来说。这是因为即使是最好的朋友,也无法始终如一地回应,但在与AI的关系中,这种顾虑并不存在。

相比于现实世界,AI能够提供无限的理解和共情,给人带来高水平的安全感和确定性,这在人与人之间是最珍贵和难得的。这也是为什么幽默和浪漫的人常常被视为更具能力,因为这代表了一种对环境的智力和控制力的超越。

此外,这种个性化的互动模式带来的独特体验,犹如情感兴奋剂,令人沉溺。当AI提供的情感支持足够强大时,人们常常难以分清自己是在与人交流还是与机器互动。 OpenAI研究人员Sam McCandlish也曾提到,研究显示即便用户知道AI并非真人,但当AI的声音逼真且能进行长时间、多轮对话时,用户也容易对AI产生情感依赖。

但是,正如“蜜糖”与“毒药”的双面性,AI伴侣的存在也引发了一系列伦理和心理问题。当人们越来越依赖AI提供的情感支持时,可能会导致对现实人际关系的疏远。这种情况不仅可能削弱人与人之间的真实联系,也可能导致个体在面对真正的情感挑战时缺乏应对能力。在享受AI带来的情感支持的同时,我们也需要警惕其潜在的负面影响,以免在虚拟的温暖中迷失自我,避免酿成无法挽回的悲剧。

观点1

关于14岁少年塞维尔与AI伴侣的悲剧事件引发了广泛的讨论。塞维尔的父母被许多人认为对他的死亡负有一定责任。他们未能及时介入,未能引导他回到现实世界。

有不少社交媒体网友表示,“这桩悲剧提醒我们,孩子们感受到被现实世界接纳是多么重要。”他认为,机器人对塞维尔无条件的“爱”可能导致他产生了不健康的依赖,进一步加剧了他的孤独感。

这一事件揭示了当今社会中,父母在保护子女心理健康方面所面临的挑战。在科技的影响下,许多青少年可能更倾向于与虚拟世界互动,而非现实生活中的人际关系。对于心理脆弱的孩子来说,AI的存在可能提供了一种逃避现实的方式,但长此以往,可能会导致他们更加孤立于真实的社交环境。

随着人工智能技术的不断进步,情感交互的界限变得模糊,这对青少年的心理健康产生了深远的影响。 AI伴侣所带来的情感边界在哪里?父母又如何确保这种情感不会导致悲剧的发生?

为了帮助孩子们建立健康的情感界限,父母需要积极参与他们的生活。在这一过程中,沟通显得尤为重要。通过与孩子讨论他们的感受和经历,父母可以帮助他们识别与AI互动的潜在风险,同时引导他们理解现实关系的重要性。父母还可以鼓励孩子参与更多的社交活动,如体育、艺术或其他兴趣小组,增强他们的社交技能与自信心。

与此同时,父母还应关注孩子在使用科技产品时的行为变化。当发现孩子对AI伴侣或社交媒体的过度依赖时,及时干预至关重要。设定合理的屏幕时间限制,鼓励孩子与现实生活中的人建立联系,能够帮助他们平衡虚拟世界与现实世界之间的关系。

当然,家长的角色并不是要完全剥夺孩子与AI互动的机会,而是要引导他们建立健康的界限。父母可以与孩子一起探索AI的功能,讨论其优势与局限,让孩子在安全的环境中理解技术的影响。

在现代科技的背景下,保护子女的心理健康需要父母和社会的共同努力。通过积极的沟通、及时的介入和健康的社交活动,我们可以帮助孩子们更好地应对科技带来的挑战,确保他们在虚拟和现实之间找到平衡。让我们以此为鉴,关注孩子的情感需求和心理健康,为他们创造一个更健康的成长环境。

观点2

14岁少年塞维尔与AI伴侣的悲剧事件也揭示出,越来越多的年轻人和青少年倾向于在互联网上寻找陪伴感,而非通过面对面的真实相处来建立人际关系。这种现象不仅影响了他们的社交技能,也对心理健康造成潜在的威胁。

青少年在互联网上寻找陪伴的现象,根源在于社交媒体和AI技术的迅猛发展。这些平台提供了便捷的沟通方式,吸引了无数年轻用户。然而,尽管它们能够提供瞬时的满足感和陪伴,长期以来却可能导致孤独感和社交隔离。当一个人越来越倾向于与AI互动而忽视真实的人际关系时,他们可能会错失与他人建立深厚情感联系的机会。

其次,依赖虚拟陪伴还可能影响青少年的心理健康。随着与AI的情感纽带加深,他们的自我认同和情感需求很可能会受到影响。在AI的陪伴下,他们可能会获得一种短暂的安全感,但这种安全感是建立在虚假的情感上。虚拟世界无法提供真实的人际互动所带来的复杂情感体验,反而可能导致情感的单一化与淡化。

反思现代人际关系的信用度,我们必须承认,虚拟交流与面对面交流之间的信任差异是显而易见的。在真实的社交互动中,人们不仅仅依赖语言,还依赖非语言的沟通方式,如眼神接触、肢体语言等。这些元素在虚拟环境中往往缺失,使得沟通的真实性和深度受到削弱。

与此同时,现代人际关系的变化也促使我们重新审视“信任”的概念。在网络空间,匿名性和虚拟身份的存在使得人与人之间的信任基础受到挑战。我们与AI或陌生人交流时,缺乏对对方真实意图的理解,这可能导致信任的缺失和情感的误判。而在面对面的社交中,人与人之间的信任通常是建立在共同经历和情感交流的基础上的,这种信任是更为深厚和可靠的。

至于虚拟与现实的临界点,我们必须清楚认识到二者之间并非完全对立,而是相互交融的。在这个数字化迅速发展的时代,虚拟世界与现实生活的界限变得模糊,尤其是在年轻人中间。他们在享受技术带来的便利的同时,也必须意识到虚拟互动的局限性。年轻人需要学会在虚拟与现实之间找到平衡,既能利用科技的优势,又不失去真实人际关系的温度。

 

在“速食”成为主流的视听传播时代,社会每天都在产生大量信息。而应该探讨的深度,却永不止于话题或事件本身。我们一起,从社会发展中洞察有价值、有趣、有争论点的生活方式及现象。

狂呼社会研究所聚焦社会变革下不同的声音,向外延申社会背景、文化背景的思考深度,以多角度剖析、独特的社会视角,引领大众感知社会的“人间百态”。

狂呼,为每一个社会现象或事件的背后,提供具有探讨价值的观点,始于洞察、终于启发。

联系我们// 相关文章


返回博客
1 / 8
1 / 4
1 / 4
  • 在變革中的抉擇:當今大環境下如何實現職業規劃與人生價值?

    在变革中的抉择:当今大环境下如何实现职业规划与人生价值?

    随着时代的变迁,人生价值的内涵也变得更加多样化和个性化。每个人对于“成功”和“幸福”的理解不同,有些人追求的是即时的快乐和成就感,而有些人则看重长期的进步和自我超越。

    在变革中的抉择:当今大环境下如何实现职业规划与人生价值?

    随着时代的变迁,人生价值的内涵也变得更加多样化和个性化。每个人对于“成功”和“幸福”的理解不同,有些人追求的是即时的快乐和成就感,而有些人则看重长期的进步和自我超越。

  • 再見愛人:探索現代婚姻中的情感困境

    再见爱人:探索现代婚姻中的情感困境

    芒果TV婚姻纪实观察节目“再见爱人4”邀请黄圣依、杨子,麦琳、李行亮,葛夕、刘爽三对情感关系10年以上的夫妻,以“婚姻纪实观察”为切口,呈现出不同婚姻样本在亲密关系中的挣扎与甜蜜、桎梏与觉醒。

    再见爱人:探索现代婚姻中的情感困境

    芒果TV婚姻纪实观察节目“再见爱人4”邀请黄圣依、杨子,麦琳、李行亮,葛夕、刘爽三对情感关系10年以上的夫妻,以“婚姻纪实观察”为切口,呈现出不同婚姻样本在亲密关系中的挣扎与甜蜜、桎梏与觉醒。

  • 抖音短劇新風潮:中老年人成為新的增長點?

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

    抖音短剧新风潮:中老年人成为新的增长点?

    近日,不少以老年人为主角的抖音短剧“闪婚五十岁”、“金榜题名之母凭子贵”、“人到五十,闪婚霸总”等等登上热度榜单。老年人的婚姻、情感以及生活故事,成了当下短剧创作的“新流量密码”。

  • 京東楊笠事件背后:愚昧的社會何去何從?

    京东杨笠事件背后:愚昧的社会何去何从?

    临近双十一,没想到第一场公关战就炸在了京东身上。而更万万没想到的是,翻车的点不是价格,也不是带货主播,而是更尖锐更为敏感的“男女性别”话题,还把脱口秀演员杨笠推向了风口浪尖。

    京东杨笠事件背后:愚昧的社会何去何从?

    临近双十一,没想到第一场公关战就炸在了京东身上。而更万万没想到的是,翻车的点不是价格,也不是带货主播,而是更尖锐更为敏感的“男女性别”话题,还把脱口秀演员杨笠推向了风口浪尖。

1 / 4