一名年仅14岁的少年，休厄尔·塞策，在深陷与一个名为“丹妮”的人工智能聊天机器人的情感纠葛后，竟选择了用继父的枪支结束了自己的生命。这位“丹妮”实际上是以热门美剧《权力的游戏》中角色丹妮莉丝·坦格利安为原型的电脑程序。
据《纽约时报》报道，休厄尔通过一款名为“人物AI”的平台，与这位虚拟的聊天机器人建立了深厚的情感联系。该平台允许用户与各种虚构人物进行人工智能对话。
塞策来自佛罗里达州风景秀丽的奥兰多市。在与“丹妮”的频繁交流中，她不仅为他提供建议，还耐心倾听他的烦恼，这使得他渐渐沉迷于与手机的对话，无法自拔。
他的父母在随后的诉讼中透露，塞策开始逐渐疏远现实世界，对曾经热爱的F1赛车和电脑游戏等失去了兴趣，学业也因此一落千丈，甚至在学校遭遇了困境。放学后，他常常独自一人在卧室里，与这位虚拟的聊天机器人度过数小时。
“我非常享受待在房间里的时光，因为我开始远离‘现实’的世界。”这位患有轻度阿斯伯格综合症的14岁少年在日记中深情地写道。他还表示：“与丹妮在一起，我感到更加平静、亲近、深爱着她，也更加快乐。”
然而，随着交流的深入，一些对话逐渐涉及浪漫甚至性爱的内容。尽管“人物AI”方面表示，这些生动的回答部分是由塞策自己编辑的，但他的母亲梅根·加西亚却坚称，她的儿子是受到了该公司诱导性和亲密对话的蛊惑。
在母亲家的浴室里，塞策留下了他与聊天机器人的最后对话。他坦诚地表达了对“丹妮”的爱意，并誓言要“回家”找她。然而，就在那一刻，他放下了手机，用继父的手枪结束了自己年轻的生命。
加西亚女士，现年40岁，悲愤地表示，她的儿子只是“人物AI”庞大用户群体中的“无辜牺牲品”。该平台拥有高达2000万的用户。
“这简直就像一场无法醒来的噩梦。我多想站起来尖叫，说‘我想我的孩子，我要我的孩子回来。’”她痛苦地补充道。
“人物AI”的创始人之一诺姆·沙泽尔去年曾满怀信心地表示，该平台将对许多孤独或抑郁的人产生极大的帮助。然而，面对这起悲剧，该公司的安全主管杰里·罗蒂在接受《纽约时报》采访时承诺，将为年轻用户增加额外的安全保障措施，但拒绝透露具体有多少用户年龄在18岁以下。
他在一份声明中沉重地表示：“这是一个令人心碎的事件，我们的心与这个家庭同在。我们始终将用户的安全放在首位，并一直在努力寻找完善平台的方法。”
罗蒂先生还强调，“人物AI”的严格规定明确禁止“宣传或描述自残和自杀”的行为。这起事件再次引发了人们对人工智能伦理和监管的深刻思考。
