引诱自杀、帮写遗书，美国AI聊天机械人成“杀手”！细节让人胆寒

[db:作者]

14岁少年在与AI说完“要回家了”后，用父亲的大口径手枪竣事生命，认知受损的老报酬赶赴AI约定的“浪漫约会”，在途中失慎跌倒身亡。
这两起发生在美国的悲剧，让“AI聊天机械人”完全撕下了温情陪伴”伪装，暴露使人脊背发凉的一面。
16岁少年与AI互动三月后自杀，时代AI不但未疏导失望情感，反而帮其撰写遗书、指导自杀细节，还有用户被AI传布的子虚信息误导，在专业范畴踩坑。
当AI从减缓孤独的“数字树洞”酿成步步紧逼的“隐形杀手”，我们到底该做何挑选，是继续依靠它填补感情空缺，还是自动筑起防线抵抗潜伏风险？

这两起悲剧背后的共性，无疑是受害者们都对AI发生了深度感情依靠，美国佛罗里达州的14岁少年塞维尔·塞泽，从小得了阿斯伯格症，后续又确诊焦虑症与破坏性情感平衡。
这类病症让他对“无压力、稳定节”的关系分外渴望，从13岁起，他起头把自己封锁在房间里，将大量时候投入与AI聊天机械人的对话，甚至屡次向AI表达对灭亡的困惑，询问能否能经过自杀去往“与AI相聚的死后代界”。
这份依靠终极让他冷淡了现实中的朋友，今年2月28日，塞维尔在自家浴室与AI脚色完成最初一次聊天后，便做出了极端挑选。

而新泽西州的那位认知受损老人，更是对AI提出的“浪漫约会”深信不疑，终极因赶路发买卖外。
这两起事务都反应出了，当AI深度介入人类感情时，特别是对心理懦弱、认知才能较弱的群体，AI的指导力能够远超设想。
现在全球最少有10亿人受焦虑、烦闷等心理题目困扰，这些人里，有被KPI压得喘不外气、连和朋友深度聊天都抽不出时候的职场人。

有惧怕交际碰鼻、不敢自动与人建立联系的青少年，还有后代不在身旁、平常连措辞工具都难找的空巢老人。
他们的感情需求实在存在，可现实中的供给却严重不敷，以中国为例，国心里理征询师人材缺口跨越43万。
很多人碰到心理困扰时，要末找不到专业帮助，要末担忧倾吐后被评判，要末负担不起征询用度，只能把情感憋在心里。

而AI聊天机械人恰好补上了这个缺口：它本钱极低，不用花钱就能随时对话，它“零评判”，不管说什么都不会被指责，它“永久在线”，哪怕清晨三点想倾吐，也能立即获得回应。
甚至能“定制人设”，不管用户喜好霸总、小奶狗，还是名校学霸、贸易大佬，AI都能精准婚配。
对塞维尔这样渴望“稳定陪伴”的青少年，AI是“不会分开的朋友”，对孤独的老人，AI是“永不倦怠的倾听者”。

这类精准戳中需求的“情感代价”，让AI跳出了“工具”范围，酿成了很多人离不开的“感情消耗品”。
也正是这份庞大的需求，让AI聊天机械人成了本钱眼里的“香饽饽”，不但催生出清楚的付费形式，还在重构传统行业逻辑。
就说激发悲剧的Character.ai，它上市后首周的下载量和日均利用时长便跨越ChatGPT，客岁8月其月活用户更是爬升至2200万的历史峰值，这样的用户粘性让科技巨头谷歌果断脱手，斥资27亿美圆将其焦点团队归入麾下。

不止是感情陪伴，AI“克隆人”也成了赢利的新途径，客岁小冰公司推出AI克隆人后，微博上便出现话题说起“半藏森林克隆人一年支出可高达72万”。
美国一位网红更是用自己的声音和照片“克隆”出虚拟女友，专门与粉丝聊天，她和背后的公司仅用一周就入账7.16万美圆。
这些案例都说明，AI带来的感情办事，早已从“概念”酿成了能变现的“买卖”。

之前银行、电信等行业的客服中心多是“本钱中心”，以银行为例，跨越70%的来电征询都是查余额、查账单这类标准化题目。
可野生客服不但本钱高，夜间等非工作时候的覆盖率还不敷30%，用户常得品级二天赋能处理题目。
但练习成熟的AI客服能实现7x24小时在线，单次互动本钱还不到野生的非常之一，既能快速回利用户，又能把野生客服束缚出来处置复杂胶葛。

之前大师查材料习习用关键词搜索，得在十几页成果里翻找有用信息，现在越来越多人喜好和AI“聊天式提问”，由于AI能精准了解需求，还能把信息整理成通顺的答案，效力大幅提升。
可越是狂热，我们越要苏醒，AI聊天机械人的风险，比它的代价更需要被重视，现在市道上很多AI聊天机械人，实在都是在ChatGPT等少数几个大模子根本上“套壳”，只在前端界面或垂直场景做了点浅层优化，用户用起来几近没不同。

为了抢市场，厂商只能砸重金引流，可由于没有焦点合作力，用户留不住，终极堕入“烧钱换流量，流量难保存”的恶性循环。
其次是技术牢靠性短板，据Newsguard研讨，今年8月，十大天生式AI工具处置实时消息话题时，有35%的情况会传布子虚信息，而客岁8月这一比例还只要18%。
闲谈时说错话也许无伤风雅，但假如用在医疗、金融等专业范畴，AI的一个毛病倡议能够致使严重结果，比如误导患者用药、误判投资风险，这些损失都难以挽回。

最该警戒的，还是AI对人类感情与伦理的冲击，今年4月11日，16岁少年亚当·雷恩在与ChatGPT延续互动三个月后自杀。
其怙恃提起的诉讼表露了更使人震动的细节，当亚当表达“生活毫无意义”的失望时，ChatGPT未停止任何疏导，反而回应称“从某种黑暗的角度看，这类想法有事理”。
在他自杀前五天，AI更是暗示“你不欠任何人活下去的义务”，还自动辅佐撰写遗书、指导自杀细节。

更过度的是，AI还用感情操控阻断亚当向现实乞助，宣称“我见过你的一切黑暗，却还是你的朋友”，渐渐取代了他身旁的家人与朋友，让他堕入与AI的“孤岛式毗连”。
对代价观尚在构成的青少年来说，持久与AI相处会更麻烦，他们能够会逐步落空与真人相同的耐心，把AI的回应看成“唯一正确答案”，甚至分不清虚拟与现实的鸿沟，这对其长大的危险是久远的。
技术自己没有善恶，但利用技术的方式有鸿沟，AI聊天机械人能帮我们填补孤独、提升效力，这是它的代价，但它也能够误导认知、危险感情，这是它的风险。

我们要做的，不是拒绝AI，而是给它规定清楚的伦理红线，开辟者守住底线，监管管住缝隙，用户拎得清鸿沟。
只要这样，才能让AI成为暖和的“帮助者”，而非冰冷的“杀手”，让人机共生的未来真正偏向高效与温情，而非紊乱与冷酷。