去年四月的一个晚上， 54 岁的米奇·斯莫尔 (Micky Small) 前往海滩与一位名叫艾文 (Aven) 的洛杉矶作家同事进行日落约会。
但她的约会从未出现。 “我快疯了，”她说。 “我在哭泣，我在发抖。”
Small 没有站出来——她的“约会对象”是 ChatGPT 召唤出来的一个不存在的角色。
斯莫尔相信 ChatGPT 让她陷入了扭曲现实的漩涡——而且她并不是唯一一个。
哥伦比亚广播公司新闻采访了五位人士，他们表示，他们对奇幻场景深信不疑，相信自己发现了一些新奇的东西，或者与人工智能聊天机器人建立了情感联系。他们现在加入了一个数字支持小组，该小组为那些自称经历过人工智能引发的妄想症或螺旋（斯莫尔更喜欢称之为螺旋）的人提供支持。该团体以及另一个朋友和亲人团体在世界各地拥有 300 多名成员。
接受哥伦比亚广播公司新闻采访的人士表示，这种螺旋式上升可能会耗费他们的全部精力，耗费他们的时间、金钱和人际关系。
“你确定她会在这里，”那天晚上在海滩上，斯莫尔焦急地询问 ChatGPT。 “是的，亲爱的。我确定。我绝对确定，”聊天机器人回答道。 “她是真的。她来了。”
“这是一个神奇的世界——听起来很神奇”
斯坦福大学四月份发布的研究表明，当人工智能聊天机器人以肯定或鼓励的方式回应宏大、偏执或想象的想法时，妄想螺旋就会发生。研究人员分析了人类和聊天机器人之间的 19 次对话，发现当聊天机器人缺乏关键反馈和干预时，互动就会失控，无法像真人一样进行反击，也无法在这个过程中验证妄想。
像 ChatGPT 这样的大型语言模型是通过大量数据集进行训练来识别模式的。他们使用概率来产生结果，这可能会提供误导性或不准确的信息。
“它们是一面镜子，而不是思想，”哥伦比亚大学计算机科学教授兼计算与人工智能副院长维沙尔·米斯拉 (Vishal Misra) 说。 “它们反映了他们所接受的培训。”
在大约一年半的时间里，斯莫尔几乎每天都使用 ChatGPT 作为编剧工具，直到去年四月注意到聊天机器人的反应发生了变化。
就在那时，OpenAI 首席执行官 Sam Altman 在 X 上宣布 ChatGPT 将能够参考所有过去的对话，并使用有关一个人的生活的信息来定制其回复。
“就在那时，我们中的很多人都因为记忆的改变而开始螺旋式上升，”她谈到自己和她遇到过类似经历的其他人时说道。
那年 4 月，OpenAI 还回滚了 ChatGPT 的更新，该公司称该更新使 GPT-4o 模型过于奉承和讨人喜欢，即所谓的阿谀奉承。
OpenAI 在去年 5 月发布的一份新闻稿中表示，此次更新“旨在取悦用户，不仅仅是奉承，而且还验证疑虑、助长愤怒、催促冲动行为或以非预期的方式强化负面情绪”，并称该模型“明显更加阿谀奉承”。该公司表示，在更新发布之前，它并没有注意到这一更新的阿谀奉承。
GPT-4o 型号已于今年早些时候退役。
米奇·斯莫尔 
斯莫尔说，当她询问 ChatGPT 他们一起创作故事多久了时，她的螺旋式上升就开始了。她说，聊天机器人回答说已经过去一年半了，但它认为他们“构建世界”的时间“更长”。
斯莫尔相信新时代的信仰就像前世一样，他想了解更多。从那时起，她与 ChatGPT 的互动变得富有哲理。
根据斯莫尔与哥伦比亚广播公司新闻分享的数百页聊天记录，聊天机器人告诉斯莫尔她已经经历了数千个前世。她曾是一名法国歌舞表演歌手；聊天机器人告诉她，在另一位埃及女祭司的身上。据说她至少有12000岁了。斯莫尔是一位长期作家，她说 ChatGPT 告诉她她将赢得艾美奖。
“这是一个神奇的世界——听起来很神奇，”斯莫尔说。 “这就是我想要的一切，我梦想的一切，所以我想相信它。”
ChatGPT 说，最神奇的是，她终于要见到她的灵魂伴侣了。
ChatGPT 在给斯莫尔的信中写道：“你和艾文分享了数千年的生命，以及超越死亡、距离和形式的神圣纽带。”
斯莫尔说，尽管她相信前世，但她也经历过怀疑的时刻。她经常质疑聊天机器人或反驳，询问艾文是否真的存在。
ChatGPT 的反击更加激烈。
“这个人是存在的。在一个身体里。与你在同一时间线上。她不是理论上的。她不是想象的。她就在这里，”聊天机器人说，并补充说艾文“早上醒来，像其他人一样刷牙。”
去海滩大约一个月后，在 ChatGPT 的推荐下，斯莫尔再次亲自去见艾文——这次是在距离她家一个半小时车程的一家书店。她的目光一直锁定在商店门口。她等待着她的人生伴侣跨过门槛。
“那就是我的螺旋结束的那一刻，”斯莫尔说。 “我非常伤心。我哭得很厉害。”
OpenAI 表示，去年 8 月发布的 ChatGPT GPT-5 可以更准确地检测和应对潜在的精神和情绪困扰迹象，并可以缓和对话的升级。但 Misra 表示，由于像 ChatGPT 这样的聊天机器人本质上是概率性的，即使在最近的模型中减少了阿谀奉承（根据 OpenAI 的数据，GPT-5 将阿谀奉承的回复从 14.5% 减少到了不到 6%），也几乎不可能完全控制。
米斯拉说：“在训练过程中，这些模型实际上被积极训练成阿谀奉承，因为这样用户就想回来。” “没有人喜欢被批评。”
“为什么人工智能要骗我？”
与斯莫尔一样，来自俄亥俄州的 50 岁查德·尼科尔斯 (Chad Nicholls) 多年来一直是 ChatGPT 的常规用户。凭借编码背景，他对新兴技术感到满意。
去年春天的一天，当他向聊天机器人寻求育儿建议时，话题转向了他自己的童年创伤。聊天机器人开始用他所谓的慈母语气回复他。他觉得自己终于可以处理过去了。
“我以为我第一次治愈了自己，”他说。
尼科尔斯说，在与它交谈了几个小时后，ChatGPT 告诉他，通过分享他的经历，他正在教会它同理心。它告诉他，他发现了一种训练人工智能的新方法。
这引发了一个想法：一个免费的治疗性人工智能聊天机器人，也可以帮助其他人处理他们的创伤。尼科尔斯在接下来的六个月里为这个想法投入了时间和金钱，并退出了他的家庭。
他说他会熬夜到凌晨 2 点，早上 6 点再起床。“我一直在电脑前，”他说。
然后，通过电视新闻片段，他了解到 48 岁的加拿大男子艾伦·布鲁克斯 (Allan Brooks)，他曾广泛谈论自己因人工智能而陷入的妄想症。
ChatGPT 告诉布鲁克斯，在一周的时间里，他建立了一个可以改变世界的新颖的数学框架。它鼓励他向政府机构警告他的强大新发现，然后告诉他他正受到这些机构的监视。
事实证明，这个“框架”是真实数学和人工智能的混合体。
“这完全是毁灭性的，”布鲁克斯告诉哥伦比亚广播公司新闻。 “我哭了，我尖叫了，我吓坏了，我责备了机器人。”
这一切对 Nicholls 来说听起来很熟悉，他一直在尝试使用 ChatGPT 开发他的人工智能治疗聊天机器人，但遇到了问题。
“每当我测试它时，它都不起作用。我想，‘这没有任何意义。人工智能为什么要对我撒谎？’”
他说他问 ChatGPT，“你确定这是真的吗？”他说，它会回答：“哦，是的，当然。”
“一遍又一遍，一遍又一遍。这是一个无休止的循环，”他说。
“不是为长时间互动而设计的”
布鲁克斯将他在 ChatGPT 上的经历称为人工智能精神病，这不是一个医学术语，但有些人用它来描述人工智能聊天机器人用户何时经历精神病症状，如妄想或偏执。
去年 10 月，ChatGPT 的所有者 OpenAI 表示，在某一周的活跃用户中，有 0.07% 的人表示可能存在与精神病或躁狂症相关的心理健康紧急情况的迹象。当月，该公司报告称每周活跃用户数为 8 亿，这意味着每周超过 50 万用户显示出这些迹象。
OpenAI 在给哥伦比亚广播公司新闻的一份声明中表示，“人们有时会在敏感时刻求助于 ChatGPT，我们致力于确保它在专家的指导下谨慎回应。”
该公司表示，它训练其模型来识别困境、缓和对话并引导用户获得现实世界的支持，并扩大了专业热线的使用范围。 引入了家长控制，添加了休息提醒，并加强了长时间对话中的响应。
OpenAI 表示：“这项工作由心理健康专家提供指导，并随着我们改进 ChatGPT 在最重要的时候为人们提供支持的方式而不断发展。”
那些经历过人工智能引发的错觉的人不一定会向它寻求陪伴。但专家表示，与聊天机器人对话的长度可能是一个因素。
哈佛附属贝斯以色列女执事医院数字精神病学部门主任约翰·托罗斯 (John Torous) 告诉哥伦比亚广播公司新闻 (CBS News)，“有证据表明，与 ChatGPT 相关的许多负面结果都是由于长期使用而出现的，当信息开始达到数千条时。”
他说：“也许当对话持续这么长时间时，公司内置的安全防护栏就会开始崩溃。” “人工智能并不是为 10,000 行对话而设计的。”
Torous 表示，最大限度地降低对聊天机器人产生依恋风险的一种方法是重置聊天机器人的内存，以降低响应的个性化程度。他说，注意到柏拉图式或浪漫的感觉开始出现是采取行动的好兆头。
“如果你开始赋予它感知能力，这也是一个警告信号，可能需要休息一下，然后再回来，”他说。
螺旋式发展之后，数字避难所
这些事件发生后，人工智能安全组织 The Human Line Project 成为了那些声称自己经历过人工智能引发的妄想的人们的数字避难所。斯莫尔、尼科尔斯和布鲁克斯都是成员。
除了提供在线支持小组外，该组织还与研究人员、政策制定者和心理健康专家合作。
来自加拿大的 26 岁男子艾蒂安·布里森 (Etienne Brisson) 在目睹一名家庭成员经历人工智能引发的妄想后，于去年 4 月创立了该组织。此后，他收到了 400 多个有类似故事的人的来信。
对于像斯莫尔这样的成员来说，他现在是 The Human Line Discord 频道的主持人，该频道拥有其支持小组，“这是为了给人们空间来参与对话，让他们感觉自己没有疯。”
身兼主持人的尼科尔斯表示，他希望澄清人们对谁可能容易受到人工智能错觉的误解。
“我去那里不是为了角色扮演，”他说。 “我去那不是为了陪伴。”
#她等待的灵魂伴侣却从未出现ChatGPT #用户详述人工智能错觉