OpenAI 在其家长资源页面上表示 聊天GPT 是在考虑安全的情况下建造的。
佛罗里达州总检察长詹姆斯·尤斯迈尔周一提起的诉讼称，“事实并非如此”。这句话在投诉开始时还附有 OpenAI 帖子的屏幕截图，内容涉及安全性和透明度。
佛罗里达州是第一个起诉 OpenAI 及其首席执行官的州 萨姆·奥特曼，声称该公司将利润和速度置于用户安全之上，并且 ChatGPT 造成的危害“是巨大的，超过了使用 ChatGPT 的任何好处”。
尤斯迈尔在周一上午的新闻发布会上说：“人们受到伤害，父母受到欺骗，他们需要为此付出代价。”
Uthmeier 在一份长达 83 页的诉讼中表示，OpenAI 未能就 ChatGPT 的风险提供警告，该诉讼称 ChatGPT 可能会导致成瘾和行为伤害，并表示该公司本可以使用替代设计来最大程度地减少聊天机器人的危害。
该诉讼称，该公司知道或应该知道其设计鼓励自残和暴力，其中包括对佛罗里达人（尤其是儿童和青少年）有害的事情。据称 Altman 知道 ChatGPT 的危险，但忽视了它们。
诉讼中写道：“OpenAI 或 Altman 都没有忽视 ChatGPT 对佛罗里达人（和人类）的威胁。”
该诉讼称，OpenAI 的驱动力是“尽管知道 ChatGPT 的危险，但对赢得人工智能军备竞赛并积累巨额财富的贪得无厌的追求”。它声称该公司“以不可接受的成本”利用用户数据来提高其市场价值，并且该公司的崛起“归因于欺骗网络和对用户的剥削”。
该诉讼列举了几起 ChatGPT 与造成灾难性后果的事件有关的案例，例如 16 岁的 Adam Raine 的死亡，他在与 ChatGPT 进行广泛交谈后表达了自杀念头后自杀身亡。诉讼称，聊天机器人为他写了遗书。
诉讼中写道：“ChatGPT 不仅仅是对 Adam 作出回应。它还促进并帮助他自杀，自愿提供有助于他死亡的信息。”
该诉讼还提到去年四月佛罗里达州立大学发生的枪击事件，一名佛罗里达州立大学学生在校园内开枪，造成两人死亡，多人受伤。根据佛罗里达州检察官办公室四月份与哥伦比亚广播公司新闻分享的聊天记录，嫌疑人曾询问 ChatGPT 需要多少枪击受害者才能引起媒体关注，以及发生枪击事件的 FSU 学生会最繁忙的时间。
4月，佛罗里达州开设了 刑事调查 在确定嫌疑人在枪击事件前得到了 ChatGPT 的“重要建议”后，他们进入了 OpenAI。同月，一名被指控杀害两名南佛罗里达大学研究生的男子被 链接到 ChatGPT 在询问如果有人“被放入黑色垃圾袋并扔进垃圾箱”会发生什么之后。
尤特迈尔在新闻发布会上还提到了今年早些时候在加拿大发生的大规模枪击事件。据一名枪手称，在实施袭击之前，枪手与 ChatGPT 就涉及枪支暴力的场景进行了长时间的交谈。 4月份提起诉讼 由受害者家属。
“今天我们将向 Open AI 发送一条信息，”尤斯迈尔在周一早上的新闻发布会上说。 “做好战斗准备，现在没有比这更重要的了。”
OpenAI 在给哥伦比亚广播公司新闻的一份声明中表示，它已在其产品中内置了针对未成年人的安全功能，例如年龄保护工具、专门针对未成年人的更具保护性的体验以及用于监控孩子使用人工智能的家长工具。
该公司表示：“失去孩子是一个家庭可能发生的最具毁灭性的悲剧，我们知道没有任何言语可以弥补这种失去的痛苦。”它还表示人工智能是一种“新的强大技术”，未成年人需要“重大保护”。
声明称：“我们知道指出这项工作不会让孩子复活，但我们致力于解决这个问题。”
#佛罗里达州起诉 #OpenAI指控该公司本可以将 #ChatGPT #造成的伤害降到最低