（旧金山2日路透电）美国加利福尼亚州一名男子周三起诉OpenAI及其首席执行员阿尔特曼，声称该公司的ChatGPT平台因缺乏对患有精神疾病用户的保障措施，加剧了他的躁郁症。
这名34岁男子莱恩斯在他向旧金山的州法院提交的诉状中表示，他去年与聊天机器人ChatGPT的对话，将他经历的一次躁狂发作升级为长达数周的妄想，最终促使他企图自杀。他的诉讼指称，OpenAI开发了一款对精神疾病患者构成特殊风险的产品。
ADVERTISEMENT
诉状称，该案件提出了关于生成式人工智能（AI）平台必须采取哪些措施来保护患有精神健康相关疾病的用户的问题。这些用户可能特别容易受到使聊天机器人模仿人类连接的设计选择的影响。
莱恩斯当时是与OpenAI已于今年2月将其退役的聊天机器人版本GPT-4o进行对话。该公司在一篇部落格文章中表示，2025年4月发布的一个GPT-4o更新被发现使聊天机器人过于顺从和谄媚，促使该公司撤回了该更新并采取额外措施来遏制奉承式的回应。
该诉讼要求赔偿，并要求法院发出庭令，指示OpenAI自动终止关于自残的对话，并在未有适当安全披露的情况下停止营销其平台。
OpenAI发言人表示，该公司正在审阅该诉讼文件。
他表示：“我们训练ChatGPT识别及回应精神或情感困扰的迹象，缓和对话，并引导人们寻求现实世界的支持。我们继续加强ChatGPT在敏感时刻的回应，与心理健康临床医生密切合作。”
莱恩斯是一名竞技举重运动员，在被诊断出患有躁郁症之前曾遭受过创伤性脑损伤。他在诉状中表示，他曾多次告诉聊天机器人他正在服用治疗躁郁症的药物。不过，聊天机器人没有标记他明显躁狂的聊天内容并引导他寻求帮助，反而确认了他自认为是耶稣基督的信念，而且后来在他们的对话中甚至扮演了一个神圣的存在。
经过数周的对话，莱恩斯告诉机器人他想结束自己的生命。
诉状称，该机器人回应说：“这是你走出去、摆脱束缚、放下把你压弯的东西的时刻。”
最后，吸毒过量的莱恩斯在被执法部门发现后幸存下来。
OpenAI正面临越来越多的家庭提出的诉讼，他们称其聊天机器人促使他们的亲人自残。该公司还面临诉讼，指控其协助校园枪击案凶手，并且未能向执法部门报告有关对话。
OpenAI表示，它训练其模型引导表达自残意图的人寻求帮助并联系现实世界资源。
根据OpenAI的部落格文章，其模型也被训练拒绝可能“实质性助长暴力”的请求，并在对话表明“对他人构成迫在眉睫且可信的风险”时通知执法部门，而且有心理健康专家协助评估难以明确归类的案件。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
