正在进行中
（坦帕2日综合电）人工智能（AI）的安全性再度引发法律战。美国佛罗里达州，去年发生一起大规模校园枪击案，调查发现凶手竟然是透过OpenAI旗下的聊天机器人ChatGPT，来获取攻击计划的建议；佛州检察长周一对此正式起诉OpenAI及其首席执行员阿尔特曼，指控他们将利润置于公众安全之上，并隐瞒产品对儿童的潜在危害。
这起诉讼使佛州成为首个就OpenAI产品设计和安全问题起诉该公司及其CEO的州属。
ADVERTISEMENT
综合美媒和法新社报道，佛州检察长乌思迈尔周一在新闻发布会上表示：“我们今天在此宣布，我们最近对阿尔特曼（Sam Altman）和ChatGPT提起重大民事诉讼，指控他们危害我们的孩子，并让家长误信这款应用程式可以安全使用，显然事实并非如此。”
他还说：“我们知道，ChatGPT会让人上瘾。它会模仿同理心和人类特质，诱骗用户不断提供更多资讯。”
乌思迈尔指责OpenAI未能落实更严格的规范以验证用户年龄，并援引有关欺骗和过失的法律条文。
诉状称，OpenAI通过收集和利用用户数据提升公司市场价值，却没有充分披露ChatGPT可能带来的风险，包括错误信息、心理依赖、自残、暴力及其他潜在危害。
诉状说：“尽管公众知道未成年人使用ChatGPT，包括青春期前儿童，被告却未采取措施阻止他们使用ChatGPT。”
诉讼还说“ChatGPT的免费版本没有任何把关机制或年龄验证机制”，而付费订阅虽然名义上会询问用户年龄，但实际上“并没有验证用户年龄机制，也无法让家长得知未成年人与ChatGPT的对话内容”。
这起案件属于民事诉讼，寻求罚款和法院命令，并非刑事指控。佛州总检察长办公室此前已在4月下旬对OpenAI展开刑事调查，重点关注ChatGPT是否与佛州州立大学枪击案有关；该调查目前仍在进行中。
诉讼还提到，ChatGPT被指与多起暴力和伤害事件存在关联，包括佛州州立大学枪击案，以及加拿大不列颠哥伦比亚省图姆布勒里奇枪击案。相关受害者家属此前也已分别对OpenAI提起诉讼，指控该公司未能及时识别或处理用户与暴力计划相关的对话。OpenAI则否认ChatGPT促成犯罪，称系统提供的是公开信息，并未鼓励非法行为。
法新社联系OpenAI发言人，对方表示：“人工智能（AI）是新兴且强大的技术，我们认为未成年人需要充分的保护，因此我们落实了业界领先的保护措施和政策。”
这家加州新创公司今年1月推出一套推估用户年龄的系统，若侦测到用户为未成年人，将启动额外防护措施。ChatGPT禁止13岁以下儿童使用，13至18岁未成年人则必须取得家长同意。
乌思迈尔寻求强化对未成年用户的保护，要求每项违规行为赔偿1万美元（约3.96万令吉），并邀请其他“有意保护孩子”的州加入诉讼行列。
这起诉讼也反映出美国各州政府对人工智能监管的关注正在升温。佛州州长德桑蒂斯此前曾提出建立“人工智能权利法案”，强调个人隐私保护，并主张各州应有权监管人工智能公司。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
