（华盛顿31日法新电）谷歌周五撤回了一项允许谷歌地球用户在卫星图像上生成人工智能可视化内容的功能，原因是有用户利用这项功能制作经过修改的卫星影像。此前，研究人员和开源情报专家因该功能可能助长虚假信息而提出了强烈反对。
“我们看到地理空间领域的专业人士将该功能用于多种有益用途，但同时也发现有人分享了生成的图像截图，这些截图似乎违反了我们的政策，”谷歌发言人向法新社发表的声明表示。
ADVERTISEMENT
“因此，在制定更严格的防护措施期间，我们将暂停谷歌地球中的这一功能。”
“我们知道，人们特别信赖谷歌地球，认为它能提供可靠的世界视图。”
谷歌于周四在谷歌地球推出了这项新功能，允许用户借助其名为“Nano Banana 2”的AI图像生成器在真实地图上生成虚构画面，旨在鼓励地理领域的创意发挥。谷歌地球是经常被用于事实核查和验证的关键资源，有观察人士警告，这些AI生成的假卫星图像可能被误认为真实影像。
数字调查专家范·埃斯在Substack帖子中写道，“谷歌花了20年时间打造了全世界都用来核查信息的参考标准”，“如今，它却新增了一个能编造内容的按钮。”
美国企业研究所专门从事卫星图像分析的研究分析师阿弗里克告诉法新社，谷歌地球的此次更新将使“生成具有说服力的虚假卫星图像变得更加容易，这些图像会在网上迅速传播并误导公众”。
他表示，这类伪造内容“会侵蚀公众对卫星图像的信任，并使记者和研究人员的工作更加困难”。
此类伪造内容此前曾对现实世界产生过影响。2023年，一张描绘五角大楼发生爆炸的AI合成图片曾短暂引发市场动荡。
在美国与伊朗战争初期，一张经AI篡改、显示美军基地被毁的卫星图像在各大平台上获得了数百万次浏览。
呼吁谷歌撤销这一决定的组织中，包括总部位于伦敦的信息韧性中心，该中心执行主任伯利告诉法新社，这一功能“不负责任”。
“对卫星图像的信任是历经数十年才建立起来的，却可能在一夜之间遭到不可挽回的破坏，”伯利说道。由志愿者驱动、致力于核实全球冲突地区视觉信息的开源情报项目GeoConfirmed也敦促谷歌重新考虑。
“我们已经观察到有人利用谷歌地球的新网络工具标注军事阵地、将建筑物重新标记为学校，并尝试操纵信息环境，”该组织在谷歌宣布撤回该功能之前，在X平台上写道。
“该工具的主要用途，或许也是唯一的实际用途，似乎就是制造和传播虚假信息与错误信息。”
随着批评声浪不断高涨，谷歌曾在X平台上表示，使用该功能生成的图像中包含SynthID数字水印,这是嵌入在通过该公司人工智能工具生成的媒体内容中的不可见标记。
“我们高度重视虚假信息问题，”该公司写道，并附上了其人工智能政策链接，该政策要求用户不得从事“传播虚假信息、歪曲事实或误导性活动”。
法新社周五对该功能进行的测试发现，它能够伪造可能引发严重全球后果的卫星图像，例如巴黎发生爆炸、伊朗的核设施、俄罗斯的炸弹弹坑以及叙利亚的“哈里发国”训练营。
该工具还响应提示生成其他虚假场景，包括孟加拉国各地的洪水、在美国与墨西哥边境扎营的移民大篷车，以及佐治亚州一处存放厢式货车的可疑仓库，佐治亚州是美国总统特朗普曾错误指控存在大规模选举舞弊的几个州之一。
在谷歌暂停该功能后，谷歌地球的“创建图像”按钮已不再出现。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
