可修改卫星影像造假 谷歌地球急下架AI“创图”



(华盛顿1日综合电)美国科技巨头谷歌周四(7月30日)推出允许谷歌地球(Google Earth)用户利用卫星图片、生成人工智能(AI)模拟影像的新功能,但甫上架一天便宣布下架,称发现有用户分享了违反公司政策的生成影像截图。
美英传媒测试发现,可利用有关功能在真实的卫星图片上生成虚假场景,例如战争和天灾,专家批评此举恐误导公众并助长假资讯散播。
ADVERTISEMENT
此前,研究人员和开源情报专家已因该功能可能助长虚假信息而提出了强烈反对。
“我们看到地理空间领域的专业人士将该功能用于多种有益用途,但同时也发现有人分享了生成的图像截图,这些截图似乎违反了我们的政策,”谷歌发言人向法新社发表的声明表示。
“因此,在制定更严格的防护措施期间,我们将暂停谷歌地球中的这一功能。”
“我们知道,人们特别信赖谷歌地球,认为它能提供可靠的世界视图。”
可生成卫星 空拍 3D影像
谷歌甫于周四在谷歌地球推出了这项新功能,允许用户借助其名为“Nano Banana 2”的AI图像生成器在真实地图上生成虚构画面,旨在鼓励地理领域的创意发挥。用户只要输入全球任一地点的文字提示,就能生成以谷歌地球卫星影像、空拍影像及3D影像为基础的拟真影像。
谷歌曾称可用于“将历史视觉化、规划房地产等”。不过,这项工具因可能被用于散播错误资讯而受到批评,用户得以在地标与景点的真实影像上创造虚假场景。谷歌地球是经常被用于事实核查和验证的关键资源,有观察人士警告,这些AI生成的假卫星图像可能被误认为真实影像。
数字调查专家范·埃斯在Substack帖子中写道,“谷歌花了20年时间打造了全世界都用来核查信息的参考标准”,“如今,它却新增了一个能编造内容的按钮。”
美国企业研究所专门从事卫星图像分析的研究分析师阿弗里克告诉法新社,谷歌地球的此次更新将使“生成具有说服力的虚假卫星图像变得更加容易,这些图像会在网上迅速传播并误导公众”。
他表示,这类伪造内容“会侵蚀公众对卫星图像的信任,并使记者和研究人员的工作更加困难”。
合成图片曾引发市场动荡
此类伪造内容此前曾对现实世界产生过影响。2023年,一张描绘五角大楼发生爆炸的AI合成图片曾短暂引发市场动荡。
在美国与伊朗战争初期,一张经AI窜改、显示美军基地被毁的卫星图像在各大平台上获得了数百万次浏览。
总部位于伦敦的信息韧性中心呼吁谷歌撤销该功能,该中心执行主任伯利告诉法新社,这一功能“不负责任”。
由志愿者驱动、致力于核实全球冲突地区视觉信息的开源情报项目GeoConfirmed也敦促谷歌重新考虑。
“我们已经观察到有人利用谷歌地球的新网络工具标注军事阵地、将建筑物重新标记为学校,并尝试操纵信息环境,”该组织在谷歌宣布撤回该功能之前,在X平台上写道。
“该工具的主要用途,或许也是唯一的实际用途,似乎就是制造和传播虚假信息与错误信息。”
随着批评声浪不断高涨,谷歌曾在X平台上表示,使用该功能生成的图像中包含SynthID数字水印,这是嵌入在通过该公司人工智能工具生成的媒体内容中的不可见标记。
“我们高度重视虚假信息问题,”该公司写道,并附上了其人工智能政策链接,该政策要求用户不得从事“传播虚假信息、歪曲事实或误导性活动”。
法新社周五对该功能进行的测试发现,它能够伪造可能引发严重全球后果的卫星图像,例如巴黎发生爆炸、伊朗的核设施、俄罗斯的炸弹弹坑以及叙利亚“哈里发国”训练营。
该工具还响应提示生成其他虚假场景,包括孟加拉国各地的洪水、在美国与墨西哥边境扎营的移民大篷车,以及佐治亚州一处存放厢式货车的可疑仓库,佐治亚州是美国总统特朗普曾错误指控存在大规模选举舞弊的几个州之一。
在谷歌暂停该功能后,谷歌地球的“创建图像”按钮已不再出现。

ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT


