据英国广播公司（BBC）当地时间8月1日报道，谷歌推出谷歌地球（Google Earth）人工智能（AI）图像生成功能不到48小时后，宣布暂停服务，以加强安全防护。专家此前警告称，这项工具可把虚构场景叠加在真实卫星图像上，容易被用于散播假信息。
报道称，这项被撤回的新功能，把AI图像生成器“Nano Banana 2”整合进谷歌地球（谷歌开发的虚拟地球仪软件，它将卫星图、航空照相和GIS数据叠加在地球的三维模型上），用户只需输入文字指令，就能在真实卫星图像、航拍图像或三维地图上生成虚构场景，并下载后分享到其他平台。
在该功能于当地时间7月30日首次推出后，BBC事实核查部门进行了测试，成功生成了一些图像，其中包括倒塌的埃菲尔铁塔、吞噬胡夫金字塔的巨大天坑，以及出现在乌克兰首都基辅的俄罗斯坦克。
虚拟生成的倒塌埃菲尔铁塔 BBC
在该功能被撤回之前，AI与虚假信息专家亨克·范·埃斯（Henk van Ess）指出了其带来的风险，并展示了生成的虚假图像，包括伊朗境内一座不存在的核电站、美墨边境的一个难民营，以及加沙地带一所旁边带有炸弹坑的虚假医院。
专家指出，虚假内容与真实地理坐标和谷歌地图底图结合后，容易让人误以为图像来自可靠卫星资料。特别是在战争、灾害等信息混乱时期，这类图像尤其可能误导记者和公众。
谷歌表示，由其工具生成的AI内容包含隐形水印，以标明图像为虚假或经篡改。此外，任何对图像“存疑”的人都可以使用Gemini聊天机器人应用或谷歌搜索中的Lens（智能镜头）功能进行核查。
总体而言，BBC事实核查部门的测试发现，对于该新功能生成的图像，上述核查方法是有效的。但需要注意的是，部分验证机制仍可被绕过，外部检测工具有时也无法识别虚假图像。
中资优配提示：文章来自网络，不代表本站观点。
