谷歌加强打击搜索结果中的人工智能深度伪造行为

在一项新的政策更新中，谷歌将对含有非法人工智能生成图像的网站进行降级和过滤搜索结果。

技术和搜索巨头谷歌周三表示，为了遏制未经授权的人工智能深度伪造，谷歌正在采取新措施，在搜索中删除和降级被举报含有非法图片的网站。

人工智能深度伪造是指使用生成式人工智能制作视频、图片或音频片段的媒体，这些视频、图片或音频片段看似真实。这些虚假图片中有许多描绘的是女演员斯嘉丽-约翰逊（Scarlett Johansson）等名人、美国总统乔-拜登（Joe Biden）等政客，还有更阴险的儿童。

"谷歌在一篇博文中说："多年来，人们一直可以根据我们的政策要求从搜索中删除未经同意的虚假露骨图像。"我们现在已经开发了系统，使这一过程变得更容易，帮助人们大规模地解决这一问题。"

谷歌发言人向解密进一步解释说，此类报告将影响网站在搜索结果中的可见度。

"如果我们收到某个网站的大量移除请求，根据这项政策，这将作为一个信号传递给我们的排名系统，表明该网站不是一个高质量的网站--我们将把这一信号纳入排名系统，对该网站进行降级。"该发言人说。"广义上讲，这并不是我们限制搜索内容可见度的唯一方法。"

在谷歌的新更新中，当收到删除搜索中发现的未经同意的深度伪造网站的请求时，谷歌还将努力过滤包含被冒充者姓名的类似搜索结果。

"发言人说："这意味着，当你根据我们的政策从搜索中删除某个结果时，我们还会对任何包含你的姓名的查询--或者可能会从搜索中显示该页面的查询--进行过滤，所有露骨的结果都会被过滤掉。"发言人说："因此，并不是所有露骨的结果都会被删除，但所有露骨的结果都会在这些搜索中被过滤，从而防止它们出现在有可能出现的搜索中。

除了过滤搜索结果外，谷歌还表示将对那些 "因虚假露骨图像而被大量删除 "的网站进行降级处理。

"事实证明，这些保护措施在处理其他类型的未经同意的图像方面是成功的，我们现在也为虚假露骨的图像建立了同样的功能，"谷歌说。"这些努力旨在让人们更加放心，尤其是当他们担心未来会出现关于他们的类似内容时。"

谷歌承认，新政策面临的一个挑战是，如何确保两厢情愿或 "真实内容"（如电影中的裸体镜头）不会与非法的人工智能深度伪造内容一起被删除。

"谷歌表示："虽然区分这些内容对搜索引擎来说是一项技术挑战，但我们正在不断改进，以更好地揭示合法内容，并将明确的虚假内容降级。关于 CSAM，谷歌发言人表示，公司非常重视这个问题，并专门成立了一整个团队来打击这种非法内容。

"该发言人说："我们拥有哈希技术，在技术上有能力主动检测 CSAM。"这是一种全行业的标准，我们能够阻止它出现在搜索中"。

今年 4 月，谷歌与 Meta、OpenAI 和其他生成式人工智能开发者一起，承诺执行防护措施，防止各自的人工智能模型生成儿童性虐待材料（CSAM）。

在谷歌努力清除深度伪造网站并使其更难被发现的同时，音频取证公司 Media Medic 首席执行官本-克莱顿（Ben Clayton）等深度伪造专家表示，随着技术的发展，这种威胁仍将存在。

"打击深度伪造是一个不断变化的目标，"克莱顿告诉Decrypt。"虽然谷歌的更新是积极的，但它需要不断保持警惕并改进算法，以防止有害内容的传播。平衡这一点与自由表达的需要是棘手的，但这对保护弱势群体至关重要。"

克莱顿说，虽然深度伪造会影响隐私和安全，但这项技术也会对法律案件产生影响。

"他说："深度伪造可能被用于伪造证据或误导调查，这是我们的法律客户严重关切的问题。"深度伪造有可能干扰司法公正，这是一个关键问题，凸显了先进检测技术和媒体道德标准的重要性。

政策制定者也已采取措施打击深度伪造。今年 7 月，华盛顿州参议员玛丽亚-坎特韦尔（Maria Cantwell）提出了《来自编辑和深度伪造媒体的内容来源保护和完整性法案》（COPIED），呼吁采用标准化方法对人工智能生成的内容进行水印处理。

"参议员克里斯-库恩斯（Chris Coons）在一份声明中说："每个人都有权拥有并保护自己的声音和肖像，无论你是泰勒-斯威夫特（Taylor Swift）还是其他人。"生成式人工智能可以作为促进创造力的工具，但这不能以未经授权利用任何人的声音或肖像为代价。

娱乐行业领袖和科技公司对谷歌更新政策表示欢迎。

"SAG-AFTRA 在一份赞扬该措施的声明中说："《无假货法案》得到了整个娱乐行业的支持，从制片厂、主要唱片公司到工会和艺术家权益组织。SAG-AFTRA 在声明中对这一措施表示赞赏，"将所有这些团体聚集在一起实现同一个紧迫目标是一项里程碑式的成就"。

"游戏结束了，人工智能骗子们，"SAG-AFTRA 主席 Fran Drescher 补充道。"将防止未经授权的数字复制作为一项联邦知识产权加以保护，将使我们所有人在这个勇敢的新世界中受到保护。

编辑：Ryan Ozawa

More News

• All
• CT
• Coindesk
• Decrypt
• DLNews