OpenAI 有一个 "高度准确 "的人工智能内容检测工具，但没有发布计划

OpenAI 似乎正在搁置一个新的 "高精度 "工具，该工具能够检测由 ChatGPT 生成的内容，因为人们担心它可能被篡改或导致非英语用户避免使用人工智能模型生成文本。

该公司早在 5 月份的一篇博文中就提到，它正在研究各种方法来检测专门由其产品生成的内容。8 月 4 日，《华尔街日报》发表独家报道称，发布这些工具的计划因内部对发布这些工具的影响的争论而搁浅。

华尔街日报》报道后，OpenAI 更新了 5 月份的博文，提供了有关检测工具的新信息。长话短说，尽管该公司告诫说至少有一种用于确定文本出处的工具 "非常准确，甚至能有效抵御局部篡改"，但仍然没有发布的时间表。

遗憾的是，该公司声称仍有一些方法可以让坏人绕过检测，因此不愿向公众发布。

在另一段话中，该公司似乎暗示，非英语国家的人可能会 "鄙视 "使用人工智能产品进行写作，因为有一个漏洞与将英文文本翻译成其他语言以绕过检测有关。

"我们正在权衡的另一个重要风险是，我们的研究表明，文本水印方法有可能对某些群体造成不成比例的影响。例如，它可能会使非英语母语人士将人工智能作为一种有用的写作工具而蒙羞。"

虽然目前有许多产品和服务声称可以检测人工智能生成的内容，但据我们所知，没有一个产品和服务在同行评议的研究中证明在一般任务中具有很高的准确性。

OpenAI 的系统将是首个依靠隐形水印和专有检测方法对公司模型生成的内容进行检测的内部开发系统。