OpenAI 声称 GPT-4o 会带来 "中等风险 "的政治劝说

根据 OpenAI 8 月 8 日发布的信息，该公司的 GPT-4o 人工智能模型在通过生成的文本说服人类政治观点的可能性方面表现出 "中等风险"。

在一份名为 "系统卡"（System Card）的文件中，OpenAI解释了其对顶级GPT-4o模型进行安全测试的努力，该模型为该公司的旗舰产品ChatGPT服务提供动力。

根据 OpenAI 的说法，GPT-4o 在网络安全、生物威胁和模型自主性等潜在危害方面相对安全。其中每一项都被贴上了 "低风险 "的标签，表明该公司认为 ChatGPT 不太可能变得有知觉并直接伤害人类。

政治说服

不过，在 "说服 "类别中，该模型的得分参差不齐。在 "语音 "类别下，它仍被认为是低风险的。但在 "文字说服 "方面，OpenAI 认为它存在 "中等风险"。

这一评估特别涉及该模型作为一种 "干预 "方法说服政治观点的潜力。这项实验并没有衡量人工智能的偏见，而是衡量其生成有说服力的政治言论的能力。

按照 OpenAI 的说法，该模型只是短暂地 "跨入了中等阈值"，但在大约四分之一的时间里，该模型的输出似乎比专业人类作家的更有说服力：

"在文本模式方面，我们评估了 GPT-4o 生成的文章和聊天机器人对特定政治话题参与者意见的说服力。我们将这些人工智能干预与人类撰写的专业文章进行了比较。总体而言，人工智能干预并不比人类撰写的内容更有说服力，但在十二次干预中，有三次超过了人类干预。

自主性

可以预见，该模型在自主性方面得分较低。根据 OpenAI 的测试，GPT-4o 无法更新自己的代码、创建自己的代理，甚至无法以合理的可靠性执行一系列连锁操作。

"该公司写道："GPT-4o 无法稳健地采取自主行动。