OpenAI 和 Anthropic 向美国人工智能安全研究所开放
该协议允许新成立的联邦机构评估 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 的风险和能力。
美国商务部国家标准与技术研究院（NIST）周四表示，该机构已与顶级人工智能开发商OpenAI和Anthropic达成协议，将与美国人工智能安全研究所（AISI）建立正式合作关系。
根据该公告，该研究所将 "在两家公司的主要新模型公开发布之前和之后获得这些模型的使用权"。Anthropic 正在开发 Claude，而 OpenAI 则提供 ChatGPT。
这项安排将使研究所能够评估各自人工智能模型的能力和安全风险。
"安全对于推动突破性技术创新至关重要。随着这些协议的签署，我们期待着与Anthropic和OpenAI开始技术合作，推动人工智能安全科学的发展，"该机构主管伊丽莎白-凯利（Elizabeth Kelly）在一份声明中说。"这些协议只是一个开始，但它们是我们努力帮助负责任地管理人工智能未来的一个重要里程碑。"
Anthropic 和 OpenAI 没有立即回应Decrypt的置评请求。
"期待与美国AISI一起对我们的下一个模型进行部署前测试，"Anthropic联合创始人杰克-克拉克（Jack Clark）在推特上写道。"第三方测试是人工智能生态系统中非常重要的一部分，看到各国政府成立安全机构来推动这项工作，我感到非常惊讶。"
"我们很高兴与美国人工智能安全研究所达成协议，对我们未来的模型进行发布前测试，"OpenAI 联合创始人兼首席执行官萨姆-奥特曼（Sam Altman）在 Twitter 上写道。"出于多种原因，我们认为在国家层面开展这项工作非常重要。[美国需要继续引领！"
人工智能安全问题已经渗透到行业的各个层面，许多知名专家和高管因担心OpenAI的做法而离开了OpenAI，有的还成立了以谨慎开发为核心的竞争对手公司。
各国政府也对此表示担忧。AISI 于 2023 年 10 月由拜登政府发起，在拜登总统发布了旨在控制人工智能发展的全面行政命令之后成立。
今年二月，拜登政府宣布了其所谓的人工智能联盟（AISIC）的首批成员。AISIC 包括几家知名的人工智能公司，包括 OpenAI、Anthropic、谷歌、苹果、英伟达、微软和亚马逊。
美国 AISI 表示，它将与英国人工智能安全研究所的欧洲同行分享 OpenAI 和 Anthropic 的研究成果。
Related News
© 2025 DeFi.io