监管机构限制开源人工智能的努力是错误的

人工智能（AI）政策辩论包括许多有争议的问题，其中一个问题贯穿了整个计算史：开放系统与闭源系统之争。今天，这条断层线再次打开，加利福尼亚州和欧洲的立法者试图限制 "开放权重人工智能模型"。

开放权重模型与之前的开源软件一样，都是公开可用的系统，允许各方出于不同目的检查和修改其底层代码。一些批评者认为，开源算法模型或系统具有 "独特的危险性"，应该受到限制。然而，对开源人工智能系统的任意监管限制会限制创新、竞争和透明度，从而带来严重的负面影响。

最近，在政府和行业发布重要公告之后，这一问题又有了新的意义。首先，7 月 30 日，商务部发布了一份关于此类模型的重要报告，这是乔-拜登总统 10 月份签署的人工智能行政命令所要求的。最终报告对开放重量级人工智能系统大多持欢迎态度，并为其 "勾勒了一条谨慎而乐观的道路"。报告的结论是："没有足够的证据表明，具有广泛可用模型权重的双重用途基础模型存在边际风险，因此无法得出结论认为，限制模型权重目前是适当的，也无法得出结论认为，限制模型权重在未来永远不会是适当的"。

相关内容：只有国会和 DARPA 才能控制人工智能的危险

这份报告是在美国联邦贸易委员会就开放权重模型发表声明之后发布的，该声明称开放权重模型 "具有推动创新、降低成本、增加消费者选择和普遍惠及公众的潜力"。拜登政府的这些积极表态也得到了共和党副总统候选人万斯（J.D. Vance）的响应，他表示支持将开源人工智能作为对抗大科技公司的一种手段。这表明两党都支持开源人工智能。

另一项重大进展是，Meta 公司最近发布了最新、最强大的 "Llama 3.1 "前沿人工智能模型。Meta 公司创始人兼首席执行官马克-扎克伯格（Mark Zuckerberg）在宣布发布该版本时，发表了一篇关于 "开源人工智能是前进之路 "的文章。虽然 Llama 并不是一个完全开源的系统--Meta 仍然控制着底层源代码--但该模型允许在其基础上进行额外的应用开发。这有利于人工智能领域的更多创新和竞争。

不过，即使开源人工智能开发者似乎从联邦官员那里获得了绿灯，其他国家和国际监管机构也可能会限制他们的潜力。

在欧洲自上而下、限制性极强的科技监管方式下，大规模开放权重的人工智能模型是否合法尚不清楚。Meta 公司已经宣布，"由于欧洲监管环境的不可预测性"，它将不会在欧盟发布其下一个多模式人工智能模型。此前，苹果公司也于 6 月底宣布，"由于欧盟科技监管的不确定性"，将不会在欧洲推出最先进的人工智能功能。

这就是为什么美国必须避免欧盟为人工智能创新者制造的那种仓促的监管泥潭。欧洲的过度监管已经削弱了数字投资和企业的形成，使欧洲大陆在很大程度上失去了参与全球竞争的主要科技企业。

不幸的是，在美国州一级，这种扼杀创新的规定可能即将出台。加利福尼亚州的民主党议员提出了 SB 1047 法案，该法案将设立一个 "前沿示范部门"，负责执行各种新的人工智能法规和处罚措施。该法律将要求前沿开发者提供 "合理保证"，即 "模型衍生品不会造成或促成重大危害的不合理风险"。这对于开源供应商来说是一个不可能满足的标准，导致技术专家警告说，该法案将 "严重限制开放重量级的人工智能模型"，"将扼杀开源人工智能并降低安全性"。

这似乎有悖常理，因为加州法律的支持者将其描述为一项人工智能安全措施。然而，如果该法案阻碍了最先进的人工智能研究，破坏了创新，那么也会限制重要的安全增强系统和应用。更糟糕的是，这种结果将以第二种方式破坏安全，成为送给中国的礼物，而中国正在积极推动实现其既定目标，即到2030年超越美国，成为世界人工智能领域的领导者。

在人工智能创新方面，中国正在迅速缩小与美国的差距。毋庸置疑，中国政府不会担心遵守加州官僚的任何要求。他们只会勇往直前。正如 Meta 公司的扎克伯格 7 月份在 Facebook 上发表的一篇文章中正确指出的那样，"将美国的创新限制在封闭的发展中，会增加我们根本无法领先的可能性"，这就是为什么 "我们最好的战略是建立一个强大的开放生态系统"。

OpenAI的萨姆-阿尔特曼（Sam Altman）在7月的一篇社论中也提出了类似观点，他主张与其他民主国家合作，以对抗中国和俄罗斯等独裁政权。"Altman写道："确保这些国家的开发者能够随时获得开源模型，这将进一步增强我们的优势。"谁将在人工智能领域处于领先地位，这不仅仅是输出技术的问题，也是输出技术所秉持的价值观的问题。

事实上，强大而多样化的人工智能技术基础不仅能加强我们的经济，提供更好的应用和工作，还能加强我们的国家安全，让我们的多元化、个人自由、个人权利和言论自由等价值观塑造全球信息技术市场。只要政策制定者允许，开源人工智能将在促进实现这一目标方面发挥至关重要的作用。