加州州长否决争议激烈的人工智能安全法案

加利福尼亚州州长加文-纽森（Gavin Newsom）否决了一项引起激烈争论的人工智能（AI）法案，认为该法案将阻碍创新，无法保护公众免受人工智能技术带来的 "真正 "威胁。

纽森于9月30日否决了SB 1047法案--即《前沿人工智能模型安全可靠创新法案》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act），该法案曾遭到硅谷的强烈反对。

该法案提出了对人工智能模型进行强制性安全测试和其他防护措施，科技公司担心这会扼杀创新。

纽森在 9 月 29 日的一份声明中说，该法案过于注重监管现有的顶级人工智能公司，而没有保护公众免受新技术带来的 "真正 "威胁。

"相反，该法案甚至对最基本的功能都采用了严格的标准--只要大型系统部署了这些功能。我认为这不是保护公众免受该技术带来的真正威胁的最佳方法。

由旧金山民主党参议员斯科特-维纳（Scott Wiener）起草的 SB 1047 法案还将要求加州的开发者--包括 ChatGPT 制造商 OpenAI、Meta 和谷歌等大公司--为其人工智能模型实施 "致命开关"，并公布降低极端风险的计划。

如果该法案得以实施，人工智能开发者还将在人工智能电网接管等模型造成持续威胁的情况下被州总检察长起诉。

纽森说，他已请世界领先的人工智能安全专家帮助加州 "制定可行的防范措施"，重点是创建 "基于科学的轨迹分析"。他补充说，他已下令州政府机构扩大对人工智能发展可能引发的灾难性事件的风险评估。

相关报道 OpenAI 转向营利：真的 "非法 "吗？

尽管纽森否决了 SB 1047，但他表示，必须对人工智能采取适当的安全协议，并补充说，监管机构不能 "等待重大灾难发生后再采取行动保护公众"。

纽森还说，他的政府在过去 30 天内签署了超过 18 项有关人工智能监管的法案。

政客、大型科技公司反击人工智能安全法案

在纽森做出决定之前，该法案在立法者、顾问和大型科技公司中并不受欢迎。

众议院议长南希-佩洛西（Nancy Pelosi）和 OpenAI 等公司表示，该法案将严重阻碍人工智能的发展。

丰饶研究所（Abundance Institute）人工智能政策负责人尼尔-奇尔森（Neil Chilson）警告说，虽然该法案主要针对一定成本和规模的模型--成本超过 1 亿美元的模型--但其范围很容易被扩大，以打击规模较小的开发者。

但也有人对该法案持开放态度。亿万富翁埃隆-马斯克（Elon Musk）正在开发自己的人工智能模型 "Grok"，他是少数支持该法案和更广泛的人工智能法规的科技领袖之一。

马斯克在 8 月 26 日发表在 X 上的一篇文章中说："加州或许应该通过 SB 1047 人工智能安全法案，"但他承认支持该法案是一个 "艰难的决定"。

杂志： 先进的人工智能系统已经具有 "自我意识"--人工智能联盟创始人