加州立法者通过有争议的人工智能法案，遭到 OpenAI 反对

加利福尼亚州的立法者们推进了一项人工智能（AI）安全法案，该法案在科技行业引起了争议，受到了主要参与者和民选官员的反对。

8 月 28 日，参议院法案（SB）1047 在州议会获得通过，现在正等待州长加文-纽森（Gavin Newsom）的最终决定。纽森将在 9 月 30 日之前决定是否将其签署为法律或予以否决。

人工智能立法颁布

SB 1047 由来自旧金山的民主党参议员 Scott Wiener 撰写。维纳认为，在人工智能的进一步发展变得无法控制之前，必须制定相关立法。

该法案规定，大多数最先进的人工智能模型都必须进行安全测试；这些模型要么是开发成本超过 1 亿美元，要么是运行计算能力超过一定数量。

该法案将要求加利福尼亚州的开发者--包括 ChatGPT 制造商 OpenAI、Meta 和谷歌等大公司--在这些模型变得无法控制的情况下，为其购买 "关闭开关 "的大纲，并要求第三方审计人员参与模型的安全审计。

如果出现人工智能电网接管等来自模型的持续威胁，开发者还将受到州检察长的起诉。

SB 1047 的反击

虽然维纳认为，为了防止人工智能系统出错造成不可逆转的社会损失，该法案是必要的，但并非所有人都支持 SB 1047。

相关内容 监管机构限制开源人工智能的努力是错误的

该法案受到了科技行业主要参与者和州政界人士的强烈反对，认为它将阻碍本州的创新者。

值得注意的是，美国联邦议长南希-佩洛西（Nancy Pelosi）对该法案发表了评论，称其 "弊大于利"，不利于加州引领人工智能发展。

丰饶研究所（Abundance Institute）人工智能政策负责人尼尔-奇尔森（Neil Chilson）警告说，虽然该法案主要针对的是具有一定成本和口径的模型，但它 "试图 "为人工智能培训建立一个 "合理的照顾 "标准。

他说，这最终可能会过度扩张，也会影响到较小的公司和模型。

业内的科技公司尤其不喜欢这项法案，OpenAI 就带头反对，认为这将阻碍发展。不过，维纳对这些说法提出了质疑。

谷歌和 Meta Platforms 也在一封信中向加州州长纽森表达了他们的担忧。

不过，在关于该法案的意见拉锯战中，亚马逊的 Anthropic 表示支持，称其收益 "很可能超过成本"，尽管其中仍有一些模棱两可的因素。

卡内基梅隆大学前计算机科学教授、奥巴马政府校友埃里克-戴姆勒（Eric Daimler）表示，他对人工智能的安全性 "深感忧虑"，并呼吁华盛顿将 SB 1047 视为一个范例。他还说，他相信还有 "更有效的前进道路"。

SB 1047 并不是加州目前正在讨论的唯一一项人工智能法案。SB 1220 法案禁止在提供 SNAP 和 Medicaid 等福利和医疗服务的呼叫中心中使用人工智能，也引起了业界的质疑。

不过，加州的 AB 3211 法案要求在人工智能生成的内容上加上水印，该法案得到了 OpenAI 和微软等科技公司的支持。

亿万富翁埃隆-马斯克（Elon Musk）正在开发自己的模型 Grok，他表示支持全面的人工智能安全法规。

Cointelegraph 联系了加州法律专家和人工智能开发者，以更好地了解围绕这些法案的氛围。

人工智能之眼台湾的 AI 无人机 "地狱景观 "计划，法学硕士太笨毁灭人类