加州人工智能 "开关 "法案对去中心化人工智能意味着什么？

业界人士对8月28日通过的一项有争议的加州人工智能法案意见不一。

新立法将迫使人工智能公司执行新的安全协议，包括为人工智能模型设置 "紧急停止 "按钮。

8 月 28 日，加州参议院以 29 票对 9 票通过了《前沿人工智能模型安全可靠创新法案》（SB 1047）。

该法案目前正等待州长加文-纽森（Gavin Newson）的批准。

埃隆-马斯克（Elon Musk）是表示支持该法案的人之一。他在 X 上说，这是一个 "艰难的决定"，但由于人工智能的 "潜在风险"，他赞成这项立法。

不过，并非所有科技界人士都持同样的观点。OpenAI 首席战略官 Jason Kwon 就是批评该立法的人之一。

去中心化人工智能网络 Masa 的联合创始人卡兰西亚-梅（Calanthia Mei）表示，她不赞成新规，认为这是不适当地急于立法的结果。

"Mei告诉Cointelegraph："这样过早的规定不仅会把人才赶出加州，还会把人才赶出美国。她补充道：

"风险在于，美国当前和拟议的监管框架很可能会限制人工智能行业的发展。"

去中心化人工智能项目 DecideAI 的首席执行官拉海尔-戈文吉（Raheel Govindji）则持相反的观点。

"Govindji 告诉 Cointelegraph："我们赞成立法。

Govindji说，DecideAI支持由去中心化自治组织（DAO）控制的杀毒开关，这就是他们提出的将紧急停止民主化和去中心化的方式。

人工智能是一个快速发展的行业

人工智能行业的快速发展激起了人们对其无限制发展的担忧。

在 8 月 22 日的一封信中，OpenAI 的前员工和举报人警告说："在没有足够安全预防措施的情况下开发前沿人工智能模型，会给公众带来可预见的灾难性伤害风险。"

但在其他人看来，人工智能的快速发展值得庆贺，而不是害怕。

最近： 没有问题的解决方案：多少个以太坊二层才算多？

"与其他变革性技术相比，人工智能创新的速度是无与伦比的。构建者每天都在推出新产品、新功能和新应用，"Mei 说。

"作为建设者，我们甚至不知道人工智能的上限在哪里；政府怎么会知道人工智能的上限呢？为高潜力技术设限是不明智的。

梅警告说，立法的最终代价将是 "把人才赶出美国"，就像它 "对加密货币所做的那样"。

赞成者

戈文吉提出，"DAO控制的杀手开关 "可以支持立法的要求，同时仍然保留 "集体和透明的决策"。

该法案指出，任何人工智能模型都应该能够 "迅速颁布全面关闭"，但却没有定义 "迅速 "的含义，因此留下了相当大的解释空间。

目前，我们还不知道 DAO 模型及其民主投票系统是否足够及时，以满足立法者的要求。戈文吉相信它会的。根据 Govindji 的说法，DecideAI "将在提供具有社会效益的人工智能方面走在前面"。

人工智能公司 Anthropic 也公开支持这项法案。

Anthropic 首席执行官达里奥-阿莫迪（Dario Amodei）在致纽森州长的一封公开信中说："人工智能系统的能力发展极为迅速，这既为加州经济带来了巨大的发展前景，也带来了巨大的风险[......]我们认为，考虑到避免灾难性滥用的重要性，SB 1047（尤其是在最近的修正案之后）可能会给我们这样的公司带来可行的合规负担。"

该法案的早期版本提出了对未能合规的公司进行刑事处罚的规定。在与业界协商后，该条款被缩减为仅适用于民事处罚。

SB 1047 法案

SB 1047 法案仅适用于 "涵盖的模式"，而涵盖模式的定义会随着时间的推移而变化。

在实施时，被涵盖的模型将是开发成本超过 1 亿美元的人工智能或 "使用计算能力大于 10^26 的整数或浮点运算训练的人工智能模型"。

联邦政府的政府运营机构将对计算能力门槛的任何变化进行裁决。

最近： 五个尚未成真的加密货币市场预测

OpenAI 的 Kwon 在给纽森州长的信中认为，人工智能立法只应在联邦层面处理，"而不是各州法律的拼凑"。

鉴于科技和人工智能公司绝大多数集中在加州，SB 1047 可以说是目前事实上的国家立法。

如果立法导致人工智能公司逃往其他州，情况可能会有所改变，但要完全避免 SB 1047，这些公司还需要停止在加州的所有业务和服务。