加州通过一揽子法律打击选举造假行为

加利福尼亚州州长加文-纽森（Gavin Newsom）刚刚通过了一项严厉的新法律，以打击选举期间以政治为主题的人工智能深度伪造。

此前几周，埃隆-马斯克（Elon Musk）在 X 上重新发布了一则卡马拉-哈里斯（Kamala Harris）的模仿竞选广告，该广告获得了数百万的浏览量，并使用人工智能驱动的语音操控技术，使哈里斯看起来称自己是一个不称职的总统候选人。

7 月底，纽森特别提到了马斯克的帖子，并发誓要在 "几周内 "签署一项法案，禁止这种做法。

卡马拉-哈里斯竞选广告模仿 pic.twitter.com/5lBxvyTZ3o

- 里根先生 🇺🇸 (@MrReaganUSA) 2024 年 7 月 26 日

这项名为 AB 2839 的新法律立即生效，并有效禁止个人和团体在知情的情况下分享选举造假和其他 "实质上具有欺骗性的内容"。

现行法律仅禁止在选举后 60 天内传播具有实质欺骗性的候选人音频或视频媒体。新法律将禁令扩大到加州选举前 120 天，在某些情况下，还包括选举举行后 60 天。

纽森还在同一天签署了另外两项旨在打击政治人工智能造假的法律，不过它们要到一月份才会生效。

其中一项法律（AB 2355）将要求在使用人工智能生成或大幅修改的政治广告上贴上标签。

另一项法律（AB 2655）要求加州用户超过 100 万的社交媒体平台（如 Facebook 和 X）在特定时期内屏蔽与选举有关的欺骗性内容。

该法案还规定，如果平台未能在收到用户举报后 72 小时内删除相关内容，则应承担相应责任。

据悉，加州州长是在旧金山举行的 Dreamforce 大会上与 Salesforce 首席执行官马克-贝尼奥夫（Marc Benioff）进行炉边谈话时签署这些法案的。

消费者权益组织 "公共公民"（Public Citizen）民主团队的组织经理伊莲娜-贝勒（Ilana Beller）告诉《纽约时报》："这与其他法案有很大不同。

相关报道 人工智能深度伪造攻击将超越视频和音频--安全公司

与此同时，纽森还于 9 月 17 日签署了另外两项法案：AB 1836 和 AB 2602，这两项法案旨在为表演者使用其数字肖像提供更大的保护。

这则假冒哈里斯竞选的模仿广告于 7 月 26 日发布，仅在 X 上的浏览量就达到了 2540 万次，如今仍可在该平台上看到。

马斯克后来为自己当时转发原帖、嘲讽纽瑟姆的行为进行了辩护：

"我咨询了世界知名权威苏格贡-迪兹努兹教授，他说模仿在美国是合法的"。

杂志： 台湾的人工智能无人机 "地狱景象 "计划，法学硕士太笨毁灭不了人类：人工智能之眼