美国在推特上捣毁人工智能驱动的俄罗斯机器人农场

司法部标记了近千个与据称传播虚假信息的网络有关的推特（Twitter）账户。

美国司法部（DOJ）周二宣布，美国执法部门查获了两个与俄罗斯政府的人工智能社交媒体机器人农场有关的域名。

"司法部发言人告诉Decrypt："这是司法部（包括联邦调查局）在应对网络和网络对国家安全的威胁时所采取的破坏优先战略的一个有力例证。"我们将继续改进防御和识别这些行为者的方式。

根据该机构发布的文件，网络犯罪分子利用生成式人工智能创建虚假的社交媒体个人资料，其中许多人自称是美国人，然后利用这些资料在推特上发布亲俄信息。

"美国联邦调查局（FBI）局长克里斯托弗-雷（Christopher Wray）在一份声明中说："今天的行动首次瓦解了一个由俄罗斯赞助的人工智能生成增强型社交媒体僵尸农场。"俄罗斯打算利用这个僵尸农场传播人工智能生成的外国虚假信息，在人工智能的协助下扩大他们的工作规模，以破坏我们在乌克兰的合作伙伴，并影响对俄罗斯政府有利的地缘政治叙事"。

据称，机器人农场使用了亚利桑那州域名提供商Namecheap发布的域名（mlrtr.com和otanmail.com）、私人电子邮件服务来生成随机电子邮件地址，并在Twitter上创建了个人资料。在一个例子中，一个僵尸账户声称自己是明尼阿波利斯市居民，自称是 "人道主义者"，并包含一个比特币标签。

从 2022 年 6 月 11 日到 2024 年 3 月 1 日，机器人农场总共创建了 968 多个 Twitter 账户。

Namecheap没有立即回应Decrypt的置评请求。

对于网络安全专家来说，公开可用的生成式人工智能模型和标准化开发工具对国家支持的网络犯罪分子很有吸引力。

"区块链安全公司 Halborn 的联合创始人兼首席技术官 Steve Walbroehl 通过 Telegram 告诉Decrypt："生成式人工智能与 Telegram、X 和 Meta 等平台提供的开发者 API 相结合，如果被恶意使用，可能会非常危险。"在正常情况下，这种功能可以让用户自动化、管理或提升他们在社交媒体上的存在感。但如果落入坏人之手，这是一种非常有说服力的误导人们和网络社区的方法。

Walbroehl 指出，Telegram 群组完全由人工智能驱动的机器人组成，可以用来制造虚假炒作和社交证明，并说服毫无戒心的受害者基于这种制造出来的热情投资于骗局，结果却被控制机器人的骗子窃取了投资。

"Walbroehl补充说："虽然这是一种用于大规模散布虚假信息的社会工程学策略，但它也是骗子用来帮助'泵和倾倒'纪念币，从天真用户那里窃取大量资金的一种策略。

"攻占和随之而来的咨询表明，美国和盟国正在尝试各种技术，比如这些干扰和扣押......因为运营商目前无法直接接触到他们，"公民实验室高级研究员约翰-斯科特-雷尔顿（John Scott-Railton）在推特上发表了自己的看法。"预计运营商会学习、进化，并马上回来针对美国"。

铲除虚假账户的行动始于 6 月，美国亚利桑那州地方法院发出两份搜查令，授权搜查 X 公司（又名 Twitter）的服务器，并从 Namecheap 没收域名。Twitter 以违反服务条款为由，主动暂停了被举报的账户。

"司法部发言人告诉Decrypt："X 公司是本案的重要合作伙伴，我们非常重视他们为移除这些机器人和开展自身调查所做的自愿努力。

"司法部副部长丽莎-摩纳哥（Lisa Monaco）在一份声明中说："随着恶意行为者加速对人工智能的犯罪性滥用，司法部将做出回应，我们将优先与我们的国际合作伙伴和私营部门采取破坏性行动。"我们将毫不犹豫地关闭僵尸农场，查封非法获取的互联网域名，并与我们的对手展开斗争。"

司法部表示，此次行动是与联邦调查局、网络国家任务部队、加拿大和荷兰政府合作伙伴以及包括推特在内的社交媒体公司合作开展的。

"司法部长梅里克-加兰（Merrick B. Garland）在一份声明中说："通过这些行动，司法部瓦解了俄罗斯政府支持的人工智能宣传活动，即利用机器人农场在美国国内外传播虚假信息。"在俄罗斯政府继续在乌克兰发动野蛮战争并威胁全世界民主国家的同时，司法部将继续运用我们所有的法律权力来打击俄罗斯的侵略并保护美国人民。

被用来宣传诈骗和虚假信息的不仅仅是假推特账户。最近，一系列针对著名艺人合法推特账户的网络攻击被用来宣传加密货币骗局，这些艺人包括音乐家 Doja Cat、女演员 Sydney Sweeney 和传奇重金属乐队 Metallica。

编辑：Ryan Ozawa

More News

• All
• CT
• Coindesk
• Decrypt
• DLNews