只有国会和 DARPA 才能控制人工智能的危险

有人声称美国联邦政府 "发明了互联网"。虽然这不完全正确，但定义互联网的许多基本协议--HTTP、TCP/IP、SMTP、DNS 等--都是政府和学术研究人员深入合作的产物。它们的威力部分在于其开放性，这促进了广泛的互操作性，为从个人到大公司的每个人提供了公平的在线通信环境。这也是为什么没有人从 HTTP 的推出中获利数十亿美元的部分原因--事实上，没有人拥有这些协议，才使它们成为全球通信和商务的强大工具。

这就引出了下一个 "划时代 "的技术：人工智能。尽管人工智能是革命性的，但它也是通过这些协议产生的。这在一定程度上证明了它们的可扩展性和前瞻性设计。然而，随着人工智能能力的提升，它似乎有可能会拓展我们现有互联网协议的边界。

为了充分利用人工智能的力量，并在动荡的技术革命中维持某种秩序，我们需要新的协议。就像互联网一样，美国联邦政府与学术界和私营部门合作，完全有能力实现这些新协议。

虽然新协议将建立在多种技术基础上，但加密行业开创的创新技术，如零知识证明、加密货币、智能合约和区块链，都将发挥至关重要的作用。

目前，人工智能能力基本上不需要我们重新构想互联网的架构，但不难看出这种情况可能会发生变化。OpenAI 和 DeepMind 等人工智能领导者认为，下一个重要里程碑之一将是代理：可以代表用户采取行动的人工智能系统。

长期以来，我们一直在努力打造一个能够真正帮助日常生活的通用人工智能代理。今天，我们在 #GoogleIO 上展示了我们在这方面的最新进展：Astra 项目。下面是我们实时拍摄的原型视频。

- 德米斯-哈萨比斯 (@demishassabis) 2024 年 5 月 14 日

假设我想雇一名水管工。今天，我会使用搜索引擎查找我所在地区的水管工，然后联系搜索引擎搜索结果中排名靠前的水管工。但在不久的将来，我可能会让我的人工智能代理助理查询我所在地区的所有水管工，联系他们为我的工作报价，然后把工作交给出价最低的人。

由于人工智能代理可以在人类联系一个水管工的时间内轻松联系到 50 个水管工，这可能会带来一个副作用，即水管工需要处理更多的咨询。这可能反过来要求他们让自己的人工智能代理与新的潜在客户谈判。因此，今天看来不可思议的事情很快就会变得司空见惯：人工智能与人工智能之间的交流。当然，这并不局限于水管工；代理完全可以进入任何经济活动领域。

这种交流带来了挑战。首先，鉴于人工智能系统的不可预测性和不稳定性--这种情况甚至会随着能力的提升而持续存在--我们是否希望人工智能代理使用与人类相同的协议进行通信，如电子邮件、WhatsApp、短信或 iMessage？或者，我们可能需要一个专门为这项任务而设计的协议？

试想一下，如果有一个协议能将人工智能代理与派遣它的人紧密联系起来，就能帮助打击人工智能辅助欺诈。或者想象一个通信协议，它的记录可以不可磨灭地保存下来，这样就有可能解决模糊不清的问题--比如说，我和水管工在工作范围上的争议。

在更远一点的未来，我们还可以想象，代理们所做的不仅仅是沟通。也许有一天，它们还能代表人类用户相互进行金融交易。我们会让这些代理访问我们的银行账户和信用卡吗？我们是否要修改法律，让代理拥有自己的银行账户和信用卡？无论技术多么先进，这似乎都是不明智的。

相反，就像通信一样，为代理人与代理人之间的金融交易专门制定新的协议似乎是更安全可靠的途径。除了协议本身，允许这些代理使用加密货币（如美元支持的稳定币）进行交易，也是避免传统金融体系许多复杂问题的一种合理且用户友好的方式。

以上只是众多例子中的几个。问题的关键在于，与其强迫人工智能代理加入我们当前专为人类构建的数字基础设施，不如专门为人工智能创建新的协议来得更合理、更安全。这将使我们能够利用人工智能带来的独特新能力，同时降低一些可预见的风险。

要做到这一点，需要联邦政府、人工智能和加密货币行业以及学术研究人员做出紧急而广泛的努力。为了启动这项工作，国会应与下一届总统政府合作，成立一个由私营部门和国家标准与技术研究院（NIST）、国防高级研究计划局（DARPA）等政府机构的代表组成的工作组。

幸运的是，就在我们的许多政治领导人似乎正在重新考虑他们对加密货币和区块链技术的立场时，人工智能正在崛起。这些创新可以在人工智能转型的顺利进行中发挥至关重要的作用。但是，人工智能发展迅速，这意味着我们的社会适应也必须如此。现在是采取行动的时候了。