人工智能(AI)系统中新发现的神经特征可能是解决人工智能幻觉这一行业最大挑战之一的关键。

人工智能 "幻觉 "是训练大型语言模型作为生成式人工智能系统的意外结果。当人工智能模型输出其数据集中不包含的新信息(通常是错误信息)时,就会出现幻觉。

不过,Anthropic 公司联合创始人兼首席执行官达里奥-阿莫代(Dario Amodei)表示,新发现的神经特征有助于解决人工智能幻觉问题。

阿莫代在 "2024 年巴黎非凡科技展"(Viva Tech Paris 2024)上发表演讲时说:

"现代人工智能系统拥有数以亿计的神经元......我们在模型中发现了3000万个特征。安全漏洞的特征或对某类群体的偏见......我们现在能够对它们进行干预并加以改变。"

幻觉的挑战在于,人工智能协议不知道输出是不正确的。不过,阿莫迪解释说,新发现的功能可以让人工智能幻觉成为过去。

"减少(人工智能)幻觉是这一新发现的主要好处之一"。

Anthropic公司已经在研究改变其人工智能助手的内部特征以改变其行为的效果。其中一个特殊功能创建了一个演示模型,让人工智能 "专注于金门大桥"。Anthropic 在 5 月 23 日的 X 帖子中说:

"事实上,我们可以在克劳德内部发现并改变这些特征,这让我们更有信心,我们已经开始了解大型语言模型的真正工作原理。"
资料来源人类学

Anthropic 是一家领先的人工智能开发公司,5 月初在欧洲推出了人工智能聊天机器人 Claude。自 5 月 14 日起,该人工智能助手已通过其网络应用程序和 iOS 应用程序提供多种欧洲语言版本,包括法语、德语、西班牙语和意大利语。

人工智能的发展将取决于人才,而不是数据:阿莫代

缺乏数据一直是人工智能发展面临的主要瓶颈。

然而,由于合成数据集的创建,目前最大的挑战是缺乏开发人才,而不是数据量。阿莫代说:

"数据不会成为瓶颈,因为一些公司已经开始创建合成数据......人工智能的进步将主要取决于人才......"

阿莫代指出,合成数据对于人工智能的可扩展性大有可为,但合成数据与真实世界数据的比例不能是无限的,因为这会导致合成数据集更弱、更不现实。

自 2024 年初以来,投资者对人工智能行业的兴趣与日俱增。5 月 27 日,埃隆-马斯克的公司获得了 60 亿美元的 B 轮融资。这笔融资旨在到 2024 年底将其 Grok 聊天机器人定位为 ChatGPT 的竞争对手。