威廉-桑德斯(William Saunders)是 OpenAI 的前员工,也是该公司 "超调整团队 "的成员,他最近透露说,他之所以从公司辞职,是因为他觉得公司正朝着悲剧的方向发展,就像 1912 年命运多舛的泰坦尼克号一样。
据《商业内幕》(Business Insider)报道,桑德斯在科技记者亚历克斯-坎特罗维兹(Alex Kantrowitz)的播客节目中发表了自己的评论。
桑德斯告诉 Kantrowitz,在 OpenAI 工作的三年里,他有时会问自己,公司所走的道路是 "更像阿波罗计划,还是更像泰坦尼克号"。
他的理由似乎是,通过谨慎的科学努力,阿波罗太空计划尽管遭遇了挫折,却取得了成功,而泰坦尼克号尽管取得了成功,却失败了。
桑德斯说
"为了使这艘船安全并建造水密隔舱,他们做了大量的工作,这样他们就可以说这艘船是不会沉没的。但与此同时,却没有足够的救生艇供所有人使用。
OpenAI 就像泰坦尼克号
桑德斯将公司的总体精神描述为:产品开发比实施合理的安全预防措施更重要。
他描绘了这样一幅画面:提出安全问题的员工会受到惩罚,而领导层则专注于利润。
"随着时间的推移,"桑德斯说,"我们开始真正感觉到领导层的决策更像是白星航运公司在建造泰坦尼克号。
冰山
桑德斯并不是第一个不认同 OpenAI 据称的经营方式的人。该公司疏远的共同创始人之一埃隆-马斯克(Elon Musk)最近起诉了OpenAI,称其偏离了最初的使命。尽管马斯克多年来与 OpenAI 没有任何瓜葛,而且目前还经营着自己的直接竞争对手 xAI。该诉讼随后被撤回。
竞争对手人工智能公司 Anthropic 于 2021 年由 OpenAI 前员工和联合创始人创立,因为他们担心 OpenAI 对信任和安全的关注不够。
但另一方面,另一位现已疏远的联合创始人、公司前首席科学家伊利亚-苏茨克沃(Ilya Sutskever)在 2024 年 5 月离开公司,创办了自己的公司,他当时写道,他 "相信 "OpenAI 团队能够安全地实现目标。
既然有这么多员工跳槽,而且至少有一位员工还在用《泰坦尼克号》做类比,那么现在的问题是:谁或什么才是冰山?
如果比喻中的乘客是我们--全人类,那么冰山就代表着 ChatGPT 和类似系统对毫无准备的社会构成的生存威胁。如果人工智能变得比我们更聪明、更能干,而我们又没有足够的 "救生艇 "来保护每个人免受其潜在的伤害,那么我们可能会走向悲剧。
但如果乘客是股东和利益相关者,他们在等待 OpenAI 创造出像人类一样聪明的人工智能,而这永远不会发生,那么冰山也许就代表着生成式人工智能泡沫的破灭。