连线内幕:8 名 Google 员工发明了现代人工智能

Conan Xin
20 min readApr 21, 2024

八人的名字被列为2017年春季撰写的科学论文《注意力是你所需要的一切》(Attention Is All You Need)的作者。他们都是谷歌的研究人员,尽管当时有一个人已经离开了公司。当最资深的贡献者Noam Shazeer看到早期的草稿时,他惊讶地发现自己的名字出现在第一位,这表明他的贡献是最重要的。“我没有考虑过,”他说。

Noam Shazeer

弄清楚如何列出名字总是一个微妙的平衡行为 — — 谁获得了梦寐以求的领先位置,谁被分流到后面。特别是在像这样的案例中,每个参与者在真正的团队努力中都留下了独特的印记。当研究人员匆匆忙忙地完成他们的论文时,他们最终决定“破坏”对贡献者进行排名的惯例。他们在每个名字上都加了一个星号和一个脚注:“平等的贡献者,”上面写着。列表顺序是随机的。作者们在截止日期前将这篇论文送到了一个著名的人工智能会议上,并掀起了一场革命。

在接近七周年之际,《注意力》论文已经获得了传奇般的地位。作者从一种蓬勃发展和改进的技术开始 — — 各种称为神经网络的人工智能 — — 并将其发展成另一种东西:一个如此强大的数字系统,其输出感觉就像是外星智能的产物。这种架构被称为transformers,是所有这些令人兴奋的人工智能产品背后的秘密武器,包括 ChatGPT 和 Dall-E 和 Midjourney 等图形生成器。Noam Shazeer现在开玩笑说,如果他知道这篇论文会变得多么有名,他“可能会更担心作者的顺序”。所有八位签名者现在都是微型名人。“有人问我自拍 — — 因为我在纸上!”Llion Jones说,他(当然是随机的)名字排在第五位。

Sakana AI founders Llion Jones, left

“如果没有transformers,我认为我们现在不会在这里,”杰弗里·辛顿(Geoffrey Hinton)说,他不是作者之一,但可能是世界上最杰出的人工智能科学家。他指的是我们所处的翻天覆地的变化时代,因为OpenAI和其他公司构建的系统可以与人类产出相媲美,在某些情况下甚至超过人类产出。

此后,所有八位作者都离开了谷歌。像其他数百万人一样,他们现在正在以某种方式使用由他们在 2017 年创建的系统提供支持的系统。我和transformers八号谈过,拼凑出一个突破的解剖结构,一个人类思想的集合,创造出一台机器,很可能为自己保存最后的决定权。

变形金刚的故事从八个名字中的第四个开始: Jakob Uszkoreit

--

--

Conan Xin
Conan Xin

No responses yet