2023年春天，一位七十五岁的老人跪在枕头上吃完最后一顿在谷歌的午餐——因为背伤，他已经这样跪着进食了十七年——然后递交了辞职信。
他就是杰弗里·辛顿（Geoffrey Hinton）。AI的教父。
他离开谷歌，不是为了退休，而是为了说一句话：我们正在制造某种比我们更聪明的东西，而我们对它没有任何控制。
媒体把他的警告归类为科学家的忧虑，然后继续报道下一个AI产品发布。但这个故事里有一条更深的线索，几乎没有人注意到——
辛顿是乔治·布尔的曾曾孙。
布尔是谁？他是十九世纪的英国数学家，一个鞋匠的儿子，他在穿越田野的途中听到了上帝的声音，随后写下了《思维规律研究》，发明了那套把真与假压缩进数字电路的二进制逻辑。他相信自己找到了人类心智的底层代码，相信通过数学可以窥见神性的心灵。他死于肺炎，1864年，妄想中看见整个宇宙像一片黑色海洋。
一百六十年后，他的曾曾孙用这套逻辑建造了神经网络，训练出了可以写作、推理、生成图像的AI系统，然后宣告：人类可能只是智能进化链上的一个过渡阶段。
这不是科技史的趣味花絮。这是人类造神冲动的遗传。当所有人都在教你怎么更好地使用AI时，有没有人认真问过一个更古老的问题：人类为什么总想造神？
辛顿是乔治·布尔的曾曾孙。布尔是十九世纪的英国数学家，发明了布尔代数——把真与假压缩进数字电路的二进制逻辑。他相信自己找到了人类心智的底层代码。一百六十年后，他的曾曾孙用这套逻辑建造了神经网络，训练出了可以写作、推理、生成图像的AI系统，然后宣告：人类可能只是智能进化链上的一个过渡阶段。
从布尔到香农到麦卡洛克和皮茨到辛顿，这条血脉里究竟遗传了什么？
皮茨，那个和麦卡洛克一起发明了人工神经元的天才博学者，最终陷入酗酒，经历震颤谵妄和癫痫发作，在临死前烧掉了自己关于三维神经网络的全部研究手稿。他一生相信人类所有的思维，所有的爱与痛苦，都不过是大脑里神经元发射电脉冲的纯粹机制。他把自己的灵魂变成了方程。然后活不下去了。
这是一个警告，还是一个预言？
2023年春天，辛顿辞去了谷歌副总裁的职位，以警告世界他的孩子的危险：
人类只是智能进化中的一个过渡阶段，这是完全可以想象的。你不能直接进化出数字智能。它需要太多能量和太多精心制作。你需要生物智能进化，以便它可以创造数字智能，但数字智能然后可以以相当缓慢的方式吸收人们曾经写过的一切，这就是ChatGPT正在做的，但然后它可以获得来自世界的直接经验访问并运行得更快。它可能会让我们存在一段时间以保持发电站运转。但在那之后，也许不会。
辛顿已经变了。他从一种新理性形式的传教士变声成为一个末日先知。他说，改变他想法的是意识到我们实际上并没有复制我们的智能，而是创造了一个更高级的智能。
辛顿坚持认为思考机器的危险是真实的。这不仅包括短期影响，如工作替代、虚假信息或自主致命武器，还有一些人认为是幻想的存在风险：我们在世界上的地位可能被人工智能取代。他恐惧的部分原因是他相信人工智能实际上可以达成一种不朽。
好消息是，他说，我们找到了如何建造永恒的东西。当一个硬件死亡时，它们不会死亡。如果你把权重存储在某种介质中，并且你可以找到另一个能运行相同指令的硬件，那么你就可以让它重新活过来。所以，我们有了不朽。但这不是为我们准备的。
面对狂野的猜测，面对没有人，无论多么聪明或见多识广，真正能够管理或理解的危险，并被无限潜力的承诺所挑衅，我们可能不得不不仅用科学、政治和理性来探测未来，而且用我们在黑暗中视物的魔眼：虚构。
赫伯特在《沙丘》中写下圣战的教训，将其铸造成一句戒律：
你不可制造一个类似人类思维的机器。
这不是卢德主义。这是一种更古老的智慧，关于我们与自己造物之间的权力结构。
我们已经越过那条线了。问题是：接下来呢？
来源：虎嗅
