AI教父杰弗里·辛顿辞职警告人类失控风险，揭示布尔家族百年造神宿命
2023年春天，一位七十五岁的老人跪在枕头上吃完最后一顿在谷歌的午餐——因为背伤，他已经这样跪着进食了十七年——然后递交了辞职信。
他就是杰弗里·辛顿（Geoffrey Hinton）。AI的教父。
他离开谷歌，不是为了退休，而是为了说一句话：我们正在制造某种比我们更聪明的东西，而我们对它没有任何控制。
媒体把他的警告归类为”科学家的忧虑”，然后继续报道下一个AI产品发布。但这个故事里有一条更深的线索，几乎没有人注意到——
辛顿是乔治·布尔的曾曾孙。
## 布尔是谁？
他是十九世纪的英国数学家，一个鞋匠的儿子，他在穿越田野的途中听到了上帝的声音，随后写下了《思维规律研究》，发明了那套把”真与假”压缩进数字电路的二进制逻辑。他相信自己找到了人类心智的底层代码，相信通过数学可以窥见神性的心灵。他死于肺炎，1864年，妄想中看见”整个宇宙像一片黑色海洋”。
一百六十年后，他的曾曾孙用这套逻辑建造了神经网络，训练出了可以写作、推理、生成图像的AI系统，然后宣告：人类可能只是智能进化链上的一个过渡阶段。
这不是科技史的趣味花絮。这是人类造神冲动的遗传。当所有人都在教你怎么更好地使用AI时，有没有人认真问过一个更古老的问题：人类为什么总想造神？
## 吠陀火祭坛与数字祭坛
在印度人揭示的吠陀奥秘的核心，是一个火祭坛：一个由砖块按精确的数学比例铺设而成的祭祀构造，形成一只巨大猛禽的形状——也许是鹰或鹫。
根据罗伯托·卡拉索的说法，这是一切起源的原始神祇——生物之主般阇僧提的礼物。当他的孩子们，众神，抱怨他们无法逃脱死亡时，他给了他们精确的指示，如何建造一个能让他们升天并获得不朽的祭坛。
众神建造了祭坛，逃离了死神本身。然而，死神阻止了人类做同样的事。我们不被允许让肉体成为不朽；我们只能渴望永恒的作品。吠陀人民继续竖立火祭坛数千年：随着时间推移，他们意识到每块砖都是一个思想，思想堆叠在一起创造了一堵墙——心智，注意力的力量——而那个心智，当得到适当发展时，可以像展开翅膀的鸟儿一样飞翔，征服天空。
从远处看，对那些不知道正在制造什么的人来说，这些男男女女肯定看起来像是疯了的砖匠。而同样狂热的愚蠢，似乎也占据了那些在最近几十年里献出心智来建造一个新的数学结构的人。
## 从布尔到香农到辛顿
19世纪中叶，数学家乔治·布尔听到了上帝的声音。当他穿过英国家附近的一片田野时，他经历了一次神秘体验，并开始相信他将揭示人类思维的底层规则。
布尔是一个贫穷鞋匠的儿子，天才儿童，自学了微积分，在唐卡斯特当教师，直到他的一篇论文为他赢得了皇家学会的金奖章，并获得了成为爱尔兰科克皇后学院第一位数学教授的职位。
在他之前，逻辑和数学这两门学科已经分开发展了一千多年。他的新逻辑只有两个值——真和假——用它不仅可以做数学，还可以分析哲学陈述和命题以确定其真实性或虚假性。
布尔的工作在他有生之年无关紧要，在他死后80多年被忽视，直到克劳德·香农发现布尔的两值逻辑是设计电子电路的完美系统。电开关使用二进制值（0表示关闭，1表示打开），它们可以由英国数学家创造的逻辑运算控制。
1943年，沃伦·斯特吉斯·麦卡洛克和沃尔特·皮茨发表了第一个神经元的数学模型。从这个模型中产生了对大脑和思维的新理解：从他们的角度来看，大脑可以被理解为一个计算装置，一台使用神经元执行逻辑的机器。
然而，皮茨——他一生都致力于确信人类思维的神秘运作，陷入抑郁和酗酒，最后因食管静脉曲张出血死在马萨诸塞州剑桥的一个寄宿房里，此前他曾放火烧毁了自己关于三维神经网络模型的工作。
然而，他们的人工神经元在他们之后存活了下来，并在那篇具有里程碑意义的论文发表大约四十年后，激发了一种计算机学习方法，这种方法被乔治·布尔的曾曾孙杰弗里·辛顿在当时主流观念反对下顽强而热情地倡导。
## 辛顿的警告
辛顿被广泛认为是AI的教父。他可能是过去几十年对这个领域影响最大的一个个体。在80年代，他倡导一种基于深度神经网络的方法。
在他之前，主导范式非常不同：大多数研究人员相信，要让机器思考，它们必须模仿人类推理的方式，通过遵循逻辑规则操纵符号。
很长时间，辛顿的神经网络无法”活”起来。简单地说，没有足够的计算能力或训练数据让它们表现出智能。但后来情况急剧改变。
“我们不再是疯狂的边缘分子，”他说。”我们现在是疯狂的核心。”在接下来的几年里，开发出了令人惊叹的系统：AlphaGo击败了围棋世界冠军李世石；AlphaFold预测了几乎每一个已知蛋白质结构的形状；像DALL-E 2这样的程序给了我们从纯噪声中创造出的逼真图像。然后是ChatGPT，一个能做许多辛顿认为还需要几十年才能实现的事情的人工智能，这让他感到了对上帝的恐惧。
2023年春天，辛顿辞去了谷歌副总裁的职位，以警告世界他的”孩子”的危险。
“人类只是智能进化中的一个过渡阶段，这是完全可以想象的。你不能直接进化出数字智能。它需要太多能量和太多精心制作。你需要生物智能进化，以便它可以创造数字智能，但数字智能然后可以以相当缓慢的方式吸收人们曾经写过的一切，这就是ChatGPT正在做的，但然后它可以获得来自世界的直接经验访问并运行得更快。它可能会让我们存在一段时间以保持发电站运转。但在那之后，也许不会。”
## 重新认识AI
面对狂野的猜测，面对没有人，无论多么聪明或见多识广，真正能够管理或理解的危险，并被无限潜力的承诺所挑衅，我们可能不得不不仅用科学、政治和理性来探测未来，而且用我们在黑暗中视物的魔眼：虚构。
因为我们可以在作家过去想象的世界中找到我们尚未遇到的门的钥匙。
赫伯特的书以其过去和现在的奇怪混合提醒我们，有许多方式我们可以继续前进同时保留我们的人性。
AI已经在这里，但我们选择如何使用它和我们同意对其发展施加的限制仍有待决定。无论AI公司投资多少数十亿美元，这些公司承诺消除工作、解决气候变化、治愈癌症，并带来前所未有的奇迹，我们永远不能完全将自己交给这些数学生物，这些没有灵魂或同情的存在。
面对赫伯特的警告，他选择将其作为未来人类关键宗教文本核心的中心诫命，一条旨在防止我们成为我们理性产物的奴隶，防止我们向逻辑之神及其许多可怕的后代鞠躬的规则：
你不可制造一个类似人类思维的机器。
来源：虎嗅 作者：不懂经
