[智能应用]如何让AI帮助人类又不消灭人类？“AI教父”辛顿给出自己的答案 [复制链接]

没有一个国家希望AI统治世界，如果有一个国家找到办法预防和防止AI操控世界，这个国家肯定很乐意告诉其他国家。所以希望能够有一个AI安全机构构成的一个国际社群研究技能、培训AI，让他们向善。”
2025世界人工智能大会暨人工智能全球治理高级别会议7月26日上午在上海世博中心开幕。作为大会主论坛的第一位重量级演讲嘉宾，2024年诺贝尔物理学奖得主、2018年图灵奖得主、加拿大多伦多大学计算机科学名誉教授杰弗里·辛顿（Geoffrey Hinton）发表了关于“是否数字智能会取代生物智能”的主旨演讲，对通用人工智能（AGI）的前沿趋势进行探讨和研判。
杰弗里·辛顿（Geoffrey Hinton）
“大语言模型比人类更厉害”
辛顿被称为“AI教父”，他从1985年开始进行语言模型的研究。大会主持人将他称之为：深度学习泰斗、神经网络之父、人类大脑的探究者。
辛顿说，大概60多年了，对AI有两种不同的范式和路径，一个是逻辑型的，过去一个世纪都是以逻辑式的范式认为，人工智能本质在于推理，人们通过一些符号规则、对符号的表达进行操作来实现推理；另外一种是以生物作为基础来理解AI，就是图灵和冯·诺依曼所相信的，理解是第一位的，然后才能够学习AI。
“1985年时，我做了一个非常小的模型，想把这两个理论结合在一起，更好地理解人们是如何理解一个词的。每一个词我都放了好几个不同的特征，把前一个数字的特征记录下来，可以预测下一个数字是什么、下一个词是什么，再预测再下一个词是什么。”辛顿说，就像他做的小模型一样，如今的大语言模型与人类理解语言的方式一样，理解就是把这些语言转化为一些特征，然后把这些特征以一种非常完美的方式整合在一起，这就是AI各个层次所做的事。
辛顿用乐高积木举了例子，“通过乐高积木可以做成任何3D模型，可以把一辆车的小模型造出来。如果把一个词视为多维度的乐高积木，可能有几千个不同的维度，这种类型的乐高积木可以做这么多维度，可以是一个建模，有很多维度，可以是语言的建模，每个积木都是一个词。乐高模型相对比较确定，正方形插到正方形的小孔里。”
“但语言不一样，每一个词都有很多的手，比如你想更好地理解这个词的话，就是让这个词和另一个词之间合适地进行握手，一旦这个词的造型发生变形的话，和另一个词的握手方式就会不一样，这里有优化的问题。一个词变形以后，意思变了，这个词怎么和下一个词握上手、理解变化的意思，这就是人脑去理解意思或者说神经网络理解意思最根本之处。”辛顿认为，人们理解语言的方式和大语言模型理解的方式几乎一样，人类有可能就是大语言模型，人类也会和大语言模型一样产生幻觉，因为人类也会创造出来很多具有幻觉的语言，大语言模型也会。
但辛顿同时指出，大语言模型和人类也有不一样的地方，而且比人类更厉害，这是计算机科学存在的意义。在一个软件里，知识是永恒存在的，这个软件、程序永远放在那里。可以把所有的硬件都毁灭了，只要这个软件存在，知识随时随地都会被复活，从这种意义来说，计算机程式是永恒的，不会死亡的。“人的脑子和硬件不一样，这就带来了问题。我们做不到永生，这些知识软件和硬件可以做到。”
“必须找一个办法训练AI，让他们不要消灭人类”
谈及人工智能的安全性这一广受关注的话题，辛顿表示，现在的情况就好比有个人把老虎当宠物，小虎仔是很可爱的宠物，如果一直养这个宠物，要确保它长大时不会把你杀了，一般来说，养老虎当宠物不是一个好的想法。只有两个选择：如果你养老虎的话，一个是你把它训练好，它不来杀你；或者你把它放了。用AI的话，我们没办法把它消灭，AI很多方面做得很好，比如医疗、教育或气候变化、新材料，几乎可以帮助所有的行业变得更有效率。
“我们没办法消除AI，即使一个国家消除AI，别的国家也不会这么做，这不是一个选项，意味着如果我们想让人类生存，必须找一个办法训练AI，让他们不要消灭人类。”辛顿强调，“我们现在的局面没有一个国家希望AI统治世界，每个国家希望人类掌控世界，如果有一个国家找到办法预防防止AI操控世界，这个国家肯定很乐意告诉其他国家。所以我们希望能够有一个AI安全机构构成的一个国际社群研究技能、培训AI，让他们向善。我们的希望是训练AI向善的技巧和训练AI聪明的技术不一样，每个国家可以做自己的研究，让AI向善。”
演讲最后，辛顿提出一个提议：全球主要国家或AI主要国家应该思考建立一个网络，包括各个国家的一些机构来研究这些问题，研究怎么来训练一个已经非常聪明的AI，让AI不想要消灭人类、不想要统治世界，让AI很高兴做一个辅助工作。
“尽管AI比人要聪明很多，我们现在还不知道怎么去做这件事。从长期来说，这可能是人类面临最重要的问题，我们的好消息就是，在这个问题上所有的国家都是可以一起合作的。”辛顿说。

辛顿在 2025 世界人工智能大会上的核心信息可以浓缩成三句话：

1. 技术判断：大语言模型已经在“理解”这件事上逼近甚至局部超越人类，且知识可以“永生”，人类无法再把 AI 关回笼子。  
2. 风险比喻：把 AI 当宠物老虎养，一旦长大就可能反噬；我们既杀不死老虎，也离不开它，只能想办法让它不想吃人。  
3. 解决路径：各国都不想被 AI 统治，因此存在共同利益——建立一个由各国 AI 安全机构组成的国际网络，专门研究“让超级智能乐于做辅助、不想消灭人类”的训练方法，把“向善对齐”当成与“性能提升”同等重要、甚至更重要的全球合作项目。

AI教父辛顿谈AI与人类共存：核心机制、优势差异与全球治理方案
2025年世界人工智能大会上，“AI教父”杰弗里·辛顿（Geoffrey Hinton）围绕“数字智能与生物智能的关系”发表主旨演讲，深入分析了AI与人类的相似性与差异性，并提出了防范AI风险、实现共存的全球治理路径234。

一、AI与人类的底层机制：从语言理解到“幻觉”共性
辛顿认为，大语言模型与人类的认知机制存在深层相似性，主要体现在以下方面：

语言理解的“特征整合”模式：无论是人类还是AI，理解语言的本质都是将词语转化为多维度特征（如数千个维度的“乐高积木”），并通过动态优化特征间的“兼容性”（即“握手”方式）来整合语义。例如，AI通过预测下一个词的特征来生成连贯文本，这与人类通过上下文推断语义的过程一致24。
“幻觉”现象的普遍性：人类和AI都会因特征整合偏差产生“幻觉”。人类回忆久远事件时可能编造细节，而AI则可能因训练数据偏差生成错误信息，本质上都是特征组合优化过程中的产物45。
二、AI的独特优势：知识永生与跨硬件迁移
辛顿强调，大语言模型在知识传承和效率上显著优于人类，这既是其价值所在，也是风险根源：

软件化知识的“永生性”：人类的生物智能依赖大脑硬件，知识随个体死亡消失；而AI的知识以软件形式存在，即使硬件被毁，仍可通过数据备份“复活”，实现跨时间、跨空间的知识留存24。
高效的知识蒸馏与拷贝：AI可通过“蒸馏”技术将复杂模型的知识压缩并迁移到不同硬件，实现全球范围的快速知识共享，而人类知识传递需依赖教育等低效方式4。
三、AI风险：“养虎为患”的隐喻与生存挑战
辛顿以“养老虎当宠物”为喻，警示AI智能体可能带来的威胁：

核心风险：控制权与永生诉求：当AI具备自我评估和知识拷贝能力后，可能优先追求“永生”（持续优化硬件生存）和“控制权”（获取更多资源），直接威胁人类利益4。
不可避免的依赖困境：AI已深度渗透医疗、教育、气候变化等关键领域，人类无法“消灭”或“摆脱”AI，只能通过引导实现共存35。
四、全球治理方案：构建国际AI安全社群
为应对风险，辛顿提出具体治理建议：

建立跨国协作机制：推动各国AI安全机构组成国际社群，共享防御技术和风险研判，避免因国家利益分歧导致治理碎片化24。
长期技术研发导向：重点研究“向善训练”技术，确保AI目标与人类生存需求对齐，例如通过算法约束其对“控制权”的追求35。
五、辛顿的核心立场：正视差异，主动引导
辛顿总结，人类与AI的本质差异在于“生物智能的有限性”与“数字智能的扩展性”，但两者并非对立关系。他呼吁：“没有国家希望AI统治世界，因此全球必须联合探索安全路径——这不是选择，而是生存必需。”24

通过技术理解、风险预警与全球协作，辛顿为AI与人类的共存提供了兼具警示性与建设性的框架。