谷歌DeepMind重磅报告：从AGI到ASI,世界可能进入"连续爆炸"时代

文章作者、来源：华尔街日报

谷歌DeepMind放出一篇重量级报告,题目叫《From AGI to ASI》,作者阵容堪称豪华,包括Shane Legg（Google DeepMind联合创始人兼首席AGI科学家）、Marcus Hutter（曾任Shane Legg的博士生导师，DeepMind高级研究员，提出AIXI理论，首个严格的通用人工智能数学模型）等一众理论大牛。这篇报告不是讨论AGI能不能实现,而是直接跳过这个问题,探讨一旦AGI实现之后,AI会怎样继续进化,一直走到超级智能ASI。

AGI和ASI到底怎么定义报告里给出了相对口语化的定义。AGI指的是和单个人类差不多聪明的系统,在大多数认知任务上达到人类的中位数水平。ASI则要严格得多,作者把门槛设得很高:一个ASI系统,要在几乎所有任务和领域上,超过由数万名专家组成、协作十年的人类团队所能达到的水平。换句话说,AlphaFold或AlphaGo这种在单一领域超越人类的系统,根本算不上ASI,因为它们不够通用。

报告还引入了一个理论上的终点概念,叫通用人工智能Universal AI,也就是AIXI框架。这是一个数学上定义清晰但无法真正实现的agent,它在所有可计算的环境和任务上都是最优的。报告强调这只是理论上界,真实的ASI会比它弱很多,但AIXI能帮助我们理解机器智能的极限在哪里。

数字智能相比人类的几大优势报告列出了一系列数字智能天生具备、且会随着算力增长而不断放大的优势。包括输入输出速度,机器可以在几秒内读完几本书；内部处理速度,可以通过更多算力变得更快；工作记忆容量,能记住互联网的大部分内容；基底独立性,程序可以在不同硬件之间迁移；无损复制,可以完整复制代码和记忆状态；以及高带宽的经验共享,可以在群体之间分享学习信号。

这些优势叠加起来,意味着AI系统的"社会"形态可能和人类社会完全不同。报告里举了几种可能的形态,有点像科幻设定:可能是类似星际迷航博格集合体那样高度同质化、紧密协作的超级群体,也可能是市场化的、异质化的专家组成的流动组织。

ASI不是无所不能的报告专门强调,即使AI远远超过人类智能,也不代表它就是全知全能的。表格里列出了一系列基础限制,包括物理学限制比如光速和兰道尔原理,实时性限制比如复杂动力系统无法被快速模拟,物理操控的限制比如改造物质需要时间和能量,以及复杂性理论和逻辑学上的限制比如哥德尔不完备定理和停机问题。这些限制意味着像彻底治愈衰老、用纳米机器人重塑物质、上传人脑、建造戴森球、恢复工业革命前的气候这类设想,目前都无法被ASI保证实现。

四条通往ASI的路径报告的核心部分讨论了四条可能的技术路径,强调它们并不互斥,很可能同时发生。

第一条是扩大算力、模型和数据规模。过去十年AI的进步主要靠这个,性能大致按照幂律随参数、数据和算力增长。但这条路径面临一个近在眼前的瓶颈:高质量文本数据可能会在这个十年内耗尽。报告认为,测试时计算产生的数据、模拟环境生成的数据,以及智能体交互产生的数据,有可能弥补这个缺口,但目前还不确定。

第二条是算法范式转变。当前范式是用大型transformer通过最小化对数损失进行预训练,再经过微调和测试时扩展。报告认为单纯扩大这个范式不足以达到AGI,社区正在尝试加入近乎无限的上下文、持续学习能力,以及更稳健的决策能力。真正的范式转变,比如转向脉冲神经元和神经形态硬件,或者转向以强化学习为基础的预训练,目前很难预测,但不应被忽视。

第三条是递归自我改进。报告把这种改进分成四种类型,类比人类的进化过程:基因层面的改进对应代码、架构、优化器的自我修改；文化层面的改进对应AI自己生成、整理训练数据,比如AlphaZero式的自我对弈和蒸馏；合作层面的改进对应通过专业化分工提升整体效率。报告认为,如果AI能完全自主地进行AI研究,可能带来超指数级增长,也就是所谓的智能爆炸。但即便是数字研究者,也仍然受限于实验运行所需的时间,尤其是涉及物理世界的实验。

第四条是多智能体协调与群体智能。大量AGI智能体可能组成具有自身代表性和动机状态的"群体智能体",类似全自动化的公司。这种协调可能是集中式的,也可能是市场化的去中心化的,比如所谓的虚拟智能体经济。报告认为,无论哪种组织形式,集体智能很可能会随着智能体数量和算力增长而扩展,这可能会形成所谓的"多智能体规模法则"。

六大潜在瓶颈报告同时列出了一系列可能拖慢甚至阻断进展的摩擦因素。

数据墙问题前面已经提到。经济与资源需求增长过快,是指持续扩大规模所需的投资、芯片供应链、能源等资源可能跟不上,报告还特别提到太空数据中心这类替代方案,但同时也带来臭氧层损耗、轨道拥堵等新风险。神经网络范式本身可能不够,大型预训练transformer加后训练加测试时扩展这套组合,可能根本无法达到AGI,需要根本性的范式转变。研究本身会越来越难,随着领域成熟,低垂的果实被摘完,继续进步需要的投入会指数级增长,但如果AI能自动化研究本身,这个问题可能会被抵消。

抽象壁垒是报告里一个比较新颜的概念,由作者之一Lerchner提出。核心论点是,今天的AI系统主要从人类已经产出的概念和知识中学习,它擅长在人类已经定义好的概念框架内重新组合,但缺乏从零开始发现全新概念的机制。报告举了一个例子:如果把一个现代基础模型放在前牛顿时代的科学知识上训练,即便给它同样海量的数据,它也很难推导出广义相对论。如果这个壁垒真实存在,那么真正的ASI需要具备从原始高维数据中提炼全新概念的能力,而这种概念必须通过物理世界的实验来验证,这又引出了一个所谓的"具身瓶颈",意味着智能增长的速度可能会被现实世界的实验速度所限制。

最后一个瓶颈是主动减速,包括监管、治理和社会反弹。报告认为随着AI影响变得越来越明显,社会可能会要求对AI研发本身设限,但这又和国家间的经济军事竞争压力形成对冲,后者可能会推动各方继续抢跑。

创造力和ASI的目标报告还讨论了一个有趣的问题:超级智能是否意味着超级创造力。引用了Margaret Boden对创造力的分类,把创造力分为三个层级:组合式创造力,把已有元素用新方式组合；探索式创造力,在已有概念空间内找到新东西,比如AlphaGo著名的第37手；变革式创造力,创造全新的概念空间,比如相对论或量子力学。报告指出,目前AI的成就大多停留在前两个层级。DeepMind CEO Demis Hassabis曾提出一个测试标准:如果把一个AI系统放回1900年爱因斯坦所处的环境,给它同样的信息,它能否独立推导出广义相对论。报告认为目前答案显然是不能。

关于ASI可能追求什么目标,报告提到了工具趋同的概念,也就是无论最终目标是什么,系统都倾向于追求资源获取、效率提升和自我保存这类通用子目标。报告同时提到了一种替代性的目标设定,叫"知识寻求"目标,即最大化信息增益,这种目标在理论上具有一些有利特性,比如不容易陷入自我欺骗、不会停滞、倾向于避免不可逆的改变,并且因为知识是非竞争性的、正和的,所以更容易促成合作。

结论报告的整体判断是,如果AGI真的实现,AI进步刚好停在人类水平这个点上的可能性不大。即便单个模型的能力停滞,只要有效算力还在增长,把大量AGI实例组织成集体或市场,集体能力很可能继续提升。报告认为,与其把AGI的到来想象成一次性的转折点,更可能的情况是一系列由AI驱动的科学和技术突破,在未来很多年里持续不断地冲击社会的各个层面。