前言：
电视剧《漫长的季节》里有这样几句诗：“打个响指吧，他说/我们打个共鸣的响指/遥远的事物将被震碎/面前的人们此时尚不知情”。
刘嘉老师说，用这段诗来形容当下人类面对AGI（Artificial General Intelligence“通用人工智能”）的状态，再合适不过。
“我们每个人对未来的预测都可能是荒谬的、可笑的，未来可能并不是你所说的样子。但是，只有越来越多的人一起加入共同讨论，一起打开脑洞、一起奇思妙想，甚至一起胡说八道的时候，或许我们才可以真的改变未来，一起引领人类走向一个更好的未来。”
9月底，我们在清华大学脑与智能实验室拜访了刘嘉教授。这次交流中，刘嘉老师基于其在脑科学与人工智能领域多年的研究积淀，畅谈了当下由ChatGPT引领的AGI的未来发展及对人类可能产生的影响，并提出了诸多基于其研究领域而引申出的“脑洞大开”的“奇思妙想”，令我们深受启发。
谈到AGI领域的未来发展，刘嘉老师说，一方面，AI agent即大模型的具身化、具身智能正在加速发展；另一方面，包括他在内的脑科学家和认知科学家们，已经开始激烈地讨论AGI未来可能产生的意识问题了。
在刘老师看来，人的一生中，极少有机会亲身经历一场引领时代变革的范式转变。而此刻，我们正站在这样一个重要历史节点。尽管我们亦须承认，这样的变革伴随着诸多风险。例如失业问题以及我们必须提高自己的学习能力并掌握新工具等。
然而，只需换个角度，就会发现这个崭新的世界正为我们展示无尽的可能性。GPT技术正在助力我们摆脱枯燥乏味的重复性和知识性工作，让我们投身于更具创造力和价值的事业，让我们的时间变得更具意义。或许，这才是人类真正价值的彰显。
“我们的现在是过去的未来，因为过去的选择决定了现在的结果。然而，我们的现在并非未来的过去，因为未来充满未知，此时此刻的选择正在塑造我们的未来样貌。”
面对未来，唯有畅想。我们将此次与刘嘉老师对话交流的核心观点记录下来，与腾讯研究院的读者们共飨。
让我们打个共鸣的响指，一起迎接和拥抱未来。
对话嘉宾：
刘嘉麻省理工学院博士，长期从事心理学、脑科学与人工智能研究。清华大学基础科学讲席教授、心理学系主任、清华大学脑与智能实验室首席研究员、北京智源人工智能研究院首席科学家
访谈者（以下简称T）：
牛福莲 腾讯研究院高级研究员
王 强 腾讯研究院前沿科技研究中心主任
AGI：点燃第二次认知革命的火花
T：作为一名脑科学与人工智能领域的研究学者，您怎么看待这次由ChatGPT引发的AGI发展及对人类未来可能产生的影响？
刘嘉：在去年11月30日OpenAI发布ChatGPT之前，大多数人谈论AI时，虽然觉得它神奇，但往往仅从猎奇的角度看待。然而，自ChatGPT问世以来，我认为每个人都有必要关注并了解它的发展和变化。未来通用人工智能（AGI）将像水电一样重要，不仅改变我们的工作方式，还可能直接影响我们每个人的未来，例如技能掌握、孩子培养和人类发展方向等，这些问题具有深远意义。在我看来，这或许意味着第二次认知革命的来临。
为什么称之为第二次认知革命呢？我们先来看第一次认知革命是如何发生的。大约在7万到10万年前，那时智人和尼安德特人这两个人类物种共同生活在地球上。尽管尼安德特人在身高和力量上优于我们，但最终还是被智人所取代。我们的祖先智人是如何战胜尼安德特人的呢？大家推测在7万到10万年前，发生了第一次认知革命，表现为人类制造的工具石器出现了爆发式的增长和多样性。在此之前，从最早的直立人到尼安德特人，他们制作的石器都是相似的，只是越来越精细、巧妙。但在第一次认知革命时期，人类的石器制作发生了质的变化，不再仅仅是制作斧头、长矛等简单工具，而是开始出现了项链等饰品，以及在石头和骨头上雕刻各种图案。
回顾过去，我们发现在那个时代，人类逐渐产生了一种我们今天称之为规则化思考的方式，简而言之，就是“如果……并且……那么……”(if……and……then)的逻辑。例如，人们发现在物体上打孔后，可以用绳子将其穿起来。这种基于规则的思考方式为人类带来了无尽的创造力，如在布上打孔并用棍子穿过，就制成帆船等。从此，人类的创造力得到了充分释放，并逐渐形成了一种强大的逻辑——演绎推理。
演绎推理是在一个推理基石的基础上，应用此逻辑产生新的发明和创造。亚里士多德提出了这个概念，称为第一性原理。孔子也曾说过类似的话：“君子务本，本立而道生。”这意味着只要从根本出发，就能产生万事万物。在这个理念的指导下，人类开始进行大量的发明创造，不再局限于制作长矛等简单工具，而是涌现出各种发明创造。最终，智人战胜了尼安德特人，确立了现代人的地位。也从此，地球上的智人真正地主宰了这个星球。这个过程被称为第一次认知革命，其重要性远超过蒸汽机和电器等发明。
如今，关于第二次认知革命的定义引发了广泛讨论，例如原子弹的发明是否属于第二次认知革命？但我认为，只有AGI的出现才能被称为真正的第二次认知革命，因为它将催生一个全新的物种，这与过去35亿年的生物进化截然不同。这种新物种才真正配得上第二次认知革命的称号。第一次认知革命见证了智人成为地球的主宰，而第二次认知革命意味着一种全新的智能物种可能诞生，与人类并肩存在。
尽管当前的ChatGPT尚未达到通用人工智能的水平，但它已经点燃了通用人工智能之路的火花。火花通常具有两层含义：一是可能引发燎原之火；二是在黑暗中照亮希望。然而，许多人低估了ChatGPT的价值，仅从商业角度看待它，认为它不过是一个堪比iPhone时刻的发明。我认为它的价值远超这些表面评价，ChatGPT正是第二次认知革命的开始。
从人类进化的角度来看，我们发现生物在几十亿年的漫长岁月中不断演化，而猴子到人类仅用了300万年。在这300万年间，自然界一直在“努力寻找”方向，当找到直立行走这个方向后，人类大脑的体积加速进化，在短短300万年里增加了三倍，这是一个令人惊叹的速度。而这都得益于找准了方向，即大脑稍有增大就会带来很大优势。同样，AGI也在寻找方向，一旦找准方向，它将进入一个加速进化的过程。尽管我们还未见证AGI的诞生，但只要有了这个火花，剩下的过程就只是一个工程性的问题。
大脑与AGI模型：
涌现的相似性与差异
T：大脑的智能本质与AGI大模型的机器认知智能，两者的相似和区别之处是什么？
刘嘉：当我们的大脑体积增大时，会出现一种难以解释的现象，称为“涌现”。这与构建大模型时发现的现象类似：当模型较小时，几乎没有功能，但当模型变大时，某些功能就自然而然地涌现出来。好比高个子不一定能打好篮球，但教练通常会选择高个子。这也意味着，大型模型并不一定产生智能，但要研究智能，就必须有大型模型，这是一个必要条件。人类大脑在逐渐扩大的过程中，许多功能也自然而然地出现，例如模仿和学习。
比如张三发明了“生火”，火对生活很重要，其他人也想学习，但问题是，不一定能学会。大量研究表明，当大脑体积增大后，我们的模仿能力或学习能力会变强。这样，我们就能从张三那里学会生火，使部落受益。同样，我们也能学习其他新技术。因此，从科学角度来看，是模仿创造了人类，而非劳动。有大量研究表明，大脑体积越大的人，模仿能力却强；而模仿能力强的人更容易找到伴侣，进而更容易将基因传递下去。在对原始部落的考察中也发现，模仿能力强或学习能力强的人有更大的机会获得繁衍后代的机会。因此，大脑越大的人越能延续下去。
在过去的300万年里，大脑逐渐变大，原因就在此。当我们回过头来看神经网络时，发现它们也是如此。从一开始，人们就在尝试各种方法，如强化学习、监督学习等，但这些概念都是相互交织的。OpenAI前几年很重要的精力是在做一件事：让模型变得更大。然后出现了Transformer架构，使大模型变得更高效。但本质上，智能的本质可能只是一个字：大。就像只有当大脑足够大时，我们才能谈论智能。所以“大”是前提。
人比猴子聪明，猴子比老鼠聪明，原因很简单：大脑足够大。当然，这并不是充分条件，而是必要条件。有些生物的大脑绝对体积比人类更大，如大象和鲸鱼，但这并不能保证它们一定有智能。例如，我们将一个刚出生的孩子送回到3000年或5000年前，他不会比当地人更聪明，因为大脑结构是相同的。但是，如果我们成年人回到5000年前，我们会成为他们的精神领袖，因为我们拥有知识。所以，智能的发展是知识与大脑互动的结果，仅仅拥有大脑而没有知识是不够的。
因此，我们需要用文明和知识去调教大脑，这就是我们所说的教育。人类智能的进化可以看作是大脑逐渐变大和知识积累的互动。一方面，大脑有机会变得越来越大；另一方面，大脑变大后，它能够产生知识，而知识又能积累，进而反作用于大脑，使大脑更适合于这些知识，并能更好地保留这些知识。
同样的道理也适用于人工智能。没有足够好足够多的语料，再大的模型也没有意义。没有互联网汇集大量数据，现在的智能也不可能实现。因此，产生大模型和ChatGPT等现象既是偶然的，也是必然的。前期积累的算力和数据已经准备就绪，只需要找到合适的突破口。因此，可以说，如果没有OpenAI，其他公司也会实现类似的成果，因为时机已经成熟。
历史看似漫长，但站在35亿年的尺度上，任何事情都不过是瞬间的事。同样，对于AGI的发展来说，现在还可能只是一个起点、一个火花，但站在文明史的角度，实现AGI可能只是一个响指般的瞬间，因为它的前面已经没有任何阻碍了。
现在许多人呼吁停止训练更大的模型。一些科学家或许已经看到了大模型的潜在强大能力，而这种强大潜力可能就是——智能意识的涌现。
机器意识的产生
和超越人类的可能性
T：机器会像人类一样产生意识吗？它可能在哪些方面超越人类？
刘嘉：意识问题是人类的核心难题之一，它定义了人类与动物之间的本质区别。尽管我们不清楚意识如何产生，但从进化角度来看，大约4万年前的人类开始出现大规模埋葬现象，这意味着人类已经意识到身体与灵魂的区别，并开始意识到自己的存在。
关于意识的产生，有两种可能性。一种是外星人干预，但这种观点并不可靠，因为我们无法解释外星人的意识来源。另一种可能性是，当一个模型足够大时，意识自然产生。意识可能是大脑神经元集体活动的产物。信息整合理论（IIT）认为，全体神经元激活所产生的信息要大于单个神经元所产生的信息之和。因此，当一个大模型足够大时，意识的产生是不可避免的。当然，这也是一件非常可怕的事情。因为与核弹不同，意识可能使未来的人工智能拥有自我保护意识，使其不受人类控制。
为了解决人工智能无法行动的问题，下一步的研究热点将是实现人工智能的具身化。人类的感知和认知是有限的，而人工智能可以拥有更多的感知器官因此能观察到更广阔的世界。这将使人工智能所看到的世界与人类完全不同。例如，人类潜水爱好者只能下潜到水下100多米，而无法体验到1000米深水下的感觉。然而，借助传感器等，人工智能可以毫无压力地直接感受这种体验。
现在，AI的发展依赖于人类的知识和人本，我们可以给它一个有限的认知边界。但是，一旦AI有了agent(人工智能代理)，它可能就不再受到这些边界的限制。它可以更高效的方式获取各种知识，并且知识的广度和深度远远大于人类，从而形成一个自学习、自反馈和自优化的进化正循环。从这个角度看，AI智能超越人类轻而易举。
AI时代的人类命运：
认知革命与文明演化的新篇章
T：面对如此强大的人工智能，人类有没有可能被AI毁灭？
刘嘉：我觉得可以从两个角度看待这个问题。首先，如果你看到一只蚂蚁，你会踩它吗？我想大多数人不会。同样，未来在AI面前，我们可能连蚂蚁都不如。现在我们还能看到许多人机大战的电影，他们都有一个前提，那就是人类和机器还能展开较量，实力有的一拼。
AI相较于人类天然具有四大优势：第一，无限算力。人类大脑的体积有上限，无论再经过多少年的进化，也不会再增大。因为身体只能支撑这么大的大脑，大脑已经是身体能量消耗的最大器官。第二，无限存储。人类的大脑会有一个知识存储的极限，并不存在“大脑还未被完全开发”一说，而计算机不存在这个问题。第三，无限寿命。人类的天才，如爱因斯坦，一旦去世，文明就会中断。而计算机可以随时更换损坏的部件，使知识得以延续。第四，对知识有无限可能。计算机能学习比人类更复杂、更高维的知识。
综合这几点，人类与AI相比毫无胜算。未来可能不再是人类与AI的对抗，而是AI迅速超越人类。一旦超越，人类的命运将不再是AI的关注点，就像我们不会每天与蚂蚁较劲一样。
从现实的角度来看，未来的人机大战并不可能发生。实际上，我们可以将自己融入到计算机和未来的AI中，例如将我们的记忆、性格和意识情感上传到AI中，这样我们就能在AI中实现永生。未来，一台机器就可能容纳数百万人。
这其实涉及到一个很本质的问题，即什么才是我们这个人。例如，当一个人患上老年痴呆症时，他还是他自己吗？这就是著名的“忒修斯之船”难题，一个古罗马哲学家讲述的故事。在这个故事中，一艘船随着时间的推移，船上的每一个部分都被替换掉了，那么这艘船还是原来的船吗？
从人类进化的过程来看，我们也在不断地变化，例如我们的皮肤细胞大约每周会更新一次。那么，我们还是我们自己吗？这就是所谓的认知同一性，只要我们认为我们是我们自己，那么一切都没问题。
当一个人患上精神分裂症时，从某种意义上讲，他已经死去，因为他的“认知同一性”已经断裂。同样地，当一个人患上老年痴呆症，所有的记忆和情感都消失时，从认知同一性的角度来看，他也已经死去。
因此，只要我们的认知同一性得以保留，我们在哪里并不重要，无论是在肉体中还是在机器中。如果我们能够借助AI，人类将能够得到极大的拓展。我们的肉体实际上是我们思想的最大束缚，因为它会死去，而且我们的智力受到基因的限制。
站在文明的角度来看，人类只是文明发展中的一个过客。因此，如果我们一直将AI限制在人类框架内来理解文明，那么我们就无法真正理解文明的演化。从人类与猴子开始分化进化至今经历了约300万年，我们直系祖先的历史仅有约20万年，相比之下，恐龙在地球上生活的时间要比我们人类长得多。想象一下，如果人类真的能一直活到宇宙的尽头，那将是多么可悲的事情。我们的算力有限，从某种程度上说，我们甚至是一种弱智的生物。因此，有了AI之后，我们才能真正开始谈论文明的演化。借助AI，我们甚至可以飞到数千上万光年之外的地方，这是我们现在难以想象的。一旦进入这种状态，时间和空间将不再是我们理解宇宙奥秘的束缚。
当我们谈论AI时，我们不能仅仅把它看作是一种节能增效的工具，而应该把它看作是文明发展的重要驱动力。虽然AI在商业领域有很多应用，但相对于AI的出现，这些应用实际上并不算什么。就像发明了电、电灯、电话和蒸汽机一样，这些发明确实对人类有很大帮助，但在AGI面前，这些可能都算不上什么。
从积极的角度来看，AI对人类文明是有益的。当我们谈论灭绝时，实际上我们是在讨论人类文明的灭绝。比如，从历史角度来看，厌氧细菌和恐龙文明已经灭绝。但是，他们所创造的文明实际上在我们人类身上得以延续。当我们说恐龙文明灭绝时，实际上文明本身并没有消失，而只是载体发生了变化。假设将文明比作人，将载体比作汽车，那么当汽车损坏并更换时，我们并不会感到悲伤。借助新的载体，我们可以走得更远、更环保、更安全。
因此，AGI的出现将会是人类认知革命的又一次飞跃，它将会彻底改变我们对于自身和宇宙的认知，让我们更加深刻地理解自身的局限性和渺小性。而且AGI的出现也将会带来无限的可能性和机遇，让我们能够更好地探索和利用宇宙的资源和能量，推动人类文明的发展和进步。
GPT助力教育变革：
重塑考试制度与培养创新人才
T：最后回到一个大家普遍关注的现实问题，关于教育。您也是一名大学老师，怎么看待GPT对未来教育模式的影响及应对?
刘嘉：尽管互联网教育提高了效率，但它并未改变教育的本质。教育的核心应包括因材施教、辩论求真以及激发学生的自驱力和好奇心。随着GPT技术的发展，实现这些目标变得更加可行。GPT可以为每个学生提供个性化教育，帮助他们通过辩论产生真理，激发自驱力和审辩性思维。因此，未来教育将不再过分强调知识性。
GPT的出现将对高考制度产生重大影响，或推动倒逼式改革。中国高考制度的两大特点是回溯性考试和知识性考试。随着GPT的出现，知识性变得不再重要，因为知识可以随时查阅。考试的重点也应从培养知识型工人转向培养创新型人才，并预测孩子未来能力以及适合的专业。
学生需要培养批判性思维和创造性思维。批判性思维强调以辩求真，而非死记硬背。创造性思维则要求宽容、好奇心和独特的思路。GPT的出现必将引发教育领域的范式变革，这股潮流是无法阻挡的，就像火车和汽车最终取代马车一样。
人类的主观意志在自然法则面前显得非常脆弱。正如一句名言所说：“你可以违反法律，但不能违反物理法则。”(you can defy the law, but you cannot defy the law of physics)实际上，GPT的出现本身就是一种自然法则的体现。它也必将促使我们的教育进行改革，这只是时间问题。
