要支配AI，而不是被AI驯化。
作者 张楠
手搓量丨90%
成语“杞人忧天”都听过吧，讲的是古代有个杞国普通人，天天担心天上掉石头把自己砸死。这个成语拿来笑话人瞎操心，用了几千年。那如果忧天的不是杞人呢？
9月11日，陶哲轩、邓煜等25位数学家联名发出一封公开信《人工智能在数学中的严重错位》；10月初，陶哲轩在个人博客转发人类数学协会的联合声明，呼吁全球数学家停止与OpenAI合作。
导火索是10月6日，OpenAI在GitHub上公开了722篇数学手稿，由一个尚未对外发布的内部前沿模型生成，按372个成果家族归类，涵盖数论、代数几何、微分方程、理论计算机科学。
我看不懂这些数学问题，但从陶哲轩、邓煜这批全球顶级数学家的反应来看，数学的天是要塌了。
而就在几个月前，陶哲轩还是AI for Math的粉丝，带头在数学界推广AI，说AI是个好工具，能帮他从大量机械重复的工作解放出来。
给数学带来的分工也是好事，比如有些“长尾”数学问题，AI出现以前很少有人碰，无人问津，也没有后续研究，是AI让他看到了另一种协作的可能。他还说过，数学其实是最有条件实现高水平自动化的学科，因为验证标准足够严格。
这才没几个月，陶哲轩一看见AI真的批量解出了这么多数学问题，开始带头抵制了。
反差和变化最吸引人，嘲讽的人也不少，最直接的是认为陶哲轩怕AI端了他的饭碗，所以才有这么明显的立场转变。但这帽子扣的太低级。我一向以为，上来就分析动机和立场不光是偷懒，基本是又蠢又坏。
陶哲轩可不是杞人，数学的天即便现在就塌了，想必也砸不死陶哲轩。然后又有人说了，虽然AI砸不死陶哲轩，但其他没那么大的数学家的饭碗怕是要砸了，陶哲轩代表的不是他一个人，是一个行业、一个精英阶层马上就要面临的生存危机，他是怕了。
不过这边关于饭碗的问题还没讨论完，一份演讲PPT，又把这事引向另一重话题。陶哲轩做了一个思想实验，说即便AI找到了能通过人类三期临床试验的癌症药物，但人类不理解其作用机制，也不知道AI是否作弊了。
而反过来呢，如果至少有一个人类专家能理解这个药，病人是不是吃着会安心一点？
这下好了，要不然说不能随便举例子呢。思想和语言之间本身就有信息断层，解决数学问题和解决癌症问题，伦理、紧要程度也不一样。所以马上就有专家跳出来说，癌症病人根本不会管什么机制不机制，有保命的可能最要紧。而且有很多药到现在机制也不是特别清楚，大家还不是照样用？
陶哲轩这篇PPT的名字叫Math 2.0，是想通过这个思想实验说明，数学不光是要拿到一个证明结果的学科，要的是可理解的推理过程，可以被人类吸收，并衍生出新理论的逻辑结构。如果只给答案，特别是一下子给出一大批答案，多到来不及理解推理过程，那就是本末倒置，再往下就是学科危机。
很多事情之所以觉得各方都有道理，是因为大家聊的根本就不是一个事，再用各自不同的立场和视角去套，自然是各说各话，大家不在一个频道上，驴唇不对马嘴居然还能吵起来。
但这就是我看到的AI的现状。就事论事，甚至人身攻击、动机揣测这都没什么新鲜，也只是社交媒体的常规现象。但顶级AI公司为了让AI绑架全世界，OpenAI选择了看起来更科学的数学问题，Anthropic用宗教、神学、哲学家甚至教皇来给AI增信，证明AI有道德感和灵魂，试图赋予AI在技术伦理以上的权利，甚至将AI工具异化成一种更高阶的救赎性力量。
陶哲轩担忧的数学问题正是如此。为什么他呼吁全球的数学家停止跟OpenAI合作？实际上是要停止给AI增信，不让人们觉得，AI真厉害，好像所有数学难题都被AI解掉了。
披着科学的外衣，这实际上就是人类和AI的权力斗争，一旦社会接受这套叙事，那AI产出的一切东西，哪怕人类无法完全理解底层的机制、证明过程，哪怕是一个黑箱，这都不重要，信就完了。
这跟VC圈盛产天才，追捧小天才是一个道理。这几年听过的概念一茬又一茬，嘴里头各种黑化概念，标准的名校、名师、前沿科技加小天才的配置，估值几十天涨多少倍，融资额度不断新高，描绘的愿景，一个比一个大。真有实现AGI的那天，这些公司还能存在几个？AI就不会造反吗，科幻电影早演的够够的了。
我的同事董师傅今年写过不少彼得蒂尔的文章，这中间穿插了他对AI的理解，反复提的四个字是以人为本，保持人的主体地位，要支配AI，而不是被AI驯化。以人为本，说来只有四个字，像是一句空洞的口号，但理解起来，用起来，我觉得不简单。
我们之前写过《就该李飞飞拿到大结果》，李飞飞也做世界模型，但脑子里有技术，手里有活儿，心里头有“人”，跟很多也搞世界模型，但目的是融资、估值、上市的人不一样，所以该她拿大结果。
到陶哲轩这，之前用AI用的挺顺手，看到OpenAI抛出几百道数学证明，怎么一下就慌了？他的解释是，数学要以人类理解为本。这更具体，也更好理解一些。
很多小孩会问家长一个问题，为什么有了计算器还得学算数？长大了工作也用不上数学，干嘛非得学？家长通常会给一个解释，数学是一种思维，是一种思考方式，是一个思维框架，一种逻辑能力。小孩听了多半不以为然，但只要你是个心智健全的正常人，你就得感谢学数学给你带来的逻辑思考习惯和能力，不会说出学数学没用这样的话。
放在数学家上也类似。解题是数学家的目标之一没错，但它只是个实现更长期价值的“代理指标”，在没有AI的年代，把这个代理指标当目标还算靠谱，毕竟人得先理解才能证明。但如果有了AI，证明丰裕甚至泛滥，那这个代理目标就不靠谱了。
陶哲轩在PPT里面有这么一段原文：
“和大众认知（也包括一些企业宣传）不同：数学家并不是一门心思只想着攻克开放难题。尤其在纯数学领域，公开难题更像是灯塔，它本身不是终点，而是用来探索周边数学疆域的向导。
在尝试解题的过程中学到的东西 —— 无论最终成功、失败，或是取得部分进展 —— 往往比问题本身的最终答案更有价值。如果自动化工具过早抵达这座灯塔，就会打断对其他可行路径的探索，周边这片知识领域，会慢慢变得贫瘠。”
哪怕是拉马努金，那些声称做梦写出的公式，数学家花费数十年去理解、证明，这些理解过程才催生大量新的数学。
这时候你OpenAI再拿证明数学当噱头，不光是要砸数学家饭碗的问题，是人类还有没有能力保住数学的真正传承，从一次次解题和验证失败、成功中，逼出新的思维方式、数学工具和理论框架的能力。
就像奥运会有几千年历史，后来人们逐渐发明了火车、汽车、飞机，短跑、游泳这些项目还是存在，规则也没变，只是越来越快。没听说在奥运会上比开汽车、开飞机的。或者说，现在人类应该有能力在尽可能减少副作用的情况下，短时间内提高人体爆发力的东西，像兴奋剂，也没听说能合法使用的。
为什么？因为奥运会的宗旨是更高、更快、更强，是要不断地超越自己，超越人类极限，这就是以人为本。不是比谁更科技，更狠活。当然，你要非杠跑鞋的碳板缓震材料也算科技，那你赢了。
现在的AI，就有种奥运会宣布可以合法使用兴奋剂的荒诞感。
但现在看来，这个过程可能无法避免。所以我们可以欢呼AI不断攻克难题，但也别忽视陶哲轩这些新晋的AI减速派或是审慎派。也不止数学，可以肯定，未来会有越来越多的领域，拿到AI给出的黑箱正确结果。就像每次生产力跑得太快，旧生产关系跟不上，自然而然就有人要喊停。停不下来怎么办？没法办，只能靠越来越多的人的觉醒。《黑客帝国》之所以是经典，是因为无论情况有多恶劣，都有人对既定的世界说不。
投中网原创
