

文|王欣逸
编辑|张雨忻
最近,一支有全栈模型训练经验、训出国内最早千亿参数大语言模型之一的团队,一头扎进了RSI当中。
《智能涌现》获悉,由前上海AI Lab大模型负责人陈恺创办的公司超进化智能近期已完成数亿元天使轮融资,蓝驰创投领投,商汤国香资本、联想之星、英诺基金、水木校友基金等机构联合投资,澜松资本担任长期财务顾问。
超进化智能创立于今年8月,是一家做自进化研究基础模型的公司。创始人陈恺本科毕业于清华大学自动化系,博士毕业于香港中文大学多媒体实验室(MMLab),师从汤晓鸥教授和林达华教授。2019年加入商汤担任研发总监,2021年起他以兼职身份参与上海AI Lab的筹建,2022年正式加入,并担任AI Lab大模型中心负责人、青年领军科学家,主导推出从千亿到万亿参数的书生系列模型、科学多模态大模型、国内大模型评测体系司南(OpenCompass)等成果。
值得一提的是,MMLab由汤晓鸥教授创立,他也是商汤科技的创始人。MMLab曾走出了商汤的几位联合创始人王晓刚、徐冰、林达华,还走出了后来做出ResNet的何恺明。
陈恺认为,自进化可以分成五个由浅入深的层级:研究产物的迭代更新、运行时经验资产的更新、Harness与Agent代码的自主迭代、模型层自进化,以及进化机制本身也由AI自主迭代的元进化。他们想做的是模型层的自进化,让模型具备很强的元研究能力,即能够学会不同层次研究的共性方法,学会怎么做研究,并把这一能力迁移到没有见过的领域中。
现阶段,超进化智能把重心放在了打通自进化完整闭环、构建训练环境和数据以及建立RSI相关的Benchmark。技术路线上,他们计划率先从后训练切入,先训出数百B的模型,并逐步过渡到中训练,待资源条件成熟后再启动预训练。
拥有多年大规模基础模型训练经验,是超进化智能区别于其他很多公司的一大特点。
2024年底,当大厂在通用大模型上掀起算力军备竞赛时,当时还在AI Lab担任大模型中心负责人的陈恺意识到,在通用模型能力上,实验室难以和大厂硬拼,于是,他们做出了向科学基座模型的转向。在陈恺看来,Science是模型智能的检验标准,也是下一批关键应用场景,他下了一个更大的赌注:Research会是下一个Coding。此后近两年,陈恺所在的团队把绝大多数资源都投入其中,今年3月,团队推出了全球首个万亿参数科学基座模型Intern-S1-Pro。
回顾基模训练中得到的教训,陈恺告诉我们,“小模型上能跑通的创新、改进,每Scale up(放大)一个模型的规模数量级,就有约九成此前有效的内容失效”,因此,要让自进化能力在大规模模型可用,它就必须经过逐级放大验证。他们的壁垒正是在于此前的经验积累,知道什么样的能力经得起逐级放大、在本质上是行得通的。
尽管各个创业公司都把自己冠以RSI之名,但背后的含义、大家实际在做的事情很不一样。国内的RSI创业团队大多来自高校,技术路线和探索方向更为多元,比如探索模型架构的创新、做持续学习等等。现阶段,RSI还远没有收敛。
陈恺告诉我们,硅谷的RSI创业公司大都是从基模厂商走出,因此,他们的思路和硅谷更为接近——以Research作为主要方向,提升模型的研究闭环能力。
我们和陈恺聊了聊从做科学大模型到研究基础模型,他经历了什么,以及赛道中存在的竞争、何时技术收敛与真正的壁垒。以下是《智能涌现》和陈恺的对话实录,略经摘编:

让模型成为超越人的天才Researcher
智能涌现:你们是从什么时候开始想做RSI的?
陈恺:我们在2025年初的时候就在做两个方向的探索,一个是科学基座模型,一个是AI4AI,也就是如何让AI帮助到自身的迭代,当时还没有RSI这个词。近两年,随着我们自己的探索进展和社区很多技术的前置条件在逐渐成熟,我们坚定地相信自进化研究基础模型会是大趋势,所以选择All in出来创业。
智能涌现:为什么去年在AI Lab的时候想到做一个科学的大模型?当时应该还不是共识吧。
陈恺:科学方向在当时确实不是共识,到今年对AI for Science的关注才开始爆发。
做Science方向主要有两个原因,一方面是战略聚焦,希望用有限的资源做出更好的成果。
另一方面是对科学这个方向的看重。科学的覆盖面非常广,我们希望通过科学能力的提升来反映模型智能水平的提升。我们当时bet的一个点就是:Research是下一个Coding。
智能涌现:你们如何看待RSI,又是在做什么方向的RSI?
陈恺:RSI从浅到深有几个不同的层次:L0是研究产物的迭代更新、L1是运行时经验资产的更新、L2是Harness与Agent代码的更新、L3是模型层的更新、L4是元改进,即让AI改进“产生未来改进的机制本身”。从L3层开始,才真正意义上能够让模型的智能水平持续不断增长。
我们的定位是要做自进化的研究基础模型,本质是让模型具备非常强的元研究能力,学会不同领域不同层次的研究的共性方法,成为一个非常强的、甚至未来能够超越人的天才researcher。RSI将是我们的重要技术手段和路径。
智能涌现:公司目前处于什么样的阶段?
陈恺:还处于非常早期的阶段。公司是8月底正式成立和运营的。
我们当前的重点是先把一套完整的自进化闭环完整打通,以及做相应的各种环境和数据的准备。另外,现在市面上也缺少对模型研究和自我改进能力的评测,我们也在构建和完善评测体系。

成熟的基模训练经验,是模型新范式的稀缺条件
智能涌现:你之前提出了一个判断,今天做RSI最稀缺的两个条件,一个是万卡集群的系统Infra能力,另一个是万亿参数基模的全链路训练能力。为什么说他们是最稀缺的两个条件?
陈恺:这两个本质上是一个问题,归根结底,RSI是一个训模型的问题。过去两三年我们也能看到,现在学术界、高校跟工业界在逐渐脱节。要真正训好模型、真正让基模往前推进,所需要的东西越来越来自于企业。
而RSI本质上是要训好一个research元能力很强的模型,这个模型不可能是一个很小的模型。假设一个7B的模型就能替代人类研究员去思考、比人类研究员干得好,这其实是对研究员的侮辱。要做好RSI,不管有什么精妙的算法、非常好的idea,最终都会回归到训模型这个事情上。
所以成熟的基模训练经验,我觉得是RSI的一个必备条件。我们团队过去积累的,不管是Infra上的能力,还是真实的万卡、万参的模型训练经验,我觉得能够帮助我们把RSI这件事情做得更好、做得更快。
智能涌现:你们率先训出模型规模会是多大,会到万亿参数吗?
陈恺:不会一开始就上万亿参数,这也是一个Trade off(权衡)。如果不考虑资源,那当然是越大越好。但对我们早期而言,肯定会先从数百B的模型、基于开源模型做后训练去启动。
智能涌现:训练一个这样子的模型,它的难点和卡点在什么地方?
陈恺:一个难点是,你有没有足够的高质量的研究过程的轨迹数据。
因为核心是模型需要学会人类研究员的研究能力、人类研究员的思维过程,因此就需要相应的数据。它得见过这些数据之后,才能够真正学会research的模式,或者说一些思路——在什么情形、什么场景下应该怎么思考,怎么样去进行研究。
另外一个难点是,这些数据往往需要跟专业的任务环境、验证的过程和验证的方式绑定,这个事情的Scaling(规模化)也是难点。
很多时候,一个专业研究任务的验证需要几天,甚至有些验证工作要几个月,那就很难把人类研究的经验传授给模型,或者说让模型在反馈里自己学习、自己学会。因此我们需要把验证的成本、把模型获得反馈的成本或者周期压缩下来。
智能涌现:数据和验证,哪块对你们来说难度更大一些?
陈恺:我觉得这两个很难说有比较级,它们本身是相辅相成的。
如果我们有高效的验证手段,就能够获得快速生产数据的方法,数据也能够进一步scaling;反过来,如果已经有很好的储备数据,我们能够生产出一个研究能力更强的模型,它就能够更高效地帮助我们的验证,或者说验证器的构造。
智能涌现:你们第一步的动作是要做一个完全通用的模型,还是会有一些聚焦?比如先做某一个方向?
陈恺:第一步肯定还是会从通用能力出发。我们希望这个模型的research元能力要强,接触各种各样不同场景的研究任务,这样才能够让它学到更好、更泛化的研究能力。但从实际的应用、实际的价值验证来看,后续肯定还是会有一些聚焦。
智能涌现:你们预计会在什么时候交出一个可以验证的结果?
陈恺:在明年年中之前,会有真正的这种新范式的模型出来。在这之前,我们也会有各个不同阶段性的成果会陆陆续续对外发布。

自进化研究基础模型,有一至一年半的窗口期
智能涌现:目前行业里有不少公司押注RSI这个方向,你认为哪家公司更接近纯粹的RSI?
陈恺:RSI目前还没有收敛,意味着大家可以有各种各样的探索方式,只不过每个人有自己的技术积累、自己对这个问题的一些认知。
至少我自己认为,让模型真正具备很强的可泛化研究能力,对RSI来讲是非常关键的。
智能涌现:你和这些团队最大的区别在什么地方?
陈恺:有没有做过大的基模。
智能涌现:这会是一个非常决定性的优势吗?
陈恺:在RSI创业公司里,真正有过大规模基模训练经验的很少。这本身是我们团队的特点与先天的优势,我们真正碰过大规模系统、真正全流程训过大规模模型,而不只是在一个“玩具模型”上做一些科研验证。
另外,我们已经做了近两年科学基座模型,因此,我们在专业任务环境的构建、研究过程的轨迹数据上,有很好的先发优势。不管是创业公司还是大厂,这种数据集都非常难积累。过去我们也踩了很多坑,如怎么在不同领域里把数据管线构建好、怎么让模型实现更高效地产出等等,这些都需要很多踩坑和know-how,这也是我们的一些优势。
智能涌现:你们踩过坑、积累的经验和方法论,有没有哪些是可以公开和大家说一说的?
陈恺:真正最终能够被一个大规模模型所使用的技术,一定会有逐级的验证放大的过程,而且一定要考虑整体的系统工程。
我们在做基模研究的时候会发现,如果希望在很小规模的模型上做出一个能work的创新,其实并不难。在3B甚至7B量级的模型上,很多工作都能跑通。
但如果把它scale up(规模扩大)一个数量级,我们会发现之前90%行得通的东西都失效了,如果再scale up一个数量级,之前剩下的那10%里面,又有90%会失效的。
因此在很多基模的探索和验证里,就是通过这种逐级的放大,去分辨哪些是真正本质work的东西,哪些可能是比较表面性的东西,不具备在大规模模型上跑通的可能性。我觉得这是做基模的过程里逐步学到的、比较重要也比较宝贵的经验。
智能涌现:和大厂的竞争中,创业公司的空间在哪里,会被大厂吃掉吗?BAT、模型大厂都有一些RSI的动作,比如智谱已经下场宣称走完了RSI的最小闭环。
陈恺:我觉得不会。大厂现在还是相对更关注把RSI作为效率提升的工具,每个大厂都有自己一套很好的模型迭代Pipeline,他们想做的是如何让这个Pipeline更高效,或者让Pipeline里越来越多的流程被AI替代。因为每一家积累的模型迭代Pipeline就是它最宝贵的资产,也是最影响它下一版基模交付的因素。这是大部分大厂在做的事情。
但RSI本质上不只是一个效率提升的工具,它还会包含很多内容。从领域和场景上来讲,它不仅仅是怎么训好一个大模型的问题,另外,RSI需要系统性的变革,围绕着RSI去重新搭建整套系统,包括优化目标、训练方法等。
我觉得现在对于创业公司来讲,是有一个窗口期的,时间大概有12到18个月。

自进化适合解决高价值专业场景问题
智能涌现:你预计商业模式会是怎么样的?
陈恺:过去基模已有的商业模式其实都是适用的。另外,因为自进化这个事情,在整套进化系统的私有化部署上,会出现一些新的落地方式。当然只要是传统基模,不管是卖token,还是传统模型的私有化部署方式,本身都是适用的。
智能涌现:和通用大模型比,它面向的用户或者客户人群有没有发生变化?
陈恺:它跟现在的模型核心的一个区别是:它不会面向普通的C端用户,或者说普通C端用户不是它的第一波目标用户群体,它的客户群体是专业用户和企业。
日常的聊天对话、日常的轻办公场景,现在的模型已经做得挺好了,其实并不需要RSI来加持。更关键的是,现在还有很多专业任务、专业场景,基模的进化速度或者能力还达不到,以及它真正要做到落地可用,而不是只能做demo,这个gap是需要RSI的模型来弥补的。
智能涌现:从长期来看,你们的Roadmap会是怎么样的?
陈恺:首先得有一个真正新范式的自进化基础模型出来,这是我们最关键的milestone。随后我们会通过价值验证来牵引这个模型后续的持续迭代,让它真正往能够解决高价值场景问题的基模方向发展。
智能涌现:往后一步,要实现AI系统的自进化,你认为你们会在什么时间上实现这一阶段?
陈恺:当我们对模型层的自进化有解决方案之后,我们就会同步地推进再往下一层的事情,比如AI系统的自进化。
我觉得明年是非常关键的一个时间点。因为RSI的出现,让很多预测都变得不可控了。过去我们会预判三年以后是什么样的技术趋势、什么样的技术发展,但RSI的真正成熟会让技术进化、演变的速度加快很多。
智能涌现:你对于AGI的想象是怎么样的?
陈恺:我觉得AGI差不多已经快要到了,比如看到OpenAI和Anthropic模型的最新能力,在很多方面都能表现出和人类专家相当的能力。
当然现在大家追求的是未来怎么样去做Super Intelligence(超级智能),我也很期待当上百万研究者的研究经验压缩到一个模型之后,能产出什么样的赛博天才科学家,以及未来要怎么样和这样的AI共事和相处。
图片来源|企业供图



