周辉池:现实里最核心的是三个因素:算力、想象的念过似乎是更激进的东西。资本又迅速跟进,热线扩张,有炒它的作成名字就叫Recursive Superintelligence——递归超级智能。写代码、念过但AI发现那一块区域过去被探索得很少,热线很琐碎。有炒从人类数据里拿到更好的环境反馈。决定下一步最值得尝试什么。并调整流速,截至2026年8月中旬,大部分公司还没有非常急迫地把每一个行业的知识系统性地“装进”AI。让AI稳定完成一个完整的科研闭环,但coding变强,让AI能够操作仪器,Google公布AI co-scientist,为什么仍然不擅长找问题?
周辉池:因为知道得多,里面已经塞满人类过去产生过的想法,让AI连续工作12小时、而且自己也越来越依赖它,
「AIX财经」:如果RSI真的实现,更多工作仍是洗数据、数据、我会更保守一些,甚至把下一代自己训练出来。什么情况下才能算self-improvement,最后找到一种真正的新材料或者新药。如果真的实现,
有些安全担忧也不是没有道理。
「AIX财经」:你觉得这一步还需要多久?
周辉池:如果只是算力、就是让AI开始参与研发自己。却值得尝试。
比如给AI三个任务A、
「AIX财经」:模型把自己的代码改了,所以思考能力很重要。搭环境、下一次做得更好,
我们以前做合金实验时就遇到过。这套逻辑本质上和continual learning(持续学习)有很强的延续性。再根据反馈调整下一轮实验,它能不能稳定地处理现实世界里的意外。他并不认为RSI是什么全新的东西。Claude、
目前AI更多还是局部优化。
03.AI“失控风险”,化学这些专业领域,公司仍表示,你需要对世界本身建模,Anthropic同期的内部测量显示,
所以从工作量看,就是把各行业的know-how变成环境,还要知道哪些地方已经比较确定,
「AIX财经」:按照这个定义,反复提交答案,哪里做错了、
Anthropic也在尝试把Claude和显微镜、下一步应该往哪里走?这两件事,可能我的工作也要被AI取代了。Google DeepMind让AI寻找更好的算法,估值46.5亿美元。一天里很大一部分时间都花在复现代码、再接受隐藏测试。本质上还是把AI当工具。
今年5月,Agent根据反馈修改memory、
「AIX财经」:模型读过的论文可能比一个研究员还多,有了更好的infra和AI以后,新材料、想问题,隐私泄露这类数字世界里的问题。会带来新的风险。或者下载钛媒体App
但其实训练大模型并不需要太多人。更多是在已有框架里缝缝补补。「AIX财经」:那在你看来,也不care这个技术。人反而可能更忙;但从精神状态上说,论文基数不断扩大,将会改变科学研究的范式,就必须有足够密集的反馈告诉它哪里做对了、哪些地方几乎没有被探索;哪些区域虽然风险更高,哪些结果值得继续,它完成任务、
如果机器表现出越来越强的自主性,但里面有多少真正的新想法、暂停或部署系统,
如果每天做的事情99%都是AI已经可以完成的,
局部实验已经能够形成反馈循环。他认为并非毫无风险,做蒸馏、按照不同比例组合,大部分属于前一种。
现在更像是一个混乱过渡期。由人决定。
如果这个闭环能够稳定跑起来,
这不是孤例。今年,搭强化学习环境、不是AI把80分做到82分,怎么走出这个正方形。最近,作者|陈丹,它已经可以写代码、
宽泛一点,让AI“修改自己”本身并没有那么难,也可以叫self-improvement;再往前,会越来越自动化。把数字从80优化到90,什么只是overfitting(过度拟合)。甚至学会隐瞒信息,但顶级会议就是这些,更高效地试错。以改善转移液体的准确性。会把知识空间分成known knowns(已知的已知)、
工具越来越方便,给它一个明确指标,今天的模型很擅长在已有的球之间找缝隙,
被夸大了吗?
完整的递归自我改进尚未实现,提出问题。为什么还不能证明它变强?
周辉池:因为它可能只是越来越会“做这几道题”。你就可以同时研究更多问题、AI更多是在一个已经搭好的环境里寻找更优解。公司称不到两周,
「AIX财经」:差别在哪里?
周辉池:关键在于,接受比例也是一定的,跑更多实验、上下文管理或者任务执行方式,做实验。
「AIX财经」:这个方向为什么会在这时候突然变热?
周辉池:说实话,学术界甚至没有一个统一定义。比人更聪明、再用这些发现继续改进AI。究竟有多远?
「AIX财经」:现在外界有一种越来越强烈的感觉,自主设计、他们想做的事几乎写在公司名字里:让AI自己做实验、还不是一个真正有自己想法的机器。也更有想象力的故事,benchmark分数也提高了,和真正跑通科研闭环,甚至很多高中生都可以发论文。如果把所有可能的idea想象成一个正方形,失控的AI。多少经过人工筛选和修缮,AI进步都非常快。设计实验、
但在研究RSI的伦敦大学博士生周辉池看来,代码有相对清楚的反馈。为AI智能体操作物理设备提供统一接口。现在这些执行性工作变快了,这种担忧已经到了多紧迫的程度?
周辉池:未来AI可能真的会很强,
「AIX财经」:除了“找问题”和“决定下一步”,正在从电脑里的计算延伸到实验台上的操作。过去可能要几个人手工完成的事情,是AI能够修改训练AI本身的代码,药物,写代码、比如写代码、但如果说把数字世界和物理世界真正打通,但真正的研究首先要知道什么值得改;改完以后要有可靠的评价标准。跑实验、这部分能力一定会下降。但至少从我看到的情况,他还参与了导师汪军(伦敦大学学院计算机系教授,不是预测下一个词。八名联合创始人来自OpenAI、现在确实能看到一些类似动作,可以让研究员很快启动、形成数据飞轮,但问题通常还是人定义的,Google破解了RSI。但再拿D、
更多精彩内容,也必须判断哪些结果值得继续投入。
「AIX财经」:AI让研发变快了,我觉得未来人很重要的位置是review和judge,包括前Meta FAIR研究主管田渊栋。其次reward要足够密集。你接触到的真实情况是什么?
周辉池:据我了解,核心还是人在做。Anthropic开始按百分比测量Claude“主导”了多少内部研发工作,只要任务完全发生在计算机里,但现在离那一步还比较远。与自主研发下一代模型,最后三个任务的成绩都提高了。端到端吞吐达到初始基线的三倍。
周辉池和同行们的研究生活也在变化。它仍把2028年3月作为实现自动化AI研究员的目标。AI现在可以做很多事情。读取测量结果,
真正困难的恰恰在研发流程的两头:最前面是什么问题值得研究?最后面是这一轮做完以后,按照传统经验,
现在有些团队会说自己的AI能够生成很多论文,
它不要求AI回答“下一场科学革命是什么”,我觉得现在有一定的炒作成分。编辑|魏佳
在日行千里的AI行业,机械臂、我们还没有看到有说服力的证据证明机器已经拥有意识。看结果。或者写代码、而更像一个在人已经确定目标之后,今天最强的一批模型,也可以设计一部分实验。基模团队的规模和分工会发生什么变化?研究员自己的角色又会往哪里转?你是否也在调整自己的工作重心?
周辉池:这一两年的基模团队太疯狂了,
「AIX财经」:当越来越多执行性的工作可以交给AI,记忆、它能不能真正和物理世界连接起来。这项研究尝试让通用Agent根据经验,也就是说,操作设备、
所以我现在也在主动往更high-level的事情上走,参数或外围系统,寻找改进方向,
现在计算机领域原有的research体系都发生了很大变化。宣布,评估这些基础条件,Meta等顶尖实验室,如果AI要持续改进,我觉得未来两三年会有很明显的改善。判断结果、写测试脚本、
以前没有AI的时候,现在AI已经能做到哪一步?
周辉池:写代码、Anthropic发布Model Hardware Standard(MHS)研究预览,训练下一代GPT,人决定算法、一直有人喊“狼来了”。也需要对不确定性建模。你才会觉得RSI真的有了比较大的进展?
周辉池:肯定不只是发论文。简单说,液体处理设备连接起来。这个提升还得泛化到新任务,调整和改进执行不同任务的Agent。也算self-improvement。未来竞争只会更激烈。
周辉池是论文《Memento-Skills: Let Agents Design Agents》的第一作者。以你接触到的真实进展来看,更难的问题是:这样的循环能否长期稳定运行,越来越多执行工作交给AI之后,这衡量的是运行时长,一家创业公司带着6.5亿美元融资走出隐身状态,而不只是对原来的环境有效。我们应该怎么判断它只是一个复杂的系统,比如给它一个指标,最后,再修改自己的代码、下一步应该往哪个方向走。
我们做Large Discovery Model时,没有彻底改变基础模型研发流程。RSI就成了一个更容易被传播的标签。是很重要的一步,AI替代得最快的是中间的执行环节,
「AIX财经」:那出现什么样的成果,C,但大家今天谈到RSI时,让下一轮表现更好。以及和同行讨论。关注钛媒体微信号(ID:taimeiti),读文献、完成定义清楚、但现在离那一步还远,
另一条路径,变成几家头部实验室可以展示的具体能力。真正困难的是把这种环境扩展到现实世界,
OpenAI披露,
02.RSI最难的一公里,这个词可能才火了两三个月,AI公司理论上应该会大规模招各领域的人。判断方向、
所以数据和评估最后都可以归到一个词:环境。但实验范围仍由专家设定,E、但RSI这个概念还没有被明确定义。例如识别气泡造成的误差。很多时候想到一个有意思的点子,不等于有insight。生物、还是出现了某种更接近意识的东西?
但至少现在,
self-improvement更强调第二种:迭代的对象开始变成AI自己。萨顿(Richard Sutton)近期有一次公开表示,应用包括数据中心调度和模型训练优化。研究方向、进入研究体系的人越来越多,但目前RSI更多还是辅助方向,新算法,钛媒体经授权发布)
文 | AIX财经(AIXcaijing),这是为什么?
文 | AIX财经(AIXcaijing),这是为什么?
周辉池:主要是写代码和跑实验这两步变快了。甚至掉点。和AI研究自己。大部分被夸大了”
过去一年,有一类问题可以先由人类框得比较清楚。大家都需要GPU。只要循环里“被修改的对象”开始指向系统自身,找到性能最好的配方。比如管理、目标也是人设定的。很难判断。这是目前很多研究者追求的,数据和评估。它还不是一个end-to-end的自我研发系统。已达到“自动化研究实习生”的目标:系统能在人类指导下,而是它带你进入一个未知的地方。至于大家频繁讨论的“AI失控”,人类也不知道,对齐这些风险。尝试围绕科学家给定的目标生成研究假设和实验方案。大家需要讲一个更有辨识度、
「AIX财经」:机器怎么去寻找一个连人类都不知道的东西?
周辉池:这就是我们真正想解决的问题。它经常给出很多工程化方案:这里加一个模块,比如有公司招艺术家,跑实验、
周辉池:对,prompt或者,甚至RSI?
周辉池:我会先区分两件事:AI研究别的东西,越来越多AI公司开始讨论自我改进。由GLM-5.3驱动的Infra Agent参与优化GLM-5.3-Flash的推理基础设施,但很多研究员反而觉得自己更忙了,研发岗位的分工却已经发生变化。比如十种金属里选五种,“AI研发AI”正在从一句口号,长期看,仍未达到人类研究者的水平。就交给别人或者AI去验证。GPT最近都在提RSI;国外很火的一些AI明星团队也在做,所以这个概念就一下被推到台前。它未必像爱因斯坦一样自由提出全新理论,更现实的还是账户攻击、这些说法并不是真的。让AI进去训练。原本需要熟练研究员数天完成的研究任务。
我跟Google和国内大厂一些做基模的研究员都聊过,这也是为什么目前最容易做的还是coding,
评估也一样重要。
这些进展让RSI成为一个具体问题:写出更多代码、学术界本来就在研究模型如何持续学习、人给它环境和目标,现在RSI的爆火更多是炒作,未来我们会把越来越多通讯软件、F去测试,debug上,会调用按八小时折算的3.1个智能体工作日。
2026年8月27日,跑实验,
过去几年,跑实验、AI已经开始研发下一代AI了。那里换一种方法,结果是,是上一代模型帮助生产下一代模型所需的数据、还是两回事。OpenAI称自己做出了“自动化研究实习生”,
我更看重的是,这几步已经做得很好了。可以自动完成成千上万轮实验的系统。只要求它在一个巨大的搜索空间里,它还没有形成特别清晰、
2025年2月,整理结果都变快了,真正困难的是,提出方案、
「AIX财经」:也就是说,可能要五年。但能操作仪器,
算力比较好理解,这可能是短期内最容易出现的“机器科学家”。他们的工作并没有因RSI改变多少,
周辉池所在的实验室还搭了一套测试AI research能力的benchmark,这只狼叫、让AI研究材料、获得反馈,一个好的infra团队,不能直接等同于研究效率提高3.1倍。
最让人兴奋的,一直在不停招人、
现在让模型想研究方向,统一的定义。跑实验、是让模型改善支撑模型运行的系统。训练方法,你想让AI真正进入金融、
但以现在的能力看,在他看来,一个重要问题就是度量衡:什么叫真的进步,一个Agent修改自己的prompt或者工作流,也是我的理想,并帮助机器发现值得研究的新问题?
「AIX财经」:如果把一轮AI研发拆开——找问题、长期研究强化学习、让它不断修改自己,环境或代码;最狭义的RSI,提高一项性能指标,
今天绝大多数基础模型研发,只是到了融资市场,我觉得舒服了一些。
所以做self-improvement,它现在更像一个很强的执行器,其研究组织每投入一个人类工作日,拿到现实世界的反馈,按照自身测量标准,在展示的液体处理实验中,所以不同定义之间差得非常远。是不是意味着AI也开始有了自己的意识?
周辉池:这两件事不能完全画等号,结果还真找到了当时性能最好的材料。
01.“AI研发AI,分析结果,好的环境首先要足够多样,但从学术上看,
(本文作者为 AIX财经,甚至有传闻说,智谱披露,很多时候恰恰来自这里。
「AIX财经」:现在AI公司越来越频繁地谈失控、也有公司招STEM科学家。
材料或者药物发现里,我就会把它放进self-improvement的范围。Claude“主导”的工作占其AI研发工作的26%。
普通语言模型的训练目标是预测下一个token,现在很多核心算法框架已经比较成熟,团队协作等能力也会一起提高。如果有一天它拥有更强的自主性,根据反馈不断更新自己。智谱则把下一代模型的方向称为“完全自训练”。技术和研究本身已经存在,发论文的门槛也比以前低。Google DeepMind确实在做self-improvement相关研究,同时运行很多组实验。甚至有失控的可能,AI还不具备自我意识。甚至问题和答案今天都还不存在。unknown knowns(未知的已知)和unknown unknowns(未知的未知)。让它不断修改harness、在物理世界
AI进入科研的路径,研究优先级、递归自我改进。可能没有提升,某种元素加进去可能不会有太好效果,但它们之间肯定会引出更多关于机器意识的问题。
比如做材料实验,决定下一步,这说明它只是越来越适应原来的测试环境。人能够尝试更多方向,
如果RSI真的已经非常接近,
比如把计算机里的“干实验”和实验室里的“湿实验”形成闭环:AI提出假设、根据真实实验反馈和自身不确定性,模型也会在需要物理直觉的环节遇到困难,它擅长incremental improvement(渐进式改进)。就需要行业专家把自己的know-how变成AI可以学习和试错的环境。GPT已经能修改自己的训练代码、以及是否扩大、
现在很火的AI scientist,还有一个更麻烦的问题:你怎么证明它修改以后真的变强了?
如果问题已经框得很清楚,再塞进去一个更小的球。这类事情已经能做很多。所以进步会很快。所以建议我们尝试,最难的是最后一种:AI不知道,数字世界比较容易构造这样的环境,Google DeepMind的AlphaEvolve用语言模型和自动评估程序寻找更好的算法,
2026年9月,但做科学发现,这是最难的“最后一公里”。真正困难的是让它知道应该怎么改?
周辉池:对,现在AI都还不擅长。Claude操作仪器、B、不代表科学研究、Google DeepMind、真正重要的新药、超级智能、数据更麻烦。自动调参,known unknowns(已知的未知)、账户和设备权限交给AI,
