蒋炎岩:绿导师眼中的 AI 极乐末世|原文转录

转录说明

依据所提供视频的完整内嵌字幕整理,并用全片音轨的自动转写交叉核对。保留原话内容和口语,合并字幕重复显示,修正能够确认的识别错字,补入标点并按发言人分段。原话放在引用块中,保留发言者自己的句式。

时间为视频时间,定位到相应段落开头;字幕与声音可能相差约一两秒。少数原字幕发言人标记明显错位,能够确定承接关系的已调整,无法确定具体身份的写作“主持人”。仍无法确认的词以方括号标明,不作推测补写。

本稿覆盖开场摘录、节目介绍、正式访谈及结束致谢,属于字幕与音轨交叉整理稿,含少量待核听词语。片长约 01:58:27。

节目:AI 实话实说,第 008 期。嘉宾:蒋炎岩。主持人:真开心、Summer、Miko、静波。

视频来源:Bilibili 原视频。

00:00:00 开场摘录

[00:00:02] 蒋炎岩

然后我们产出的论文,也许在 AI 的眼里都是没有意义的垃圾。

[00:00:08] 真开心

这是你退出软工圈的理由吗?

[00:00:12] 蒋炎岩

有经验的老师会劝年轻老师,你千万不要好好上课,你好好上课你就进入陷阱了,请你多出去走一走,然后一定要多多结交朋友是吧,你这件事情做的多了,你自然做科研的时间就少了。因为这样的事情,花掉了我很多很多的时间,然后终于我觉得应该鼓起勇气有一天说说,也许不要做这件事情了,反正死和活对我来说都不重要,我相信有一天我应该是活在那个极乐世界里面,泡在这个 AI 做的缸子里面的,所以也许应该去做更 exciting 的事情。

[00:00:49] 真开心

你会担心自己被学校开除吗?

[00:00:51] 蒋炎岩

开了就开了呗。

[00:00:52] 真开心

开了去做什么?

[00:00:55] 蒋炎岩

也许天天钓钓鱼也挺好。

[00:00:59] 真开心

这年头,能到南大复试线的,少说有一半是心无旁骛地备战408的4门科目,一年乃至两年的。编程实践是啥,只会影响我刷考研习题集的速度。你认为这就是你提到的针对现有的考研评价体系的 reward hacking。

[00:01:15] 蒋炎岩

You are absolutely right,捆了他的手和脚,让他来展示一下他的才能,对操作系统竞赛来说,我觉得不 make sense,然后我不知道为什么老登们总是觉得可能他们没有用过大模型,所以最终大家还是投票,然后决定禁止使用大模型。

00:01:41 节目介绍

[00:01:41] 真开心

江湖传言,南京大学蒋炎岩老师要在人生巅峰金盆洗手,蒋老师江湖诨号绿导师,是南大操作系统课的掌门人,软工圈的奇人,知乎小红书和 B 站常驻的锐评宗师,讲课有名,出题有名,骂人更有名。之前一篇给天命人的劝退信,劝得无数准备读博的天命人站在山门前开始怀疑人生。

[00:02:14] 真开心

这一次绿导师做客 AI 实话实说不是讲课,不是讲论文,而是预言一整个 AI 时代的江湖浩劫,在他眼里,AI 带来的不只是程序员失业或者科研被替代,而是整个人类智力活动被推上审判台。翻译,编程,科研,大学和导师制度,或许都将被重新改写,但是绿导师谈末日的态度不是悲凉,而是看破红尘的快意,那也许不是末日,而是一种恩赐的解脱。

[00:02:49] 真开心

博士生不必再痛苦挣扎,老师也不必再被论文,经费和职称反复消耗。他究竟是金盆洗手退出软工江湖的风清扬,还是不忘初心对抗科研体制的真大圣,这期 AI 实话实说,绿导师开坛讲法。

00:03:14 主持人与嘉宾出场

[00:03:14] 真开心

听众朋友们大家好,欢迎收听 AI 实话实说,我是主持人真开心。

[00:03:19] Summer

我是主持人 Summer。

[00:03:21] Miko

我是主持人 Miko。

[00:03:23] 静波

我是主持人静波。

[00:03:25] 真开心

本期 AI 实话实说,我们非常高兴地请到了南京大学的蒋炎岩老师,蒋老师你好。

[00:03:34] 蒋炎岩

Hello。

00:03:35 退休与 AI 带来的变化

[00:03:35] 真开心

蒋老师,你感觉退休生活怎么样?

[00:03:38] 蒋炎岩

我还没有退休,我只是想退休。

[00:03:41] 真开心

我看你在小红书上面3月21号发了一篇文章,叫做我决定在人生巅峰退休了,这篇文章是什么意思?

[00:03:52] 蒋炎岩

我看到了一种有点像末日的景象。大概我们现在做的所有的事情都会成为徒劳,在这个徒劳之下,可能我们要停下来去思考,未来应该做什么,大概是这样的一个意思。

[00:04:08] 真开心

你可以具体谈谈吗?是什么样子的末日的景象?你觉得什么事情现在正在做的变成徒劳了。

[00:04:15] 蒋炎岩

我觉得我们大学老师从学生进校开始,就要培养他们,然后从一步一步本科生到研究生,然后到博士,这个过程,可能都会变成徒劳,然后我们产出的论文,也许在 AI 的眼里都是没有意义的垃圾。那么在这样的一个世界上,我们还怎么样看待人类积累了这几百年的研究的东西?

[00:04:43] 蒋炎岩

可能是我们需要停下来仔细想一想的。

[00:04:48] 真开心

你在文章里面提到翻译已经死了。翻译作为一个职业,作为一个专业已经死了。同时你也提到,现在你认为绝大部分的工作。不管是编程也好,不管是科研也好,不管是创新也好,其实都可以看作翻译,为什么你这么想。

[00:05:05] 蒋炎岩

我有一个感觉,其实人类就是一个复读机,那为什么这么说呢,我们大部分时候在产出一个科研成果的时候,我们是根据一些原始的动机和想法,然后做一个类似于大语言模型 chain-of-thought 的推理,然后从这个推理当中,有时候我们会调用工具去写一个代码,做一个实验。但是所有的这样的看起来,曾经是非常高级的智力活动,对于今天大语言模型来说,已经不是那么的困难了。

[00:05:37] 蒋炎岩

所以,从一个高级的想法,到最终执行实施,得到一个研究的结论,这个过程,在某种程度上很快就会被机器所取代,在这个时候,我作为一个大学老师,我首先想的问题就是,我们存在的意义还是什么。

00:05:55 “解脱”、目标与机器意识

[00:05:55] 静波

当你说到末日景象的时候,感觉您嘴角带着一丝笑意,就是为什么为什么会有这种心态呢,就是您看到了什么?而这个事情为什么让您感觉到窃喜。

[00:06:11] 蒋炎岩

我觉得这是一种恩赐的解脱。你想,我们有这么多的博士生在痛苦的挣扎,无论是他喜欢他的 research topic,还是不喜欢整个读博的过程都是非常痛苦的那等到那个末日景象来临的时候,我们也不需要大学了也甚至不知道人类还在不在了。所有的人类都某种程度上获得了一种真正的解脱。而可能机器会替代我们去发现那些新的知识,拓展人类的边界,也可以去到我们无法生存的星球,那也许是一个更好的景象,而不是一个末日的景象。

[00:06:48] 静波

那您在这个过程当中,是否假定了这个机器也可以,AI 也可以自己定义整个事情的目的,就是目前我们看到 AI 可以做推理,对吧?AI 可以执行任务,但是在目标设定过程还是由人类主导,就是对于这个,您觉得以后是人类来设定目的机器 follow through,还是说,您觉得这个可能也会被 AI 所取代。

[00:07:15] 蒋炎岩

首先我看到的一个景象是,我们人类应该理论上说可以存在一个比较复杂的目标。然后这个目标一旦设定,并且我可以强制写一个程序让机器来执行它,那么它就可能有无限的智能,或者无限的一个接近无限的潜力,至于有在这个过程中机器会不会自己产生意识,可能我没有办法下这个定论,但是我可以看到的是 scaling law,或者说我觉得现在的大家说的这个 test-time scaling,会是一个非常有前景的方向。

[00:07:53] 蒋炎岩

可能我觉得相当多的人对 test-time scaling 的能力低估了。

00:07:58 Test-time scaling 与简短解释

[00:07:58] 真开心

你说大家对于 test-time scaling 的能力低估了,然后你觉得它的前景非常的大,你下这个判断的依据是什么,或者说有没有一个具体的例子,一个具体的很困难的问题,你看到它解决了,然后你觉得他的潜力真的很大。

[00:08:13] 蒋炎岩

你可以这样想,如果你拿出一本字典,你们都背过单词对吧,第一个词是 A,第二个词是 AA 然后你就可以写一个机械的过程,就写一小段 Python 代码,然后这个代码可以枚举,比如说所有的由这个字典里面组成的单词形成的句子,然后长度可以是从最短的开始枚举,然后我对于这个句子从短到长枚举以后,我就可以把这个句子交给研究生。研究生可以去做一个 research,所有世界上的,你要做的研究也好,你要测试一个软件也好,它都存在一段简短的解释。

[00:08:50] 蒋炎岩

在这个简短的解释的基础上,我们一个好的导师或者一个好的人,他就可以把这个空间里面没有意义的,或者重复的,或者不 interesting 的东西给更好的排除。

[00:09:07] 真开心

很多复杂的问题,其中的核心思想其实是很简单的一段话,这就是你所谓的 small explanation hypothesis,对吗。

[00:09:15] 蒋炎岩

你说的太对了,因为因为在 pre large language model 的时代,如果我们要做这个 small explanation hypothesis,的话,我需要一个机械的枚举过程,然后有一个机械的生成过程,然后去做做测试,但是,在 large language model 的时代,我们发现语言这个东西,我们可以一定程度上驾驭了,驾驭就意味着我们的枚举的过程可以变得更柔性,不是一个很硬的枚举过程,然而枚举完了以后,他就变成了一个有点像导师形成了一个想法,然后把这个想法交给一个研究生,对吧,大家都觉得像今天的 agent Codex,他的能力已经达到了研究生甚至博士毕业生的水准了,那就意味着当我有一个想法以后,我完全可以把这个想法以自然语言的形式交给这个 Codex,然后 Codex 再往后去做验证,去 verify 这件事情到底是对还是不对,最终给导师一个结论性的 report,那他就形成了一个人类世界里面的一个新的知识,对吧?

[00:10:11] 蒋炎岩

这件事情是我我我提出了这样的一个问题,这个问题的结论是 positive 的是 negative 的,为什么,证据是什么,这样的一个解释,这样人类就可以在这样的一个循环,我只要写这样的一个可能要运行几万年,几百万年,不知道的循环,但是可以在这个基础上不断的产生新的知识,不需要人类的参与,一个人类也不需要。

[00:10:36] 真开心

你觉得这件事情在提高创新或者说提高科研效率上的作用,主要是因为提想法变快了,还是因为验证变快了,因为听起来你把这两个阶段都用 AI 来做。在第一个阶段用 AI 来提想法,在第二个阶段用 AI 来。

[00:10:54] 蒋炎岩

验证这个想法?我理解它们都会变快的,我理解他们都会变快的。

[00:10:57] 真开心

对你觉得有程度上的区别吗?

[00:10:59] 蒋炎岩

在 AI 的时代,我觉得,任何一个机制上的改进,可能都是带来数量级的提升。就像之前,我们在 agent 还跑不起来的时候,我们觉得一个长程的任务是几乎不可能的对吧,可能就一年以前的时候,大家还会觉得一个几天,一个星期的长程任务是不可能的,今天就可能了。在这样的长程任务上面,其实你得到的智能的加成,我觉得就是一个非常大的数量级的提升,所以很多时候我们都不好说未来会发生什么,对吧,如果我们允许,比如说在 agent 里面,我们可以有一个非常好的上下文压缩的方式,然后我们可以得到一个近乎无限的上下文,那可能整个故事又变了,对吧,我们也许不需要一个这样的 loop,是只需要一个线性的结果就可以了。

[00:11:43] 蒋炎岩

但是这至少可以给我们的启发是,这件事情是可能的。

00:11:49 兴奋与“极乐世界”

[00:11:49] Summer

最开始你在说,你觉得可能是末日到来的感觉,并且你对整个教育,你都会觉得比较悲观,你不知道该怎么教育学生,但是后面,我又感觉你对这整件事情非常乐观,因为你在做 agent 相关的东西,然后你觉得 test-time scaling 非常的 exciting,我可以听出你的兴奋,所以你你现在是一种什么样的心态呢?

[00:12:14] 蒋炎岩

我觉得我可能是看到了一个大的方向,但是我又有一种抑制不住自己的兴奋,想要去在这里面弄清楚到底什么样的途径可以通往我们看到的那个极乐世界。所以我就想试一试,对吧?不管是想要杀死教师的一个尝试,还是想要讲清楚,怎么样导出世界上所有的研究的这样的想法,可能我都会去想一想,虽然我可能不会做所有的事情,但我觉得想一想很有趣。

[00:12:41] 静波

绿老师这个极乐世界是谁的极乐世界。

[00:12:45] 蒋炎岩

我有一个观点就是人类因为我们是物种进化来的,所以我们有一个与生俱来的本能就是竞争。然后竞争催生了各种各样的好的东西和坏的东西,对吧,比如说战争,但是战争同时又推动了科技的进步,最后人类还是生活的更好了,那么我们假想如果有一个非常强大的 AI,你做任何事情在他面前都是没有意义的。

[00:13:19] 蒋炎岩

你就失去了一种本源,进化给你的动力。你只要按一个按钮,你就可以得到快乐。你想的所有东西他早就预判过,他知道做什么样的事情,会让你开心。那么在这个时候,人就失去了。所有生存的意义,因为这个意义是进化本身赋予我们的,然后这些是由我们身体的这些激素和 chemical driven 的,但这个东西没有了以后,我们人就进入那种完全的虚无的状态,我不知道会发生什么,但是我觉得他很有一天很有可能会有一天会到来,我们就像生活在水缸里面一样,我们也知道自己生活在水缸里面,但是我们对此无法抵抗,我们做的所有的东西,机器都已经预判了。

00:14:02 退出软工圈

[00:14:02] 真开心

你刚提到说觉得大学老师应该思考自己要做什么,或者说自己做的事情还有什么意义。这是你退出软工圈的理由吗。

[00:14:12] 蒋炎岩

它们不完全是。退出软工圈的一个很大的原因是也是可能我和这个领域里面一些相对比较资深的研究者达成的共识是,好的论文的数量变少了,然后你需要被迫的读大量的没有意义的文章,不知道这是如何发生的,但是它确实发生了,所以某种程度上我退出软工圈了。

[00:14:36] 真开心

所以你确实退出软工圈了,这不是一个像你退休了一样的玩笑。

[00:14:41] 蒋炎岩

对,我几乎不投稿软件工程的文章了,除非可能,如果我的同学毕业实在是有困难的话,我们还会试一试。

[00:14:49] 真开心

那你现在投稿什么文章?

[00:14:52] 蒋炎岩

我觉得审稿人可能更专业的是 PL 和 systems,所以我最近投的文章都在 PL 和 systems,但是我今年的文章都被拒了。

[00:14:59] 真开心

所以对我们之所以,有这个问题,是因为你在4月21号的时候,在小红书上说,你已经退出软工圈了,但是在今年的5月16号,在江南大学,你还做了一个标题为一个软工人的辩白的演讲,你觉得你自己还是个软工人吗。

[00:15:22] 蒋炎岩

我退出了软工圈,但我还是一个软工人。我觉得,在不在软工圈,和是不是一个软工人,是两件事,软件工程是一个非常成熟的学科,他告诉我们怎么样构造好的软件。但我觉得,因为软工圈开始不再做软件工程的问题,我某种程度上,我不在,我和这样的一个不做,软件工程问题的圈子割裂开来以后,我就退出了软工圈。比如说我现在做一些像 agent 这样的工作,那他是需要很多的软件工程知识的,那我仍然觉得我是一个软工人。

[00:15:55] 真开心

所以你退出了软工圈,但是你还是一个软工人,或者说你的意思其实是软工圈退出了软工,可以这么说吗?

[00:16:03] 蒋炎岩

我觉得可以这样理解。

00:16:06 独立 PI、项目与经费

[00:16:06] 真开心

你的主页上面,你的南京大学软件所的主页上面写着你要作为独立 PI,离开软件所,所以你的主页会出现在另一个地方。你为什么要离开软件所?这件事情是因为你对于 AI 给人类科研带来巨大的影响的判断,还是因为你对于软工圈这个圈子本身的判断?

[00:16:27] 蒋炎岩

主要还是来自 AI 对我们研究的影响?因为我们的科研体系,学术体系,或者说现在的一个有组织科研的体系,很大程度上没有办法适应现在 AI 技术的快速发展。而在一个团队当中,你需要尽到一个团队的职责,比如说你会需要去代表团队去参与一些的项目当中,但这些项目可能你在打磨申请的时候,甚至是被拒掉的时候,第二年再申请的时候,这个申请书其实已经变得毫无价值了,但是你又必须要在团队里面做这件事情,然后我觉得自己的感受是,可能在这些年里面,因为这样的事情,花掉了我很多很多的时间,然后终于我觉得应该鼓起勇气有一天说说,也许不要做这样事情了,行反正死和活对我来说都不重要,我相信有一天我应该是活在那个极乐世界里面,泡在这个 AI 做缸子里面的,所以也许应该去做更 exciting 的事情。

[00:17:29] Summer

蒋老师能不能先给观众朋友们讲一下,作为独立 P 和你之前在软件所他们之间有什么区别。

[00:17:37] 蒋炎岩

我感觉可能不会有特别明显的区别。因为对我来说就是带学生和上课。我觉得其他的所有的事情,以及想,想 research problems,除此之外,所有的事情,都是不应该做的事情,都是必须承担的,Overhead 我只是在减少那部分 overhead,但是 overhead 对我来说,就是不想做的事情,所以我在我看来其实没有什么区别。

[00:17:59] Summer

那部分 overhead 是什么呢。

[00:18:01] 蒋炎岩

这是一个很好的问题。我的时间都到哪去了呢?OK,我们要写申请书,然后我们要争取比较大型的高规格的项目,而这些本身就是,而且项目做完以后要有一个非常严格的执行,比如说你在项目要验收的时候,你会需要第三方的测试报告,然后有非常长的文档,你需要花很多的精力来做这件事情,因为可能你的 junior PhD student 做不好,做不好的时候,你就必须接管很多这样的事物。

[00:18:34] Summer

对嗯所以区别就是你不用做项目了。

[00:18:38] 蒋炎岩

就是说我不管自己的死活了,没有项目就没有钱,对吧。

[00:18:42] Summer

那也可能就没有钱来带学生,对吧。

[00:18:45] 蒋炎岩

会有一定的风险。

[00:18:46] 真开心

应该说。那你觉得没有项目,没有钱没有办法带学生,不会影响你对于你自己的研究的追求吗?

[00:18:55] 蒋炎岩

我觉得对这件事情想得越来越开了,因为这就涉及到学术圈的评价体系的问题。对于每一个同学来说,我都想发很多的 paper,然后。可能就能找到一个教职,然后可以稳定下来,这可能是一个十年以前的一个标准答案,但是这个答案在今天其实已经不一样了,然后我们又有过去的惯性,因为我总是能够收到同学说简历发给我简历说我发了多少篇论文,然后当我点开那个论文的时候,发现那个论文没有办法看,我们在一个旧时代和新时代过渡的中间,在这个过渡的时间,很多机制没有缓过来,这就意味着,我们要带着旧时代的负担,还要把新时代的事做好,很多时候就对于一个老师来说,就成为了不可完成的任务了,而当你的评价指标又是旧时代的时候,你为了活下来,你又必须要管那些指标。

[00:19:59] 蒋炎岩

所以,其实我,选择我不要活了。但是我觉得应该做一点有意义的事情。比如说我说我今年 paper 都被拒掉了,是因为很大程度上是因为我的 paper,这两篇 paper 都没有 baseline 可以比,就是你找遍世界上已经发表的论文,然后你没有你找不到一篇合适的论文,是可以作为它的 baseline 来比,就是说这是一个全新的东西,很难 evaluate,所以我很难说服审稿人说这个东西它就一定是定量上比别人好,这是非常困难,但可能审稿人也会隐约觉得 OK 这个东西还挺好的,对吧,我们被 PLDI 拒掉,那个文章的分数是13334,就是 strongly reject,然后就被那个一分给干掉,对我觉得可能我们应该做一些真正的到了做真正的东西的时候,而不要管那些评价体系了。

[00:20:48] 真开心

我可以理解你想要抛弃旧时代的负担,你想要抛弃旧时代的评价体系,你想要抛弃那些很固定的很僵化的写申请书的流程。可是我想不管是在旧时代还是在新时代做事情,尤其是在新时代,尤其是在这个 scaling 能够带来更好结果,更大智能的时代,你想要做一件事情是需要钱的,你的钱怎么来。

[00:21:11] 蒋炎岩

你说的太对了,当你真正需要钱的时候,没有 research funding 可以 cover 你的钱,所以你总是要找其他的方法。比如说也许,DeepSeek 愿意赞助我很多很多用不完的 token,对吧,我现在每天就是 Codex 带着 DeepSeek 可能能烧个两三亿的 token,这个数字其实不小了,这个开销目前我还是可以承受得了的,但再多的话,我可能就就如果再翻十倍或者我要用更好的模型,可能我就承受不了了,可能没有任何一个科研经费可以 cover 这样的 token 消耗,那也许只能有别的办法。

[00:21:49] 蒋炎岩

所以我觉得在新体系下和旧体系下其实是一样的。

[00:21:52] 真开心

如果我们听众中有这个 deep seek 的员工的话,希望听到蒋老师的话,之后可以赞助他一些 token,你刚刚提到说,没有任何一个研究的经费可以覆盖,你想要的开销。

[00:22:04] 蒋炎岩

那去哪里找,应该这么说。现在的评价体系是希望你能够带一个大团队,尤其是在学校里面,带一个大团队做一件非常大的事情。然后这样你分到每一个人头上的钱就还算是比较充足,但是这件事情在学校里面本身我认为是一个伪命题,因为你在学校里面是不可能可能清华北大除外,在其他任何一个学校都很难凑成一个真正有战斗力的,由老师和学生组成的团队,能够做一件真正大的事情,对吧?

[00:22:37] 蒋炎岩

比如说做一个智谱这样的事情,如果当你做的东西,或者说我认为你可以做的事情,在学校里面可以做的事情有两种,一种就是你做那种我这个 idea 非常牛逼,我只要证明它是可以的,那么当我把它 publish 甚至往 arXiv 上一挂的时候,大家就知道,我们可以往这个方向去做了,我觉得这个可能不用花费特别多的钱,所以我们可以在学校里面做这件事儿,然后另外就是我可能需要一个很大的算力去验证的东西,无论是 token 还是算力,我相信应该是会愿意支持做这件事儿,所以可能学术界的科研经费就显得不那么重要了,而大家那么执着于经费的根本原因,其实是,科研经费是学校考核老师的标准。

[00:23:32] 蒋炎岩

你的经费越多,你就牛逼,你经费不够,你就要面临被赶走,走人的困境,我已经选择不活了。这对我来说也就无所谓了,我只要能够 cover 学生的工资,不让他们饿死,然后还有点 token 能用。

00:23:49 评价体系怎样改变

[00:23:49] 蒋炎岩

我觉得已经 OK 了。

[00:23:50] 静波

蒋老师您说不活了,其实是不想活在过去的那个研究体系和判断标准,如果让你设计一个适应当代的 incentive system,就是更有助于做真正的事情,就像你说的,你你你会怎么设计的。

[00:24:09] 蒋炎岩

不好意思,我我我问一下,这是针对老师的,还是针对学生的,还是整个体系的。

[00:24:16] 静波

整个体系的,就是您刚才其实聊的过程当中,就是说原先有很多大家要发 paper 拿科研经费,整个这个 loop,其实您觉得这个不是特别[此处语音未辨清],我不活了,那我就想知道,如果什么样的体系您会觉得我会活得比较舒服。

[00:24:39] 蒋炎岩

这是一个非常复杂的问题,因为从国家的角度,它要运转,它就必须要有一个自上而下的机制,能够实现对所有科研人员的管控。这当然是非常不容易的,对吧,所以他有必须要有一个评价的指挥棒,他说你能够得到,当然最终来说你是能得到,比如说国家奖,你能评上院士,代表你是国家对你的最终认可,然后在这个认可下,它会形成一个学术权力的金字塔,一旦有权力。

[00:25:09] 蒋炎岩

权力可以分配,那么这个体系就可以转起来,这我觉得某种程度上是必不可少的,但是从另外一个角度来看,因为我们说,学术创新它产生的是一个新的想法。这个想法又不一定是由颠覆,尤其是颠覆性的创新,不一定是由自上而下的组织给产生的。所以这里面天然就有一个张力,从最理想的情况来看,应该是我们的学生都不要去发任何的论文。

[00:25:39] 蒋炎岩

或者说发表只需要一个非常底线的发表,然后最终以一个很好的同行评议的机制来找到那些谁做出的最有价值的贡献。但与此同时,你又没有办法去阻止,如果如果真的他启动了这样的一个体系,你又没有办法阻止一些怀揣恶意的人在里面获得到利益,所以他依然需要用 peer review 这个机制,尤其是比如说顶会顶刊这样的机制,来筛选掉那些绝对的恶人对吧,比如说他没有一个正常的学位,也没有发表过任何论文,但是他他做了一个假的简历,然后就被以一个非常高的规格引进进来,他还需要需要杜绝这样的事情,所以这个世界其实比大家想的要复杂一些,你首先要让这个体系能够转起来,因为需要让它转好,怎么样,我可能不知道,或者说也许是有越来越多我这样的不想活了的人,并且又有学校,比如说南大可能还愿意收留我,那可能就会往好的方向发展。

00:26:47 教师的 reward hacking

[00:26:47] 真开心

你刚刚在谈整个学术界的评价体系,包括对于科研人员的评价体系,作为一个大学教师而言,你觉得现在这个评价体系更看重的是你的科研成果,还是你对于学生的培养?

[00:27:05] 蒋炎岩

我觉得更看重的是他 reward hacking 的能力。

[00:27:09] 真开心

我觉得是任何一个评价体系都可以说这样的话,对吧?

[00:27:14] 蒋炎岩

对,比如说有经验的老师会劝年轻老师,你千万不要好好上课,你好好上课,你就进入陷阱了,然后他会劝老师说请你多出去走一走,然后一定要多要多结交朋友,然后这其实是一个 tradeoff,对吧,你这件事情做的多了,你自然做科研的时间就少了,但是因为你的评价体系,最终你还是要得到这个金字塔里面的某一个位置,那么你能活下来的,就看 trade-off,就是你愿意牺牲多少自己的灵魂,来得到这个世俗的认可。

[00:27:55] 蒋炎岩

也许有人可以平衡的很好,因为他的实力很强,所以他也许可以不需要那么的世俗,但是可能更多的人,尤其是有很多人,也许他自己没有受过非常好的训练的人,他自己本质上是一个不自信的人,那他会坚定的会选上这个 reward hacking 的路线。

[00:28:12] 真开心

当你说你不想活了的时候,实际上你在说的是你想要彻底放弃对于世俗评价体系的追求,而拒绝做一个做 reward hacking 的人吗?

[00:28:24] 蒋炎岩

某种程度上是,就是遵循我内心想做的事情。

[00:28:27] 真开心

你刚刚说一个实力很强的人,其实可以兼顾两点,但我们其实看到你的实力就很强,你有获得这么多的 best paper,你有获得这个 CCF 优秀博士毕业论文的荣誉。你觉得你的能力还不够强到足以两者兼顾吗。

[00:28:46] 蒋炎岩

我觉得不够强。我的例子,我说我有一位启蒙老师,然后他做的非常好,一直是我的偶像,我经常还会去他办公室让他骂骂我,把我骂醒一点,然后这位老师,我觉得他实力是远在我之上的。但是他应该是杰青可能有四次没有上,四次上会,就没有评上,所以我不知道那些其他评上的人是怎么怎么评上的,但是事实就是,你有实力也是没有用的。

00:29:23 复试编程题与 408

[00:29:23] 真开心

谈到大学教师对于科研和对于学生培养的评价,其实我觉得很重要的一点就是你在培养谁,或者说你在和谁合作。所以我想先请教一下你关于学生选拔的机制的问题。你在2025年5月发了一篇文章,标题叫做副教授实名举报计算机专业学生编程水平不如小学生,当时是发生什么事了。

[00:29:55] 蒋炎岩

大家都知道我是一个很喜欢整活的人,然后我就整了一个大活,我先补充一下,我因为我也是老竞赛选手,我已经给小学生出了十年的题了,然后大家还挺喜欢我的出题风格的,因为我一般来说出题就是让这些培训机构猜不到,永远猜不到,我会出什么样的题。但是这个题,小学生就能够做出来,于是我就做了这样的一个实验,我把有一年出给小学生的编程题,出给了我们应该是考研来复试的学生,然后完全一样的题面,当然我们复试是英文的题面,然后我用 ChatGPT 直接把它就一模一样的翻译成了英文,完全一样的测试数据,然后结果就是过来考试的同学们惨不忍睹,所以事实就是不如小学生,如果我严谨一点说的话,就是你假设这两个题目难度一样,就是英文没有造成阅读障碍的话,那就意味着进入我们学校研究生复试的这个本科准毕业生,编程能力远比南京地区利用课余时间学习编程的小学生群体,当然这个还是参加活动,还是经过一定筛选的,它的编程能力要低。

[00:31:24] 真开心

你可以给我们的听众解释一下,这个题目是一个什么样难度的题目吗,有没有可能是因为这个题目太难了,只有小学生才能做出来。

[00:31:33] 蒋炎岩

这个题目是这样的,我们都知道我们有一个身份证号,对吧,身份证号前面六位是你出生的那个地区,然后接下来是你的出生日期,然后最后有一位校验,这个校验码是冗余的,也就是说你把它连起来,你也可以把它算出来。你就可以知道身份证号是不是合法,防止你手滑以后把身份证号填错。你们在填网页的时候,经常都会都会不小心填错以后他会告诉你,这不是一个合法的身份证号。

[00:32:03] 蒋炎岩

然后你的任务就是,我已经告诉你了,身份证号校验的规则写的非常清楚,然后你需要写一个程序来校验身份证号是不是合法,以及出生日期是不是在1900年1月1号到2025年5月10号之间的某一个合法的日期。就这样的一个简单的题目,我觉得是大一程序设计期末考试的题目?

[00:32:25] 真开心

那你觉得为什么会有这么多的参加考研复试的学生做不出来呢?是不是因为他们没有像小学生这样,有这么好的小时候就参加编程培训的条件呢,还是说你觉得是他们自己的问题?

[00:32:40] 蒋炎岩

很好的问题。应该是评价体系的问题,使得他们成为了 reward hacker,因为他们考研最重要的就是408的那个专业课,然后我有一年去改过那个408专业课,然后我我就我还是有点受不了那个那个题目,我不知道出题人脑子怎么样了,能够出出这样没有任何意义的一个服从性考试的题目,有种什么感觉呢,这个考试就像是给你一本书,然后这本书是一个 random string。

[00:33:11] 蒋炎岩

random bit string,然后它的问题就是从这个 random bit string 里面掏出某一个位置出来,请你写出这个第38页的第六行的那个 bit string 是什么,然后这个东西因为它是不可压缩的,就是你不可能建立一个更好的知识模型来去理解这个知识,所以你只能把它记住,然后考研的人就花了时间去记了这个,然后他其实什么也没有学会。

[00:33:35] 真开心

所以你刚刚的利用压缩来对于这个408的解释,我们可不可以理解为,需要在这个考研的初试中获得好成绩,你所需要的其实不是对于知识的理解和运用的能力,而是对于他的原话的记忆能力。

[00:33:54] 蒋炎岩

或者说是考研的机构发现了一条捷径,使得你不需要去理解它。也就可以在考研里面获得一个相当好的分数,因为大家的目标是可能是上一研究生,然后我先上再说,其他的我不管,所以这就成为了他们最保险的途径,因为如果你他从头开始好好学习编程,这个学习路径很长,然后需要大量的练习,他们可能觉得自己完不成这样的好的训练,所以他们就选择速成,某种程度上也是被逼的。

[00:34:27] 真开心

在这篇文章的评论区里面,有一个网友评论道,这年头能到南大复试线的,少说有一半是心无旁骛地备战408的4门科目一年乃至两年的。编程实践是啥,只会影响我刷考研习题集的速度,你认为这就是你提到的针对现有的考研评价体系的 reward hacking 吗。

[00:34:47] 蒋炎岩

You are absolutely right。

[00:34:49] 真开心

那你觉得这个考研评价体系,或者说这样子 reward hacking,它的问题出现在哪里?是学生吗?是培训机构吗?还是说是制定这个评价体系的人呢?

[00:35:03] 蒋炎岩

我想想这个话能不能说,我想想这可能不说,能说,我还是用一个能说的方式来说。我的观点是这样的,我们的[此处语音未辨清]从上到下,我们的国家没有足够的人才。也没有一个足够好的流通的体系,使得有能力的人可以去主导这样的一个考试。

[00:35:33] 蒋炎岩

而是他一旦确定了一个范围以后,他可以觉得很安稳的做几十年,因为他只要不出错,对他来说就是好的,那他也可以做一个 reward hacker,就是每年就出一样的类似的题目,然后这个题目,你也不管它在现实世界今天的意义下,和计算机专业已经有多么的脱节,他只要有一个服从性的考试,能够把大家的成绩按照从高到低排序,并且 somehow 他还可以对外辩解称说我说的这些东西还是和计算机有相关性的。那当然是有相关性的,他就在一个不败之地上,这个体系不摧毁,那 reward hacking 就是一个必然的现象。

[00:36:19] 蒋炎岩

但是这个体系要摧毁,又需要大量有能力的人,愿意在这个体系的底下一点一点向上走,但这样的向上的通道几乎就不存在,所以这是一个系统性的问题。

00:36:33 教学荣誉与信息学竞赛

[00:36:33] 真开心

我能不能理解为,当你的向上通道,当你获得主导选拔机制的通道,本身就需要你通过 reward hacking,通过向评价体系妥协,来走的话,等你走到那个地位的时候,其实你已经不会再是一个拒绝 reward hacking 的人。

[00:36:54] 蒋炎岩

这我不确定,但是我作为一个不喜欢 reward hacking 的人,显然我拒绝一切和教学相关的这种评价体系上的东西,包括奖励荣誉这些,我唯一我会我觉得我获得一个南京大学学生评选出来的我最喜爱的老师,然后当时很很惊喜,因为我不知道是学生用脚投票投出来的,然后这是我唯一的获得的某一种,好像有一定官方认可的荣誉。

[00:37:23] 真开心

但是这个荣誉没有任何用,这个荣誉在你看来才是最没有 reward hacking 的,最最真实的反映了你的教学对于学生的影响。

[00:37:33] 蒋炎岩

我觉得是这是学生对我的认可,但是他不能帮助我任在任何意义上,向上。

[00:37:42] 真开心

哪怕走一小步。你本人是通过 NOI 保送到南大的,然后我们这个节目之前,许多的嘉宾也是信息学竞赛选手,你觉得和考研初试比起来,信息学竞赛是一种更可靠的选拔机制吗?

[00:37:56] 蒋炎岩

曾经是,现在信息学竞赛已经发生了巨大的变化,我曾经有过一个视频说信息学奥赛发生了什么,然后劝退各种各样试图学信息学奥赛的人。因为现在信息学奥赛,首先它难度已经,就他成熟了,他和我那个时候不成熟的时候,不太一样,它成熟了以后,它就可以像数学竞赛一样,在一个空间里面,某种程度上的一种服从性的测试,但是它可以很好地反映你的逻辑推理的水平。

[00:38:27] 蒋炎岩

那么这个时候,老师就显得很重要,但是信息学竞赛老师又非常稀缺。所以这就最后变成了一个有一点点,尤其是在可能要到 NOI 竞赛的时候,他有一点点不健康的竞赛。所以我在今天看,可能我不是特别推荐。大家再去参加信息学竞赛了。

[00:38:48] 真开心

所以这也符合你之前的观点,当一个评价体系非常容易或者说非常的被 reward hacking 给主导的时候,他就不再是可靠的选拔机制了。

[00:39:00] 蒋炎岩

竞赛还不太一样,竞赛还是一个可靠的选拔机制,因为它足够难,它不是一个完全的服从性的考试,所以保送上清北这个事情还是没有问题的,但是在这条路上牺牲了太多,可能不适合走这条路的学生,这是我比较担心的事情。

[00:39:20] 真开心

所以你推荐大家不要盲目的参加竞赛,不是因为你觉得这个选拔机制不可靠,而是因为你觉得他现在过热了,或者说其实有很多人不适合通过这个选拔机制,你是针对那些参加者而言的,而不是在对那些选拔者或者说主导这个选拔的人,再说这个比赛不好。

[00:39:45] 蒋炎岩

对主导选拔的人必须要选出那50个人,所以他只能这样出题。就是因为现在选手已经这么强了,所以他只能这样出题。而你为了达到那个强度,你需要付出的代价,对于绝大部分人来说,都是不可接受的。

00:40:02 操作系统竞赛与 AI 工具

[00:40:02] 真开心

最近我看到你也参加了另一个选拔,或者说另一个对于学生的考察,就是全国大学生计算机系统能力大赛,然后你在6月13号小红书上宣布说你退出了这个大赛的技术委员会,你可以讲讲技术委员会是做什么的,然后当时发生了什么吗。

[00:40:22] 蒋炎岩

技术委员会主要是评审和制定规则,但是可能我不能透露太多,因为好像有一个保密协议,不能对外透露太多关于这个竞赛的事项,但我想也没有太多的约束,当时大家主要的问题是在最终决赛的时候,应该是有一个12个小时的比较长的编程时间,那么允不允许大家用大语言模型,然后我们几个可能比较年轻的老师,包括我们的技术委员会的主席,都是认为还是应该在一个受控的情况下,提供一些大模型的 API,因为从我这边来讲,现在,尤其是这一代这两年的学生,他处理这个细节问题的方式已经和我那个时候完全不一样了,比如说我读书的时候,我会花很多时间读手册,然后把那个手册一遍一遍读,然后要记住里面相当多的内容,像古法编程的巅峰了,比如说你要做一个 git 命令,那我都是肌肉记忆,但是今天的学生们不一样了,今天的学生他只要有对 git 的,比如说模型有一个很好的理解,那个数学的模型,它是一个 persistent data structure,然后他可以做什么样的操作,然后至于什么样的命令来完成这件事情,他不需要知道。

[00:41:37] 蒋炎岩

他只要跟模型说好,我现在要干这件事,达成这个目的,请你帮我做,所以这可能是一个学数学的人,他他有一个非常好的数学概念,但他对命令行计算机一无所知,他依然可以完成这件事儿,然后在操作系统竞赛的时候,同学们也是这样的,他们在在解决这些细节问题的时候,通常都不需要再花很多的时间去肌肉记忆一个非常底层的东西,他只要知道原理,就可以。如果你允许他在初赛的时候用,我相信他大部分的所有或者百分之百的这样的细节都不是由他手工完成的那到决赛的时候,他就变成了你砍了他的手,砍了他的手和脚,让他来展示一下他的才能。

[00:42:19] 蒋炎岩

那对操作系统竞赛来说,我觉得不 make sense,道理是这个道理,然后我不知道为什么老登们总是觉得,可能他们没有用过大模型,对所以最终大家还是投票,然后决定禁止使用大模型,就是这样的一件事儿。

[00:42:39] 真开心

你刚刚提到说初赛的时候,或者说预赛的时候允许选手允许学生使用大语言模型,但是决赛的时候,不使用,你觉得这是一种冲突。同时你也提到说,现在这一代 CS 学生,或者说系统学生,他们处理细节的方式,和以前的人不一样,他们往往会通过在一个比较高的抽象层级上,对一项技术建立理解,而不是去了解这个技术细枝末节的方式来学习一项技术,这种学习方式是依赖于 LLM 或者说 AI 可以帮他们处理细节的。

[00:43:14] 真开心

你觉得这两个原因,哪个原因让你觉得是更大的原因。

[00:43:20] 蒋炎岩

当然是他们解决问题的方式变了,现在人很难在没有 LLM 的方式下再工作了。所以当你把我丢到一个完全封闭起来的古法编程的现场的时候,我觉得我的学生,我就我自己的能力其实也极度的退化,但是这不代表我没有办法设计一个好的 system 或者能够做一些比较 fancy 的事情。

[00:43:46] 真开心

你觉得脱离开 AI 或者说脱离开 LLM 做不到很多事情,是现在人能力的一种倒退吗,还是说是现在人能力的一种转变或者说进化。

[00:43:59] 蒋炎岩

好问题,因为我们有了 LLM,所以在有限的时间里面我们可以学更多的东西了?而不是你必须要花很多的时间去掌握一项技能性的东西。而是你能够通过某一个方式把它的原理理解了以后,你就可以去创造一些以前你想都不敢想的事情。也就是说我们的在大学里面能力的边界其实被极大的扩大了。而这才是我们真正应该要拥抱的东西,而不是说操作系统大赛,我们还是把你们都捆起来去做题。

[00:44:37] 真开心

那从这个角度上来说,其实很多比赛或者说很多能力在有了 A 之后都应该边界被扩大,大家都可以在更高的层级上去思考和做事,然后在同样的时间里面做到更多的事情,那你觉得所有的选拔机制都应该允许 AI 的使用吗,举个具体的例子来说。

00:44:57 信息学竞赛应不应该允许 AI

[00:44:57] 真开心

你觉得信息学竞赛应该允许 AI 使用吗。

[00:45:03] 蒋炎岩

我觉得信息学竞赛打一个类比就是武术。我觉得是一种首先它可以强身健体,也就是说它可以锻炼你的逻辑能力,其次它还具有一定的观赏性,当然可能是相对于圈内人来说具有一定的观赏性,那么它就是一个很好的舞台。可以去评价你这个方面的能力,那么你想武术比赛,你你你应该不会想象,在武术比赛当中掏出一把枪开始扫射,对吧,所以我觉得武术比赛有一个它封闭世界的规则,这个是 OK 的。

[00:45:37] 蒋炎岩

但是如果你真的开始打仗了,那你会派这些练武术的人去打仗吗?还是你选择的无人机,机器人和导弹,对吧,这个答案就非常明显,所以我觉得像比如说操作系统竞赛,它是一个展示你系统能力的综合能力的舞台,当然应该允许 LLM 如果是 OI 竞赛,那么它更像是一些爱好者一起的游戏,那你们只要把游戏规则定好了,对吧,你像掼蛋,对吧,你理论说我有一个好的状态,空间搜索能把它全部搜索完的时候,我就可以做一个最优的的决策,那掼蛋就没有任何意义了,对吧,但是你依然还是会看,大家打掼蛋,同样的依然会有一批人会喜欢 OI 竞赛,这是我的理解。

[00:46:25] 真开心

我觉得这个类比特别好,你把算法竞赛以及算法竞赛相关的一些条件限制,比喻为武术中不能使用导弹这样子的限制,可是我们也看到,自从现在的武器,现在的兵器出现之后,大家越来越不会把武术水平作为衡量一个国家,或者说一群人他们军事能力的标准,也就是说武术这个东西从一个非常重要的衡量你的军事能力的一个方面,它现在变成了一个一群爱好者,一群小圈子自娱自乐的一个游戏,你觉得信息学竞赛也在变成这样吗。

[00:47:04] 蒋炎岩

信息学竞赛还承担了另外一个职责,就是为国家筛选那些真正具有逻辑推理能力天赋的人,如果这个职责不消失,我觉得信息学竞赛依然还是有价值的,因为你反过来这样想。如果我们最终评价还是能不能在战场上面获胜,那么倒过来推,你就需要有一个非常强大的工业和科研体系,然后这个工业和科研体系必须能够造出比你的对手更强的武器,更强的导弹,更强的无人机,而你建设这样的强大的工业和科研体系,又需要不同类型的人才,对吧,比如说,如果你要建工业体系,你首先就需要有很多的人口,要解决人口的问题,然后如果你要科研体系,至少从目前的版本答案来看,我们依然是需要这个逻辑能力极强的人,当我们需要这个极强的人的时候,我们就需要一个体系,所以有的时候这个社会的运转是比较复杂的,每一个体系存在都有一些问题,也有一些它存在的道理,但最终他们会形成一个整体,是我们的在发展当中的国家。

00:48:10 怎样考察人的能力

[00:48:10] 真开心

刚刚你提到很多人现在使用一项技术的方式,或者说使用一种工具的方式,不是去阅读这些工具的具体的手册。而是去用 LLM 来处理一些技术细节,而自己只理解这些工具的顶层的逻辑,或者说它的数学模型,那你觉得2025年,学生编程能力不行,这样的事情,对于考察学生而言还重要吗?因为我想任何一个 LLM 都可以非常轻松的做出这样一道身份证校验码的问题。

[00:48:41] 真开心

你觉得还需要考察学生的编程能力吗?

[00:48:45] 蒋炎岩

从某种程度上来看,至少我们想要招收的学生还是应该具有一定的编程能力的,然后同时我们的招生也是有一个明确的标准的,你应该掌握这些课程当中的内容,所以这样的一道题目,从考核的角度来看,它是公平的,也符合或者说对于那些学生,他学过的课程,我们的一个要求和想象。

[00:49:16] 蒋炎岩

所以,在这个意义上,我觉得他们是被迫来考试的那我们也被迫用要用一个方式把他们拉平,所以我们需要出这样的题目。如果至于怎么样考察他们,比如说使用在有 LLM 的时候,他们人的能力,那可能是交给,比如说导师来判断的,这样我们有时候也是无奈要设置一个选拔性的考试,我们必须要出一个卷子,而且可能比如说机试这件事情本身就已经是预定好了的,他必须要一套题目。

[00:49:45] 蒋炎岩

那我的职责就是出一个,我认为他们应该能够完成的题目来完成一个筛选,只是这个效果远远不达,远远不及预期,而且这个不及预期可能不是因为这些学生用了 LLM,因为他们在入学的时候,其实那个时候他们能用到的模型,可能还没有那么好的编程能力,他们几乎不能用它来解决编程任务,那个时候也没有很好的 agent,所以这个题目从考试的角度来看是成立的,但从时代的角度来看,也许这个考试不应该存在。

[00:50:20] 真开心

你刚才也提到公平不公平是一回事,但是考核的意义本身是另一回事,你觉得未来存不存在某一个时刻?一个没有办法熟练的,或者说正确的做出身份证校验码这样子问题的人,通过 LLM 其实可以设计出非常好的系统的,或者说如果这个时刻来了的话,针对一个人能力的考察应该怎么进行呢。

[00:50:45] 蒋炎岩

非常好的问题,我可以回答,Everything is the state machine。因为每一个人,也是一个 state machine,然后你我为什么会说 state machine 呢,因为这就是我思考所有的问题,比如说我要做一个 system 的时候,我的 first principle,然后你把这个人想象成 state machine 以后,其实你人每一个人都有一个成长经历的轨迹。然后如果比如说你有这个人,在所有的时候和所有人的沟通交流,他表现出来的样子,他解决的问题,他解决的那个过程,那么你把它做一个压缩,把一些可能不重要的信息给删除掉,可能有些实在是隐私上面不应该暴露的东西,他也可以选择不暴露。

[00:51:26] 蒋炎岩

那么你 digest 它的这个 state machine execution 的 trace,你就知道你要不要录用这个人了。所以其实在有了 A 的时代,我们不管是评价也好,还是筛选也好,我觉得都变容易了,而不是变困难了。只是你愿不愿意以某种形式,像一个比如说 blockchain 一样,你去把你的经历去 persist 到这个 blockchain 上,使得别人可以审查它。

00:51:54 选学生与研究品味

[00:51:54] 静波

您之前写过一篇特别著名的文章,叫给天命人的劝退信,是写给很多准备读博的学生。您现在自己也在带博士生,同时你也在设计竞赛题,您可以分享一下,您是怎么去选拔,你愿意一起工作的学生,以及你怎么培养?

[00:52:19] 蒋炎岩

可以说我没得选。因为我总是需要一些学生,然后如果有学生来,我有名额的话,我可能会选择把这个名额给他,只要我觉得他还是有有一定的 self motivation,我觉得就可以。然后至于培养的话,我觉得可能我不是一个特别擅长培养学生的导师,我我我我我觉得我还是尽责的,我所有跟学生的开会都是一对一的,然后我可能也会给他分享我的观点,这样但是我细节的东西可能确实会知道的少一点,尤其是现在 AI,学生大部分时候可以问 AI 来获得技术上的这些细节,但我一直不觉得我是一个非常好的导师,因为我觉得我的学生要么就是能够按时毕业,要么就是很长时间毕不了业,有点糟糕。

[00:53:08] 静波

您刚才提到就是把之前他的人生经历作为一个状态做压缩。那您一定也会有一个判断。说这个学生是不是一个我喜欢的学生,或者他有没有跟你一起做科研需要的素质,您怎么去压缩这件事情,看出你面试学生的时候看什么。

[00:53:30] 蒋炎岩

如果我给我足够多的样本可以挑的话,我想找的是那些没有做 reward hacking 的人。因为我确实收到过很多简历,就觉得他就是 reward 的 hacker,或者说现在有一个风气,每我收到的每一个简历都是一样的,都是我参加了这些项目,然后我发表了这些论文,也可能有论文,也可能没有论文,参与了各种各样的东西,拿了各种各样的奖,然后如果我会问他,你觉得你做了一件最了不起的事情是什么?

[00:53:59] 蒋炎岩

他说不出来,他会说,我在这个项目里面做了一个 A 加 B 的排列组合,然后我就觉得这是你的动机,对吧,你的动机应该是是啊我就要做一个特别酷的 gal game,然后这个 gal game,大家玩了以后就觉得很很厉害,可能真的不是那么的完美,做的也不是那么的好,但是他有一个对自己东西的,说自己东西的时候,眼睛里有光,我觉得就是一个很好的同学。

[00:54:25] 静波

您在不同的场合都提到要培养科研的 taste,什么是 taste,您能展开说说吗。

[00:54:33] 蒋炎岩

就说到了我前面那个 small explanation 的时候,我们说我们要能够有一个过程,对吧,有一个程序可以枚举所有的解释,然后可以找到这个世界上所有的 research topic,然后派博士生去去研究它。然后你的 taste,就是你对拿着字典枚举句子,那个空间训练出来那个 manifold,你你你把它压缩到一个低维的结构上,你每个人都是一个压缩,就是智能,你把它压缩到一个结构上,然后你排除掉的那些东西。和你留下的那些东西,如果你的 taste 不好的话,你那些有意思的东西永远不会出现在你的 manifold 里,你训练的不好,然后如果你你你 taste 好的话,你就可以找到一些别人意料之外的对吧,但是情理之中的很有价值的东西,这是我的一个比较 technical 的理解,但是人类还没有完全把怎么样,比如说培养有一个有 taste 的人这个方法得到一个确定性的途径。

00:55:32 他理解的 AGI 路线

[00:55:32] Summer

你刚刚说,就是你选拔学生的时候,你可能会问他们,你做过最了不起的一件事是什么?所以,你可以很快的给观众朋友们回答一下你自己对这个问题的答案吗。

[00:55:46] 蒋炎岩

不要思考。我觉得还是我看清了 AGI 的路线。因为我觉得我设计过很多还是不错的东西,但是都不如我,就有一天我突然看清楚了一个 AGI 的路线,这件事情,可能对我来说,是一个非常有意义的事情,然后如果你愿意的话,我可以花几个小时来把里面的逻辑一点一点给讲出来。

[00:56:15] 静波

如果说现在我们只有五分钟,你要说服你眼中的真相,就是 AGI 来了,你有没有一个比较简短的版本?你有没有办法把这个,你眼中的真相做一种压缩。

[00:56:35] 蒋炎岩

可以,当然可以,我觉得都不需要五分钟,就是一个非常宏观的想法,因为刚才我们在讲到的时候,其实我从中间的某一个位置开始讲起了,所以这个逻辑前后就有点断,有点断开,我们发现我们的那些成功了的,就是塑造了我们生命,塑造了我们的品性,塑造了我们的品味的那些东西,都是由一个叫一个很小的东西,通过组合和复用实现的,也就是说,不管是我们的你可以想象是 DNA 也好,蛋白质也好,还是我们的神经元也好,他们的本质都是一个一个一个的小东西,每个都有点不一样,但是他们组合起来以后,经历一个计算的过程,它就可以得到一个非常有趣的结果,然后这个结果又可以用来评判好和坏,比如说我的种群是不是在竞争上面获胜了?

[00:57:31] 蒋炎岩

然后我的生命是不是存续了?然后我是不是更好地预测了,神经网络,这个过程会带来一个非常自然的结果,结论就是 scaling 了。你想,我们从最简单的,只有几个 DNA,几个 basis 的生物开始,然后成功了,再 DNA 再长一点,蛋白质再多一个,神经网络,最早的那个秀丽隐杆线虫就是302个神经元,302个神经元,如果我没有记错的话,302个神经元,但是它可以找到这个食物,可以找到最佳温度的区域,可以避开不利的地形,甚至去学习,有记忆学习环境的特征。

[00:58:13] 蒋炎岩

然后通过复制同样的结构,它就可以实现能力的 scale,然后我们就看到了越来越大的生物,对吧,所以就应该在一百多年以前就问人类为什么这么大,然后我们又有了更好的大脑,就是一个更好的 predict,然后这个 scaling law,其实在 pre-AI 的时代就不断的在被人类给利用,而其中最有趣的就是语言,所谓的语言它同样是一个可以组合和复用的 basis,就是一个一个的汉字或者一个一个的 token,然后语言的目标是实现群体的对齐,实现可以迁移的后天记忆,让不同的人看到或者听到同一个字,可以产生一段相同的联想,我就举一个俗一点的例子,我经常举这个例子说,我今天上班来的时候看到了一个美女。

[00:59:03] 蒋炎岩

然后当我们谈美女的时候,这件事情,大家就一下子对齐到了同一个 embedding 上,但是其实每一个人,他在这一生中看到所有的人都是不一样的,他对美的感受也是感性的对吧,可能你喜欢的那个,你觉得美的那个,你的初恋就是胖胖的,然后你的初恋又是长头发的或者短头发的,你会认为那个叫美,对吧,然后他们是做了一个抽象,然后对齐到同样的 embedding space 上,然后语言也是有 scaling law 的,它可以组合和复用,从最早的比如说一个象形文字,一个山字,它就是一个像山的样子,然后不同,只要你画出来大概像那个样子,你就知道是这个字,读这个音,对吧,直到我们后来有了车同轨,书同文有了数学的语言,我们都是在这个 basis 上面做组合和复用,而这个组合和复用的能力,带来了 scaling law,然后带来了 scaling law 以后,我们就可以不断地在这个层次上面生产下一级的智能,也就是说我们有一个金字塔一样的结构,最底下是 DNA 蛋白质神经元语言,在语言上面有了数学的语言。

[01:00:18] 蒋炎岩

为什么有为什么数学的语言,特别高效呢,是因为数学语言在全世界的人眼里都有一个确定的形式语义,所以我就可以做基于全世界人都达成共识,去做一个长长的机械推理,就是我们现在的 next token prediction 可以,Autoregressive 可以实现解决数学问题的一个基座,然后在这个数学语言的基础上,我们造出计算机,有了 LLM 的 agent,但这一次不一样,这次我们的组合和复用,我们这个元级的机制是可编程的,我们甚至这个元级的机制可编程,是可以由这个计算机自动去修改它的,对吧,AutoML。我们可以自动去优化我们的 ML 的 pipeline,去提升神经网络的能力。

[01:01:06] 蒋炎岩

而这带来一个我们不需要人,不需要物理世界的驱动,而只要一个循环,就我说的那个 small explanation 的循环,我就可以实现无限的算力和无限的智力,这就是我理解的 AGI 压缩就是智能,scaling,就是 AGI。

[01:01:25] 真开心

我觉得非常的有启发,然后我觉得如果我们有时间允许的话,或者说如果你有兴趣的话,我们后面可以专门挑一期来仔细聊这个问题,因为我觉得这个其实可以聊的非常多,而且我们可以跟一些其他的人的观点去互相的印证和讨论。

01:01:42 筛选、培养与教师的“表演”

[01:01:42] 真开心

我下面想一个想想问一个关于培养和筛选的问题,我们前面提到了 AI 时代如何去选拔和考察人才,但是你自己也表达过一个观点,就是你不单单想要去筛选人,你想要去培养人。甚至说当一个系里面的领导说想让你去跟一个比较老资格的教师去学习它的操作系统课程的时候,你直接选择了拒绝,你选择自己去掌握你上课的权利,自己去安排你上课的内容。

[01:02:18] 真开心

那你觉得筛选和培养的关系是什么,或者说你现在选拔的过程中遇到的一些学生,他们在 reward hacking,他们没有展现出你所想要的编程能力和逻辑能力。这件事情是因为他们之前的培养,他们本科阶段的培养不够吗?

[01:02:37] 蒋炎岩

我觉得很大程度上是不够的。我觉得有一个最近我听到那个3Blue1Brown 的创始人,就是非常著名的数学科普博主 Grant Sanderson 的访谈。然后我觉得我和他的观点会有点像。他的观点是教学的核心,就是去演。最好的办法,他认为最好,比如说教数学的方法,比如说高中生的数学方法,就是去雇一些演员,虽然有些[英文未辨清],但是你就可以雇这些演员去挑起学生的学习动机,让他觉得学这个东西是有意义的,有意思的,然后并且用适当的方法,对吧,这两个都是很重要的。

[01:03:17] 蒋炎岩

适当的方法,以他可以接受的方式去理解这个数学,我其实非常认同,我小红书刚注册账号的时候,我职业填的就是演员,但是感觉可能小红书大数据不认可,然后就把我这个给删了,我就觉得其实应该是能够存在一个人可以接受的方式,让他产生兴趣,然后逐渐的了解这个知识体系,而可能我们绝大部分的学校,绝大分的课程都做不到这样的比较高的标准。

[01:03:52] 蒋炎岩

对吧,就比如说像数学的科普。大家都是看了3Blue1Brown 的时候,大家就,这个东西可以这么讲,其实很多时候他他在他在放那个视频的时候,其实我会发现,我的想法就是他的讲法,但我们我可能从来没有跟人表达过。

[01:04:09] 真开心

对你说一个好的老师,在上课的时候应该是一个演员。他扮演的是什么角色?这个角色跟我们一般情况下老师的角色有什么区别?你可以举个例子吗?

[01:04:19] 蒋炎岩

就是共情学生,让学生感觉到自己有参与感,然后感觉到自己能学会,然后感觉到自己想要这个东西,但其实这是有一定的欺骗性的,比如说我在操作系统课上面,我会比如说我有一天我会说进程的地址空间是这样的。那我就问一个问题,我能不能去修改进程地址空间?然后完了,我就直接掏出一个游戏修改器,我就在这个课上开始打红警了,同学们就觉得很很有这个参与感,他会觉得原来你学这个操作系统知识还有这些用处。

[01:04:58] 蒋炎岩

但其实某种程度上,这是不 fair 的,因为我在这门课上给他引入了一个偏见,他会觉得可能操作系统是不是更好一点?实际上不完全是的。你在每一个领域里面都有最精彩的东西。只是可能他没有碰到这个合适的老师,使得他错过了那个本该属于他他可能最适合的领域。我可能是这样。

[01:05:24] 静波

那蒋老师,如果说好的老师是演员的话,绿导师是你演出来的。

[01:05:31] 蒋炎岩

我觉得是。因为我有一次还和别的老师会聊起这件事儿,就是我我其实我分不清我是我是在演还是在我,我真的是对这个东西有某种的热情,因为更多的时候我我我已经可以一定程度上解构学生,可以知道,比如说学生在听到这个东西的时候,他会可能会不太明白,他在这个时候会可能会需要再回去再看一下,当我能够掌控这个节奏的时候,我觉得我我我就是一个演员。

[01:06:04] 静波

所以,在这个过程当中,您是创造了一个令学生非常感兴趣的角色。所以,您的假想的观众是学生,还是您的假想的观众是社会,就是您的这个戏谑是用来吸引学生的,还是用来解构学术的某种严肃性。

[01:06:26] 蒋炎岩

我还是在吸引学生和讲授知识之间达到一个平衡,因为当我上这门课的时候,我的最终目的是把这门课的知识点和一些可能的引申,比如说他学会这个知识以后可以做什么去教给学生。所以这是我设计课程的目的,我每一节课都会围绕这样的一个,比如说从一个问题开始引入,然后会有一些有趣的例子,这样,但同时也会有很多技术的内容。

01:06:51 知识的诅咒与个性化教学

[01:06:51] 真开心

你前面提到当一个演员的目的是为了让学生共情,为了让学生知道哪些地方不懂,不是他,的问题,或者说为了了解到学生在哪些地方会遇到什么困难。我知道在教学里面有一个概念叫做知识的诅咒,就是说当你真的非常懂一件事情的时候,其实你没有办法去想象的一些没有懂这个知识的人,他究竟是哪里不懂,甚至你对于它的程度的估计也会产生偏差,比如说你会觉得他可能在一个比较深的地方才开始不理解。

[01:07:24] 真开心

其实他可能在一开始就根本就不懂。你觉得你是怎么样去克服这种知识的诅咒的,你觉得任何一个人或者说任何一个教师要怎么样去克服这样的知识的诅咒,然后成为你口中的一个好的演员。

[01:07:39] 蒋炎岩

去教教小学生,通常我觉得这可以通过把一个孩子从小带到大来,大概来了解这个知识的结构,因为我觉得有,我觉得我想过一件事儿挺有趣的,我们上我之前上计算机系统基础面对可能刚学过编程,但是他第一次要做一个比较严肃的 systems project 的时候,我们都会说 read the friendly manual 对吧,当然这个 friendly 是一个 curse word 的替代,然后接下来下一个问题是为什么 friendly manual 是 friendly 的那大家可能没有想过这个问题,反过来抛一个问题给大家,为什么呢?

[01:08:20] 蒋炎岩

就是因为我们的 manual 是一个非常密集的知识的集合体,他只是一个网络,然后他的每一句话都是对的,而每他不愿意写任何一句多的废话,这就使得你在这个知识的 dependency network 上,只要有一个地方脱节了,你的理解就可能是错的,你你你读手册。你最后就可能得不到你那个预期的结果。所以为什么学生喜欢 tutorial?学生喜欢 tutorial 是因为 tutorial 里面的知识是非常冗余的,他会把你知道不知道的都写进去,然后甚至同一个知识点,他也会在里面重复两次。确认一下说这个是这样的,我运行一下,看到这个结果,我再运行一下,是这个结果,他们是互相印证的那这个时候,学生在一个掌握的不是100%的时候,就能更好的跟随 tutorial,建立一个正确的概念。

[01:09:14] 蒋炎岩

所以其实本质上我们当时就想想过要做这样的一个工作,就做这件事儿就把 manual,就当今天大语言模型可以这样做了,把 manual 变成一个滑杆,然后这个滑杆可以往专家的那个位置拖,也可以往小白的位置拖,他可以为你定制一个手册,当然现在有大语言模型这件事情已经变得非常容易了,所以我也是也是我觉得我对比如说教学教师感到有一定的悲观的这样的原因。

[01:09:49] 蒋炎岩

因为我们很有可能会在一个 scaling law 上有一个更好的机制,使得我们可以以碾压式的方式来共情学生,而不需要老师站在讲台上,对着一个平均学生来讲,这样的方式。

01:10:04 操作系统课怎样更新

[01:10:04] 真开心

你之前从2021年开始的时候,就开始给南大开发新的操作系统课程。一直到现在可能已经六年了。你觉得这门课新在哪里。

[01:10:17] 蒋炎岩

好,我从2018年开始建设的这门课程新在哪哪里呢?我觉得我有一个习惯。我每年都要上这门课的时候,我都会先假设我们所有人,地球上的所有人,包括我自己。对这件事情理解都是错的。先把自己否定了。然后再从头想一遍,如果我现在是一个操作系统的设计者,然后我现在要可能要讲授这个方面的内容,因为我还是不能脱离大纲,那么我应该怎么讲,所以我每年都能整出一点新花样,因为每一年我在上课的时候,我都会想,我今年的时候我们手边的工具变成什么了,对吧,比如说去年的时候有 LLM 所以我的课件里面有有好多 AI 生成的解释,然后我就告诉同学们说,你们可以在搞不明白的时候,可以让 AI 帮你解释一下,你可以做一个命令行工具,然后到今年的时候,我就全部都是 agent 来来解决问题,我们有大量 agent 生成的 demonstration,然后如果应该没有明年了,但是我现在还在做一个框架,可以更好的去去定制的生成,这样课堂上面的这种小的组件。

[01:11:30] 真开心

我可不可以理解为这个课堂上的小的组件的生成的框架,有点像 Percy Liang 在他的这个 LLM from scratch 那门课里面做的基于写 Python 的课件。

[01:11:42] 蒋炎岩

我非常喜欢我还从他的这个 GitHub 里面受到了一些启发,但是不太一样,我的野心比他大。

01:11:50 数字课程与教师的未来

[01:11:50] 真开心

你刚刚说到可能不会有以后了,为什么你不教操作系统了吗,那这个广大网友的操作系统教育上哪儿补去。

[01:11:59] 蒋炎岩

我确实不教操作系统了,然后我应该是在课上最后一节课的时候官宣过这个事儿,因为我下个学期会开一门叫叫生成式软件工程 generative software engineering,然后我会把精力放到这门课上,而且我会在做这门课的时候,会把我刚才说的那个有小组件的框架,给实现出来,因为我现在有一个学生可以做这件事儿,然后我希望的是让我的操作系统课以一个数字人的方式永生,然后我可以我可以大概说一下这个想法,其实也挺简单的,比如说我上了一个课,所有的上课就是授课型的,他的讲稿都是最主要的主线。

[01:12:42] 蒋炎岩

所有的课程都是围绕他的讲授知识点的讲授,一个线性的讲授来了,实际上我们是把像幻灯片,代码演示,视频,可视化,交互这些,相对来说比较多模态的东西,去对齐到讲授的时间轴上的,所以理论上说我只要有一个足够好的 system,加上很多我烧很多 token,我就可以把我去年的讲稿拿过来,然后我可以 patch 上今年它发生的变化,甚至是网友可以随便做出修改,然后我只要 build 一遍,然后这个课程就重生了,所以我也是因为看到了这样的也许是未来的教学的方式,因为这个方式很容易,我可以为每一个人 personalize 他的的课程,打个比方你就特别喜欢哪一个动漫角色,然后我就可以让让这个动漫角色来给你讲这个课,而且课程里面会融入和动漫角色相关的内容,因为 content is code,所有东西都可以用 code 来表示,大模型可以生成 code,所以它可以生成任何东西。

[01:13:46] 静波

蒋老师,从您的这个表述当中,我发现了一个矛盾,就是你的推理是,你需要一个有冗余的环境,所以 LLM 更适合做这件事情,所以你就导出了以后教师有可能不复存在的这么一个结论,但是我们看到的是,第一,你是最受欢迎老师,第二,你的课程特别受欢迎。第三,你自己对于如何教授有独特的心得,这不是反了的。

[01:14:19] 静波

我感觉你非常适合当老师,而且以后,我们需要更多像你这样的会教课的老师,我觉得 LLM 很难传授 passion,taste 这种东西。

[01:14:30] 蒋炎岩

和你的感觉相反。我觉得这些反而是一些比较容易的控制的技巧。而模型其实挺擅长这一点的。因为无非就是一些小伎俩,要么就是玩个梗,要么就是结合时事来评价一下,要么就是做一个同学们很容易接受的可视化,或者找一个他们生活中的例子,然后所有的这些都是有 small explanation 的,你理论上说是可以通过枚举,就是可以通过算力换智力,教课本身它没有超出人类已有知识的边界,所以它就是一个 A 加 B 加 C 做这件事儿的过程,在一个封闭的世界里,他没有这种科研上面的这种可能天马行空的创新,在我看来就是我所有做的创新都是在一个非常规整的流形里面完成的,我想 AI 替代掉[此处话语不完整],只是可能现在比较好的老师还比较少。

01:15:36 内核教学与减少学分

[01:15:36] 真开心

对你在开发操作系统课的时候,做了一个违背祖宗的决定。这个决定是你在2025年写的实名举报信里面提到的,你说你把操作系统的内核的部分从教学中去掉了。为什么说这是一个违背祖宗的决定?

[01:15:55] 蒋炎岩

因为所有的操作系统的教材,当然我觉得我选的那个 Remzi 的那个教材,不完全是。都是在讲操作系统内核,我从我自己学操作系统开始,然后我就发现这个学习路径可能是有一些有一些问题的,因为99.5%的学生可能不需要在本科毕业以后去碰到系统内核,所以我们为什么一定要教他呢,我我我反复问这个问题,是不是里面有一些很重要的思想,一定要交给学生,然后我反复想过以后发现其实并不是这样的。

[01:16:31] 蒋炎岩

我完全可以把里面那些重要的东西搬到用户态,他让学生去理解问题是什么?解决这个问题,他能在用户态下解决这个问题,下一次他自己实现自己操作系统内核的时候,也可以让 agent 在操作系统内核里面解决这个问题。所以我只需要把我要讲的东西挪出来,那我自然而然就可以不需要讲任何很多细碎的,因为他开始理解内核的时候,他首先要知道硬件是怎么工作的,然后一也就是当我调代码的时候,我很难在一个很好的抽象层上让他既能明白 OK 我们其实是在真正的硬件上,然后又能够屏蔽掉那些复杂的底层细节,而这些细节可能对学生来说又确实不是必要的,然后当我想通这点以后,我又找 IPADS 他们那个教操作系统非常资深的老师去讨论这件事儿,然后我们讨论的结论就是可以试一试,那我就说我要试一试。

[01:17:29] 真开心

你觉得你在教学改革,上面做了一些其他的动作,也是违背祖宗的吗?比方说你提到,你去减少了南大培养方案的必修学分数量,比如说你提到了你减少了离散数学课程覆盖的内容,比方说你接下来要新开的这一门生成式软件工程的课程。你觉得这些也是违背祖宗的决定吗?

[01:17:54] 蒋炎岩

我觉得不太违背祖宗,他有点出格,但是从时代的角度来讲,可能是比较重要的,因为为什么要减学分呢?是因为上课大家都知道上课耽误学习,所以当减了学分以后,学生才有可能有更多的课余时间来学习。初衷是好的,但是最终能不能收敛到一个更好的结果,我不知道,但这是我唯一能做的事情。

01:18:20 生成式软件工程新课

[01:18:20] 真开心

那那你可以谈谈这门新课,生成式软件工程?你觉得这门课要教什么东西?然后又要让大家掌握什么技巧?因为我知道斯坦福好像在2025年开了一门课,叫做 the modern software developer。它里面讲的内容就是,学生在这门课里面不能用手写代码,所有的事情都要用 coding agent 来做。

[01:18:39] 蒋炎岩

完全是一样的,我可以理解成是一个高配版的 modern software developers,我大概会设想,这样。我会从让他们实现一个 personal assistant 开始,就有点像一个小的 agent,然后能够处理邮件,比如说我一个的方式就是我我有一个 agent,然后我可以给他发邮件,然后我可以评估他是不是有一个足够大的 memory,可以记住我给他的一个很大的数据库,然后呢以及多轮对话,它会不会会崩掉,一个一开始一个比较小的系统,它可能还比较容易 vibe code,然后我会以一个非常坑的方式不断的在这个系统上面加入新的内容。

[01:19:20] 蒋炎岩

比如说我我我第二个 lab 可能会让它能够处理一个几百篇论文的 proceedings,那他一个 sequential 的流程,它可能就马上就不响应邮件了,对吧,然后这系统就崩掉了,他必须要改变这个系统的架构,然后再等到后面的时候,我会不断的在这个系统上,它从一个最小的 personal system 开始去加很多很多的功能。直到每一次的时候,都是在软件工程意义上它会 fail,他如果直接让让 AI 去 vibe 的话,AI,你知道这个 Codex 和 Claude 都很喜欢,过度设计,然后最终陷入一个无意义的泥潭当中,尤其是当需求增加以后,一个。他想,未曾想过还要做这个的时候,我接入一个硬件的时候,它接口设计的不够好,然后在这个过程中同学们会体会,怎么样把这个软件给拆开,然后怎么样做 CI/CD,然后怎么做好软件的测试,测试算是我老本行了,就这样的,这些软件工程里面的概念就这样放进来,在一个比较大的 project 里面,对一个跟一个学期可能是我现在的设想,但是没有完全定下来。

[01:20:30] 主持人

好的,我替我们听众里面蒋老师的长期观众问一下,这个课程会放到网上吗?

[01:20:37] 蒋炎岩

会的,而且我现在的计划是,我可能不直播,但是我会把课程的录音转写下来,然后这样我就得到了一个讲稿,对吧,然后我会把这个讲稿修缮,修缮完了以后,以一个更完整和更高标准的形态给释放出来,因为我觉得,比如说我像一个星期要上两次操作系统课,我我备课的压力是非常大的,非常非常大,所以其实课程的质量在有些地方是失控的,比如说如果我前一天出差了,然后出差回来,我第二天要上课的时候,我可能会东拼西凑一些内容,失控,但是我下学期,因为我一周只有一次课,而且我有我有这样的一个 infrastructure 的,所以应该能够试一试,看是不是可以得到一个更好的课程。

[01:21:21] 主持人

你觉得你的这个 infrastructure 是 agentic AI 时代的,像3Blue1Brown,的 manim 一样的东西。

[01:21:29] 蒋炎岩

我不确定,因为我没有什么野心,但是也许他就火了,对吧,我有一个规划,那也取决于我的学生能把它做到什么程度。

[01:21:37] 真开心

你觉得这门课是在教大家软工,还是在教大家。

[01:21:41] 蒋炎岩

AI?我觉得是软工为主,但是大家会知道 AI 可以做什么?因为本质上我也会,因为它一开始就会做一个 assistant,它就是一个有点像 agent 的东西,所以他也会体会到,我不会讲模型是怎么 serve 的,但我可能最后一个实验他我会说说你需要在你的本地去 serve 你的这个 agent,然后这同学马上就傻了,这个对吧,嗯这个 lab 难度可能比较大,但是他依然可以用大模型去去实现代码,所以在这个过程当中。

01:22:17 软件复杂性与课程如何适应变化

[01:22:17] 蒋炎岩

他会知道很多和大模型相关的概念,但我还是想说这是一门软件工程课,让他体会驾驭软件复杂性的过程。

[01:22:25] 主持人

我的理解是,在 coding agent 的年代,软件工程很多的最佳实践其实是在发生变化的,比如说在 coding agent 出现之前,大家写代码是很需要时间的,但是在 coding agent 出现之后,写代码需要的时间大幅减少了,你其实可以写出非常巨量的代码,所以这就让验证代码的正确性这件事情变得越发重要了。

[01:22:45] 真开心

所以我可以理解为你在这门课里面想要教大家的是 coding agent 年代,或者说 AI 年代的软工的 best practice。

[01:22:53] 蒋炎岩

正确。

[01:22:53] 真开心

这就有一个接下来的问题了。Agent 的能力其实是在不断变化的,可能几个月它就变化一次,几个月前你的一些 best practice 可能是为了针对当时他的一些能力上的缺陷,或者说在能力上的局限性的,但是几个月之后,这个局限性消失了。那你这个 best practice 也就过时了,你觉得作为一门一年或者说一学期上一次的课程,你要怎么样应对这种变化?

[01:23:18] 蒋炎岩

这是一个非常好的问题,可以说没有人能够真正的拥抱这样的变化,我只能说的是,我们所有的东西都是有原因和道理的,那么我希望的是我能够展现的是,为什么 fail 了,如果他是以这种方式 fail,我们应该怎么样把它补救,或者我们可以做怎样的设计,使得这个 failure 在一开始就不会发生,可能比如说前提没有了,AI agent 不会发生这样的 failure 了,那这个 module 就显得不是那么有意义了,但是它依然会理解一个 first principle,就是我要我我的模型是有能力的,然后我们要用好这个能力,然后围绕这个能力去设计。各种各样的工具,然后设计各种各样的准则。

[01:24:10] 蒋炎岩

最终把一个软件给做出来,因为我觉得关于软件的知识,比如说我会说上课时会说什么是软件,软件是物理世界过程,在信息世界的投影,这是一个有损的投影,你永远不可能用一句话来造出一个满足你心意的软件,因为你你就是你就是没有把事情给说清楚,然后这样的这个重要的基本原理,可能是我们觉得需要交给同学们的那至于 agent 长进了,可能有些 hack 就不需要了,那那也挺好的。

01:24:43 大型代码迁移的质量

[01:24:43] 真开心

你觉得经过这门课之后,你的学生可以达到 Claude Code 重写 Bun,用 Rust 重写这样的一个水平吗,他们可以做出这样一件事情。

[01:24:55] 蒋炎岩

Claude Code 重写 Bun 有一个非常重要的前提,就是他们花了很多的时间写了那个 rust 的 best practice,你在迁移以后那个 Rust 要长什么样,但这其实是需要非常多对 rust 本身的经验的,这件事情,我觉得在在地球上能做好的人也不多,甚至我觉得现在的这个迁移,我们还等着看笑话,会不会有笑话也不知道。

[01:25:28] 真开心

你觉得有吗,你觉得会有笑话吗。

[01:25:30] 蒋炎岩

如果一定要说一个的话,我觉得会有。我觉得质量是失控的,以我对 Claude 的智力的估计,还是会有很多很多麻烦的事情要收尾的对 OK。

[01:25:46] 真开心

我们敬请期待,我想一个我们一直在注意到的事情,就是你对于教学是非常重视的,虽然你没有评上最重视教学的这个人才计划的答辩,但是你在这个 OS 四大顶会上发表了大陆唯一的教学论文,包括你花了非常多的精力在开发新的课程,再让课程不断的与时俱进,包括你为了这个课程专门开发了一套更 agents 的,更方便学生操作和实践的 infrastructure。

[01:26:18] 真开心

你为什么愿意在教学上面花费这么多时间呢?你觉得你更是一个教师,还是更是一个科研人员?

01:26:26 教学带来的研究与长期回报

[01:26:26] 蒋炎岩

好问题。我觉得我才是一个真正的 reward hacker。我这样解释他,我为什么会觉得愿意做教学这件事儿,是因为我每当在教课的时候,我说我每年都会去否定一下这个地球上的所有的人,当我否定的是一个非常成熟的领域的时候,我往往得到的是最重要的问题和最有新意的东西,所以当你谈 research 的时候,如果你你是想说,我有一个 state of the art,然后我希望去把这个 SOTA 往前做一点,那你你很有可能,比如说你要做一个 MLSys 那你就是 system 里面那几板斧,你先去去 profile 对吧,Profile 然后你你你做各种维度的 trace analysis,然后去,他会遵循一个比较标准的范式,但是当你去思考这个,比如说操作系统领域的时候,你去我能不能做一个违背祖宗的决定的时候?

[01:27:18] 蒋炎岩

我能不能把 Linux kernel,一个可能几十 megabytes 的状态,就给可视化到一个极小的程度的时候,其实你在那个时候会从 first principle 思考去得到可能更有价值的研究问题。所以本质上我觉得我才是一个真正的 reward hacker,我可以看到更远的 reward,然后我可以说,我在这个里面我可以做一个更好的工作,然后大家会认可我。

[01:27:49] 蒋炎岩

因为我做了一个更好的工作,他可能现在,publish 比较困难,但是有一天可能能证明它的价值,那我不就得到更大的 reward 了,我可能是因为我对对自己的能力有自信,所以我选择可以追求一个更有长久的 reward。

[01:28:08] 真开心

所以可以说你在追求的是一种长期主义的教学相长,通过否定自己,然后不断的更新自己,包括更新自己的课程的方式,来追求更远大的研究理想。这么说对吗?

[01:28:22] 蒋炎岩

我觉得可以是这样的,然后我自己的一个理解是,对人类来说,利他就是终极的利己,就每一个人都是利己主义者,然后只是取决于你能够看到多少时间内的 reward,对吧,如果你总是要一个立即能够得到 reward,那你可能只能去做一些短线的事情。但是,如果你能放到在人类这个历史的进程上,那也许你就可以做出,对吧?

[01:28:55] 蒋炎岩

当然这个需要很大的运气,你可能就可至少概率会大一点,你可以做出一个更有 impact 的东西。

[01:29:03] 真开心

你刚刚提到说追求长期主义的 reward,追求终极 reward,会导致目前论文容易被拒,你前面也提到了,最近有两篇论文被拒了,而且有一份的有一篇论文被拒的得分还是非常具有争议性的得分。

01:29:14 两篇被拒的论文

[01:29:18] 真开心

其中有一个人打分特别低,其他的人打分都很高,然后你也提到这些论文可能他会有一些突破性的改变,因为他甚至都找不到一个 baseline 去做比较,我们很好奇,你这两篇论文是做什么的,你可以透露一些。

[01:29:36] 蒋炎岩

我们短期内 arXiv 见吧,这个讲起来就比较长了。但有一个适合,我还是可以透露一下,主要是讲起来比较长,有一个是,你们没有想过的,我可以去 reverse engineer 一个 excel 这样的软件,然后去得到,你这辈子都没有想过他会把你的数据做这样的处理,然后我们几乎得到了他所有已知的,这个当然是在一个 scope 里面已知的这样的规则。

[01:30:09] 蒋炎岩

但没有人做过这件事儿,然后我们发现了非常多很有意思的事情,就比如说你你你有的时候,你不小心有一个 typo,你就会在 excel 里面有一个100年的时间差,然后这100年的时间差就会导致你可能如果是一个算利息或者算什么的财务的报表的话,你的这个整个结果就全部 collapse 了,就因为你的一个 typo,或者是你从别的地方粘贴了一个数据这样的,然后还有一个就是自然语言编程,就是我们怎么样做自然语言和编程语言的混合编程,这也是个很大的题目,对但是这个不好意思,因为我们说我们就我们做任何事情都没有一个 baseline 可以比。

[01:30:47] Summer

你可以确定就是你投稿,是因为你东西太新了,没有 baseline,而不是因为审稿人可能是 A 或者是审稿人几乎都没有精力去读你的文章。

[01:30:58] 蒋炎岩

我觉得审稿人还是好好读文章了。

[01:31:01] 真开心

我想具体请教一下,这两篇文章是投到哪个领域的。

[01:31:07] 蒋炎岩

PL 和操作系统。

[01:31:09] 真开心

PL 和操作系统对吗?

[01:31:11] 蒋炎岩

没有软工。

[01:31:14] 真开心

这个彻底跟软工学术界割席了,因为我我我理解,尤其是 PL 圈,我觉得很多 PL 圈的人,他们的想法会比较保守一点,或者说他们会觉得我会非常要求你这个理论上的严谨性。你觉得这一点会影响你文章的审稿吗。

[01:31:34] 蒋炎岩

那当然会了。

01:31:36 论文包装与 AI 审稿

[01:31:36] 真开心

说到这个审稿的机制,我们看到其实你最近写了3篇攻击老登的文章,我们亲切的把它称为登三篇,其中有一篇就是在讲审稿的过程中出现的一个问题,你发现一个人的论文里面存在误导性的数据。然后去讨论这个审稿机制,或者说这样的指导机制究竟是不是合理。你觉得现在审稿机制出现了什么问题呢?

[01:32:06] 蒋炎岩

这似乎不是一个审稿机制的问题,因为我们没有办法拒绝任何投稿,你有一个高中生,可能完全不知道的情况下,他写了一篇,可能完全 out of scope 的文章,也不在这个水准上,但我们依然要 review 它,依然要给他一个 comment,似乎不是审稿的问题,更多的可能是因为这很明显是一个来自高校的工作,所以可能我只是觉得我作为一个审稿人,他他可以不要投,对吧。

[01:32:37] 真开心

那你觉得这样子的质量不达标的稿件,可以用 AI 审稿来先 desk reject 一批吗。

[01:32:45] 蒋炎岩

我觉得可能不行,因为大家很容易去攻击这个 AI 审稿人的,我觉得应该这么说,这个投稿人毫无疑问是有写软件工程录用论文的经验的,所以 somehow 应该是他一定是把这个东西包装成一个看起来贡献达标的东西的。那如果让 AI 来看看到的话,他确实可以把那些比如说高中生写了一个完全。不对的论文给 reject,但可能也许我们也可以用 AI 来 reject,因为我看一眼,我就知道这个是不应该出现在 proceeding 里面,我可以礼貌的告诉他这个事情不合适,但是对于这种 borderline 上面的,他可能要刻意的藏一些东西,来夸大自己 contribution 的东西,其实我觉得这样的 paper 是无处不在的。

[01:33:43] 蒋炎岩

可以说多到了一定的程度,使得有些会议,所谓的顶会的 proceeding,你都不想去看,你只想去看那些在 twitter 上被人转发的 paper。这个是有害的,我觉得就是你明知你的这个东西会被 scaling law 的车轮给压掉,你依然要选择去声称自己的 contribution,并且一遍的投稿,直到他有一次不小心,可能几个审稿人就把他放过来去 accept 为止,我觉得这是现在可能大家为了生存,就是为学生要毕业,老师要有论文,为了论文去拿论文以后去撬动更多的 funding,它所被迫做的,逼良为娼的这样的事情。

[01:34:26] 蒋炎岩

所以我一直在跟学院说,毕业不要发表论文,但是这件事情好像对我来说是不可能成功的。

01:34:34 增量研究与投稿责任

[01:34:34] 真开心

你刚刚说,大家很多人会为了发论文而发论文,明明知道自己的贡献,其实不大,或者说明明知道自己的贡献,随着 scaling law 的发展,未来都会被代替,但是他们还是选择发论文,因为这个东西关系到他们的毕业,这个东西关系到他们的职称,这个东西关系到他们的经费,你说这种行为是一种逼良为娼的行为,你觉得现在学术界里面有多少是良,多少是。

[01:35:00] 蒋炎岩

这个打击面就大了,我不知道软工就它很难界定,我其实接受一个相对来说比较 incremental,但是比较完整的 paper 作为学生来练手,因为学生总有你总有第一篇文章,你总是,本科毕业以后,你可能代码写的不错,你做的第一篇文章可能不是那么的好那么厉害,但是它符合一个标准的规范,有一个合理的动机,有一个合理的解决方案,并且有一些 positive 的结果,我其实是接受这样的 incremental 的 paper 的,然后我觉得我很难接受的就是他通过写作的技巧去把各种东西给藏起来,使得不明白的 reviewer 会看起来还可以,然后把它放过去,然后这样的论文可能比较难界定,就是一篇文章到底是因为这样的,还是因为他可能本身就是一个学生的工作,然后他对,所以我不确定这个比例能有多少,对。

[01:36:08] Summer

但是你评论的这些现象在 AI 出现之前是没有的吗?

[01:36:13] 蒋炎岩

我评论的这个现象在 AI 出现前就有了。大概从 CCF 列表就是那个 ABC 类的列表发布以后就有了。所以这是指挥棒带来的一个效应,因为一旦大家知道了。你发现 A 类就是好的,B 类就是不那么好的,C 类就是更不好一点的。那么,所有的人他只要有一点机会,哪怕他认为没有机会的人,他也一定会从 CCFA 类开始,投起。所以这就就感觉到,我就觉得我经常会想到一些我觉得比较尴尬的对,有些可能就是我觉得学生可能他,学生本身做出一个 low quality 的东西,学生是没有错的,但是导师有有责任,你你你这个东西该不该投这里,对吧,然后因为我我听到很多很多老师都会说,我知道这个文章一定会被拒的,我也就是去审稿人拿意见,这合理合法对吧,这个没有人阻止做这件事。

[01:37:11] 蒋炎岩

但老师都知道这个一定会被 reject 的。你为什么你不先把它改进到一个,你觉得还是不错的东西,对吧。

[01:37:21] Summer

所以这波评论其实和 AI 的这这股风潮可能是没有关系的,你不觉得是 AI 的兴起导致了 review system 被 hack 了,而是它本来早就已经被 hack 了。

01:37:36 AI 研究、低质量论文与偶然发现

[01:37:36] 真开心

说到这个,我想请教一下主持人中做 AI 研究的几位,你们觉得在 AI 的会议里面,大水漫灌的事情比软工是严重的,还是不严重呢,怎么不说话。

[01:37:54] Summer

我觉得是严重的。

[01:37:57] Miko

应该是更严重的。

[01:38:00] 蒋炎岩

你觉得为什么会这样。

[01:38:01] Summer

就是我觉得 AI 的研究本质上是在讲一个 story,可能是我对软工的研究没有那么的了解,所以我会觉得你在做 AI 研究的时候,你只要会讲这个 story,你就有很多种可以去 tell 这个 story 的不同 cases 的方法,蒋老师你觉得软工是这样吗?

[01:38:30] 蒋炎岩

软工也有很多这样比较标准的流程,就是 A 加 B 可以是 C,然后他可以选一些,因为你总有一些,比较特别的一类软件,对吧?这类软件可能,大家没有很多人 care about,然后我可以把某一个东西 apply 到这里来,然后就可以让这里面的某一个任务变得更好,然后你我当时觉得这个可能不是那么糟糕了,就是他可能是一个合格的工作,但是它有很大的被 reject 的风险,因为比如说,你会问这个问题是不是没有人 care about,然后做各种各样的质疑,但是我们为了生存,使得大量的人都开始生产这样的内容,可能这个现象跟 AI 是一样的,因为本科生一定要想办法发一篇 AI 顶会,然后去申请一个下一层的学位,对吧?

[01:39:21] 蒋炎岩

然后研究生,需要一篇这样的文章来毕业,因为他他老师是这个领域的。所以最后就逼着大家就在疯狂的,尤其是我们的研究生的数量不断的在扩大,这还是这是一个,这也是一个很重要的因素。研究生的数量在扩大,每个学生都要发更多的论文才能毕业,最后就导致这个必然的结果了。

[01:39:46] Summer

不过在这我也想补充一个观点,就是我觉得我在读博的时候,很长的时间会觉得,就比如说某一个领域的很多研究,我可能都没有什么用,然后大家都在用各自的方法去用不同的 baseline 做不同的 evaluation benchmark,做不同的方法,就好像但是我后来的时候,就是我现在会有的观点,是,我会觉得这样的研究本质上就是我觉得一个好的研究本质上是一个黑天鹅事件,也许我们看起来在做很多很多像看起来有些在灌水的工作,但当你不能说是灌水多了,但是当你做这样的研究多了,我觉得这个里面它就会产生一些高质量的东西,就不管是你真的在很认真的思考做出来的,还是说误打误撞的做到了这样一件事情,我觉得我现在很难把 reward hacking 和很多研究它可能就是低质量的这或者是没有用的这件事情给它区分的很好,但我会觉得可能就是有一点像水至清而无鱼,就是可能一要有这样一个现象,或者说要有这样的一些基础,才会诞生那些像黑天鹅事件一样的高质量的研究,我不知道你们会怎么看待这件事情。

[01:41:15] 蒋炎岩

这件事儿似乎在偏 systems PL 的领域是不会发生的,因为他因为 AI 一个我觉得 AI 的研究有一点有趣的地方是我们对机制可解释性这些都完全不了解,对吧,我记得当时我看到 Neel Nanda,他说我我我我去我去建一个单层 transformer,我可以学到一个 Fourier basis,然后就是很 fancy 然后就地球上这都没有见过,就我你们面对的是一个完全不可控的,但它 scale 了,然后他就有用了,然后你都不知道你把那个 activation 换成什么,就瞬间他就厉害了,然后这时候会有这种黑天鹅事件,但因为像 software,systems 基本都是完全人造的,系统在完全人造系统里面是人的人已经主导了一切了,那这个时候它和我什么样的东西能训出一个好的模型,不太一样,它它里面有很深的系统的智慧,就是你你完全可以看到一篇文章,他做这个 AA 加 B 加 C 一个有真正有经验的人,甚至于是一个 GPT-5.6,他马上就能知道这个东西的上限在哪里,缺点在哪里。

[01:42:27] 蒋炎岩

能做到什么,不能做到什么,你不写这篇 paper,我也知道。

01:42:31 毕业评价

[01:42:31] 静波

老师您刚才提到说您在倡导不发 paper 也可以毕业,那怎么能够判断这个学生,是合格可以毕业的。

[01:42:41] 蒋炎岩

好问题,这个就是给你用人单位的难度增加了,你还是我我坚持还是问题也是你你觉得你做的那个最值得一说的事情是什么,对吧,你如果是 Computer Science 的话,你还可以说你你你拿一个系统出来,对吧?你做的那个 system 出来我看看。

01:43:03 失望、“老登”与改变

[01:43:03] 静波

但是今天就是我想了一下我们聊过的这些话题,就是您对于现有的体制 reward hacking,有某种愤怒。但是我觉得愤怒背后好像有一点点失望,就是您能够说一下,比如说您的网上的言论也好,在课堂上的言论也好。您最失望的是这个系统是 reward hacking,还是目前大家所做的这些东西是无用功,就是有没有一两件事情让您感觉到特别的失望或者愤怒。

[01:43:46] 蒋炎岩

我觉得特别愤怒,就是我说我的那个启蒙老师,杰青四次上会都没都没评上,我不知道别人是怎么怎么评上的对,然后这个世界显然已经一定程度上 collapse 了,但它还在运转,而且其实运转得也还不错,也许我们到另外一个方式上,系统是运转不起来的,至少我们现在这个系统还能运转,所以我也不能不能说什么。

[01:44:20] 蒋炎岩

但好消息是反正我现在也没被开除,这位老师也没被开除,所以至少我们还在做做正常的事情,这个系统还不错,也许这种增量式的小改变就能达到一个完美的平衡,也是有可能的。所以我没有办法评论,但是我觉得如果我攻击老登,然后确实可以使我们的整体科研水平能够好一点的话,或者说有更多的老师或者学生能够打打脸,他就觉醒了。

[01:44:54] 蒋炎岩

我觉得应该是好事儿,而且没有明显的伤害,对。

[01:44:58] 静波

您会成为老登吗?

[01:45:03] 蒋炎岩

我一直在警惕这件事儿,然后我觉得如果有一天我觉得我学东西学不动了的时候,我就会把我所有的权力交出来,然后我没有权力的时候,我也不发表我的观点了,那我就可以透明了,透明我就不是老登了,对我就是我就是透明人,我不存在了,对我就不是老登了。

[01:45:22] 真开心

你觉得你嘴里面的那些老登,现在会觉得自己学东西学不动了吗?

[01:45:26] 蒋炎岩

他们根本就不学。

[01:45:29] 真开心

你在互联网上攻击老登这件事情的目的是像你刚刚说的那样,希望能够改善这个环境吗。

[01:45:36] 蒋炎岩

我能打醒几个人就是几个人,虽然如果我不打的话,他们一定是不会醒的,但如果我打了以后,他们可能还会有一些人,或者有些其他人,他醒了,那那我觉得就对社会做出一些正向的贡献。

[01:45:51] 真开心

那你这样子,在互联网上锐评,你不怕混不下去吗?比方说你在副教授实名举报,计算机专业学生编程能力,不如小学生这篇文章的结尾写道,发了这个举报贴就断了我飞黄腾达的路了。你觉得你现在是已经不在乎了吗?

[01:46:12] 蒋炎岩

我完全不在乎了,我这命都不要了。

[01:46:15] 真开心

我们看到你在互联网上发表这些锐评的时候。

01:46:16 一路在退与现实中的责任

[01:46:19] 真开心

其实你一直在用的一个关键词是退,对吧,你在小红书上说你决定在人生的巅峰退休了。你在小红书上说你已经退出软工圈了,你在主页上说你退出软件所了,你在小红书上说你已经退出了技术委员会了,然后你又在知乎上说,你退出考研出题了,然后你又在给天命人的劝退信里面劝退学生。你觉得这种退是一种出世吗,或者说你觉得这种退是一种对于现状的失望吗?

[01:46:56] 真开心

还是说这个退其实只是你用的一种修辞手法,你在用这个退的态度来表达一种。你对于希你对于改变的,希望,或者说你是在以退为进?

[01:47:07] 蒋炎岩

代表了,这个世界上有一些必须要做的 trade off,就是你只有舍弃掉一些,你才能做一些应该是更重要的事儿,所以我觉得以退为进是正确的。

[01:47:19] 真开心

所以你的进是什么。

[01:47:21] 蒋炎岩

AGI 要来了,我们不知道应该做什么,但是应该做点什么?

[01:47:25] 真开心

你在网上的形象和你在现实生活中的形象,你觉得是一样的还是不一样的呢,因为我们在网上看到你的形象是一个非常激进,你的甚至有点愤青的感觉的形象,然后你会宣扬 AGI 的到来,你会觉得我们每个人都要思考,在 AGI 到来的时候,人类的价值是什么,你会去抨击学术界的一些,你觉得不好的现象。你在现实生活中是一个这样子的人吗,你觉得你的学生,如果我们今天把他请过来接受采访,他会问你的问题,跟我们问你的问题是同一批问题吗?

[01:47:57] 真开心

他会觉得你在作为一个导师的形象,和你在作为一个互联网绿导师的形象,是一个同样的形象吗。

[01:48:06] 蒋炎岩

我应该是 consistent 的,但我额外会对学生好一点,我觉得就是因为毕竟是自己的学生,所以我还有一个是对抗审稿人的职责,所以我还是会 package 他们的 paper,这还是不一样的,每个导师都会做做这些,或者说这是导师的的职责。然后在现实中其实我非常的 consistent,比如说还有更多事情,就你们在网上没有看到过的,比如说去年在保研,他们有一轮简历筛选的时候,发现他们的机制问题很大,然后回头我骂完那个副院长,然后就把他拉黑了,就是 physically 微信最后发了一个很长的帖子,然后发完以后就把他删除好友,然后他他他肯定会回我,然后回我以后他发现那个,已经不是联系人,然后到现在这个好友还没有加回来,对我觉得有些事情,我如果不说的话就没有人说了,那我还是说吧,反正大家也都知道我就是这样了。

[01:49:05] 真开心

你会担心自己被学校开除吗?

[01:49:07] 蒋炎岩

开了就开了呗。

[01:49:09] 真开心

开了去做什么?

[01:49:11] 蒋炎岩

也许天天钓钓鱼也挺好。

[01:49:13] 真开心

开了你的学生怎么办?

[01:49:15] 蒋炎岩

那我还是可以指导他们,让他们毕业的,这个好像还是可以的。

[01:49:21] 真开心

那开了,你的实现 AGI 的梦想怎么办?

01:49:24 技术发展、搜索与好奇心

[01:49:24] 蒋炎岩

我一直觉得很多事情是注定的。就比如说在爱因斯坦要发现相对论,然后 AlphaGo 要打败李世石,再往前,或者 google 要能存下互联网,所以这些一切都是某种程度上由 scaling law 命中注定的。就是在你的,当我们的世界的积累到一定程度的时候,我很喜欢上课讲这个故事,我有一个 plot 就是说随着你的时间,你的存储设备的增长的速度,那个数据的曲线,和你的互联网上面所有的内容增长的那个速率,如果画在一张图上,你会发现他们是有一个交点的,也就是存储的那个摩尔定律是比互联网人类产生 content 的速率要快的,所以有一天你的机器一个集群也好,能够存下整个互联网,就是一定会发生的事情。

[01:50:17] 蒋炎岩

所以如果他不是 google 的话,也一定有一天会有另外一个人会做同样的事情。然后某种程度上是你的土壤有了以后,那些事情发生就是必然的。我看到了很多东西,但是绝大部分是我没有那个能力,也没有那个资源去做的,所以我就会很开心地看它们发生,因为我最早意识到 AGI 就是说,这 intelligence 可以自动化,是2015年的时候,就是在看阿尔法狗和李世石,那时候人在美国熬夜看那个直播,他们俩的直播,然后当时我就想通了一件事情,就是 intelligence 本质上就是一个 search,可以通过 search 来实现,当然这是 DeepMind 的 roadmap,然后用 tree search,然后有 AlphaProof 这些线,然后还有就是 OpenAI 的这个就是 test time,全部用 autoregressive 来实现的一条路线,现在开始这条路赢了。

[01:51:13] 蒋炎岩

在那个时候我就隐约看到这件事情要发生了,然后我一直跟别人宣扬说,说数学,你数学你们不要,你们这些做数学的人,不要把自己看的太牛逼,马上这个呢 IMO 就要被攻破了,他没有一个人相信我,然后现在这个事情就应验了。

[01:51:32] 真开心

你从2015年开始觉得 intelligence 一定会实现,那你那个时候全仓英伟达了吗。

[01:51:39] 蒋炎岩

没有,因为我没有美股账号,因为我当时就注销了我的所有的美国的账号,我现至今都非常后悔,我至少应该把银行卡和电话留着。

[01:51:50] 主持人

笑话先不谈,如果这件事情是时代大潮,如果这件事情功成不必在我,或者说功成不必在你,那你现在追求他的目的是什么。

[01:52:00] 蒋炎岩

Just for fun,对我来说我是一个好奇心驱动的人我做所有的事情都还是有一个原始的好奇心的动机,而这个好奇心的动机和人类这个物种能够存续下去是有关联的。所以我就这样解释,我就安心了。

01:52:18 人的价值与眼下的生活

[01:52:18] 主持人

那你觉得在 AI 能够代替人类绝大部分工作,甚至代替人类绝大部分的创意工作的时候,人类剩下的价值是什么?是好奇心吗?

[01:52:28] 蒋炎岩

我不知道,我觉得我会选择那个让我按那个让我快乐的按钮,然后一直按的那个人。卸下一切的包袱在在虚空当中。

[01:52:40] 主持人

所以你会觉得我们应该尽早的把自己包装成一个 AI 大人的小宠物,让他把我们快乐的养在一个容器里面。

[01:52:53] 蒋炎岩

这倒也不是,因为我们的时间是有限的,我们不知道那一刻什么时候来,而且我们很有可能等不到那天会到来,所以这个是社会依然会按照社会的方式运转,我们就在社会上好好活着,我们有有的吃,有的穿,现在社会,如果你生在1000年以前,你就你无论怎么样你都会活得很糟糕,但你生在现在你就觉得你活得不错,所以可以享受现在的生活。

01:53:18 Auto research 的检验标准

[01:53:18] 静波

在未来的3到5年之内,有没有您特别好奇的某种变化,或者说您希望听众们关注的某种趋势,就是对于 AI 的发展来说。

[01:53:34] 蒋炎岩

我想关注真正的 autoresearch 能不能实现,就是在1900年的 knowledge cut off 的时候,能不能发现广义相对论,倒回去能不能在伽罗瓦决斗的时候能不能发现 group theory,对吧,再再往前倒,我是乐观的,但是我不知道里面具体会以什么样的方式来实现,我很想看到它发生。

[01:54:03] 真开心

OpenAI 的 GPT-5.6,Sol Ultra 最近证明了 cycle double cover conjecture,大家认为这是组合学里面的一个非常重要的数学定理。你觉得这件事情算是你所谓的 auto research 发生了吗?

[01:54:16] 蒋炎岩

在这条路上,但我觉得 GPT 的品味,至少比如说在软件设计上还是有一些些他自己的偏执的,我我我不能说就是不对。但至少我可以看到的是,就前两天的时候,陈立杰发了一篇 Twitter,就是说有一个很重要的定理,应该是那个[疑为 Farthest Pair]之类的一个 quadratic bound,然后那个 bound 大概就是用一个 A 加 B apply 到 C 上的一个短的 prompt,就是一个[英文缩写未辨清],就是现在模型 autoregressive 的模型很有意思,它是一个很小的计算机,就是一个常量大的计算机,它每次只能根据 context 往后吐一个 token,但是它可以调 tool,然后这个计算机训练完了,它它就停在那儿了,但我可以通过给它这个 A 加 B 等于 C 这样的初始的提示词,把它的潜力再再发挥出来,然后这其实很接近我说的那个 small explanation 的框架,只是你现在还需要人来去找这个它的影子。

[01:55:17] 蒋炎岩

所以我觉得离 autoresearch 其实很近了。

01:55:20 兴趣、谋生与人才机制

[01:55:20] Summer

好的,谢谢蒋老师的回答,然后我还有一个比较好奇的问题就是想问就是在你之前写的文章,包括今天的访谈里,其实你一直谈到,你是一个做事情是 for fun 的人,就是你会觉得,因为我对这个东西很感兴趣,我很喜欢,所以我才会去做。然后,我比较好奇的就是,因为事实上在这个社会里,我觉得有很多人,他可能没有那么喜欢一件事情,他更多时候是在 for profits,在做一件事情,比如说,这个能让他得到工作,能让他可能在这个社会上生活的很好,在这个过程里也会引发很多人,他可能会去做 reward hacking,然后能够更好地去 for profits,所以我比较好奇你对这三类人的看法是什么样的,就是你觉得这个事如果一个比较良性的社会里应该怎么去分布这样的人的存在。

[01:56:20] 蒋炎岩

我不知道,因为你也许是一个非常的 reward hacker,但是你的智力极高,那我觉得你依然应该在这个学校里面去创造那个那个最顶尖的东西,可能不是那么的重要了,因为更重要的是可能最顶尖的人要站在最顶尖的高度上设计这个机制,他能够把它把它看清楚。最好不要是非常平庸的人去设计这个机制,然后让这个机制变得更更加糟糕。

[01:56:53] 蒋炎岩

我记得我听过 Alan Kay 给过一个 talk,他就说说说这个 institute 的使命是去寻找那些5sigma 的人,就三西格玛就是那个很很厉害的人,五西格玛就是在那个尖尖,那个正态分布最尖尖上面的那个人,对吧,如果你能找到5 sigma 的人,并且把它送到正确的,它适合的位置上,那无论它是一个 reward hacker,还是一个别的什么东西,他总是有 reward 的,所以他会把这件事情做好,然后这世界就进步了,我是一个论结果的人。

01:57:24 给学生的建议与结束

[01:57:24] 真开心

最后我想请蒋老师给我们听众,包括你在互联网上这么多的云学生一个建议,在现在 AI 这个年代,一个学生,一个 CS 的学生应该怎么做?

[01:57:37] 蒋炎岩

我不确定这个建议合不合适,但我推荐每个同学去看一下 CMU 那个 Randy Pausch 的,他他得了癌症以后,他最后做了一个 last lecture,然后你会在那边得到一些灵感,会找到一些原始的动机,然后在这个动机之下,你可以选择给 AI 多一点信任,我觉得那是一个非常有启发性的视频,偶尔我还会再拿出来再看一遍。OK。

[01:58:06] 真开心

非常感谢蒋炎岩的时间,我们本期 AI 实话实说就到这里,谢谢各位听众,谢谢大家。

[01:58:13] Summer

谢谢蒋老师。

[01:58:14] 蒋炎岩

谢谢大家。

01:58:15—01:58:27 片尾

[致谢结束,片尾画面及音乐。]