AI 时代，PhD 路上的 10 个关键问题｜对谈李磊：港大 PhD、小米 MiMo 研究员

李磊 28 岁，ENTJ，巨蟹座。2016 年进西安电子科技大学读本科，2020 年到北大计算语言学研究所读硕士，2023 年进入香港大学 NLP group 读 PhD。现在他是小米 MiMo 大模型后训练研究员，博士四年级。2023 年 11 月，入学两个月，他和师弟合作的一篇论文拿了 EMNLP 最佳论文。这个开局好到让他自己害怕，他问自己：会不会出道即巅峰？

这期十字路口，Koji 和李磊聊的是 AI 时代怎么读好一个 PhD。话题从慢科研还是快科研开始，一路谈到选学校、选导师、内地香港美国怎么选、没论文没实习怎么冷启动、论文发表之后怎么让研究被看见，以及本科就能进 AI Labs 的今天，读 PhD 还值不值得。后半段聊了小米 MiMo 为什么把后训练直播搬上网、数据公司的高估值、RSI 和 Benchmark。

李磊说话不绕。他讲自己怎么选问题、怎么处理焦虑、怎么在小红书上攒到 2.4 万粉丝，也讲 PhD 圈里那个半开玩笑的「大粉理论」：小红书粉丝量超过论文引用数。这些经验不一定适合所有人，但他说，至少能减轻很大一部分焦虑。

巅峰开局之后，他给自己定了一套打法 0:02:29

那篇 EMNLP 最佳论文，是李磊在北大最后一段时间和师弟合作做出来的。中稿时他刚入学港大两个月，那是他参加的第一个会议，自己有一篇工作，师弟的 paper 中了最佳论文。他当时对能不能顺利完成 PhD 考核心里没底，虽然硕士阶段受过科研训练，还是有点打退堂鼓。结果第一个会议就开出这样的局，他反而更紧张：这么巅峰的开局之后，路会一直顺吗？

他总结自己的打法，第一条是快。快速迭代，保持比较密集的工作节奏，及时把东西拿给社区、同伴、更资深的老师和同学看，要 feedback。第二条是选问题。难而正确这四个字听起来像要慢慢磨，他的解释不一样：一个问题如果不够难，现在这个时代一定有非常多竞争者，很容易被 beat 掉；一个问题如果很重要，哪怕你只推进一点点，大家也会觉得这个进展很 significant。

反倒是大家对于你的那些要求会没有那么的苛责。

李磊说，因为大家都知道很难。很多人面对一个困难的问题，第一步就想，这太难了，我根本不知道怎么解决，于是没有头绪。只要你找到一个好的切面，比较 solid 地提供一部分解释、实验或者理论分析，后面想研究这个问题的人会觉得它是一个重要的 milestone。

这套打法不一定适合所有人，但他观察下来，它能减轻很大程度的焦虑。PhD 们在焦虑什么？第一是 publication，顶会的系统在 AI 冲击下有点难以为继。第二是毕业要求之外，发那么多 paper 还有没有用。Astra 出来之后，很多做具身的人觉得自己的 domain 一下子被颠覆了。第三是能不能完成从 PhD 到工作的转换。

李磊的建议是心态放松。竞争确实剧烈，community 也在想办法稳固审稿系统。这套系统已经 run 了很久，有内在生命力，一个好的工作会被中稿。至于做的东西有没有意义，他提醒大家去看大模型的毛刺。模型是锯齿状的智能，有些地方看着非常厉害，有些东西它完全没有。不要被社交媒体上的 hype 一下子震惊到瘫坐。你真的坐在电脑前，去 coding，去设计 harness，把东西跑出来，看数据，看模型表现，才知道它到底怎么样。

他举自己正在做的具身实验：一个值得研究的问题是，这个能力从哪里来。可以 trace back 到很多模型，看它从哪里泛化过来。知道它从哪里来，才能更好地提升它。至于 OpenAI 是不是一直在采购具身相关数据来训练，他说他们猜测可能是这样。具体到 domain，模型在 simulator 里效果怎么样，在真机上怎么样，中间有没有泛化的 gap，都是值得研究的问题。

论文大水漫灌，评价体系在松动 0:08:07

AI 论文正在大水漫灌顶会。李磊做审稿人和 area chair，最直接的冲击是 workload：原来可能审两三篇，现在大概十篇。大家都是 DDL 战士，原来留半天搞定最后几篇，现在判断的随机性变大了。NeurIPS 已经开到三个会场。社区也在想办法：限制投稿数量，让更有经验的审稿人承担更大责任，引入 AI 审稿辅助决策。Triple AI 要求做决定时两个 senior SPC 讨论，尽量在 manageable 的情况下把录用决策做准确。有人的地方一定有随机性，他的建议是不要把 accept or not 当成最终的 reward。

有人问，是不是可以 hack 这个系统：用 SOTA 模型做 100 篇论文投出去，拼随机概率。李磊觉得这种做法不好，它是对整个系统的 DDOS 攻击。瞎猫碰上死耗子，总有可能中，但 paper 本身是为了分享一个有意思的研究，是一个 knowledge sharing 的方式。那 100 篇背后的人，真的把东西弄清楚了吗？有没有严密的论证、理论或者实验去 justify 他提出的 hypothesis？这些才重要，paper 中不中没那么重要。

如果 AI 强大到能提出 100 个有价值的问题，并且在 AI 帮助下给出很 solid 的答案，那投不投稿都无所谓。就像 OpenAI 放出几百个数学证明，有些 work，有些错，本身有意义，但需要很多 human efforts 去 verify。

评价体系已经在弱化 publication。李磊说，现在筛选候选人，paper 是 nice to have。原先它是很好的金标准，现在大家都有，你没有也没那么重要。反过来，如果你没有，可能意味着你知道这个游戏已经坏了，你不玩这个游戏，他们蛮喜欢这样的画像。

开源项目现在是加分项，也存在 hacking：有人用 AI 提 PR，被合进去，就说自己是 contributor。他有一个筛选小指标：有 publication 的人，代码有没有开源，数据有没有开源，开源之后 issues 有没有人维护。他们现在也比较 care Hugging Face 的下载量。你说你是 SOTA，上个月下载量只有数十次，可能你解决的问题没那么重要。下载量也可以 hack，但代价很大，要下载、要存到硬盘上，硬盘还蛮贵的。

大粉理论：让研究被看见也是一门手艺 0:12:16

李磊的小红书粉丝今天 2.4 万。他开玩笑说，这比论文引用数高。PhD 圈里有个大粉理论：你的 Twitter 或者小红书粉丝量、点赞量要超过 citation，说明你在践行大粉理论。他把这看成 attention is all you need 的显化。

为什么 PhD 要做自媒体？第一是反馈快，发的东西好不好，点赞收藏很直接。第二是交流。现在大家线下交流少了，但小红书的推荐算法能帮你吸引到一批 research taste 相同的同学，形成一个很好的交流场。第三是分发。原先 ACL 接收几百篇 paper，大家按关键词、按熟悉的老师挑着看。现在一个会议四五千篇，不可能看得过来，大家依赖论文推荐和社交媒体推荐系统。你能在系统里占据更大权重，声量就会被放大，工作会被更多人看到，你工作的价值也被 amplify。

怎么做？他给了三个词：利他，坚持，做自己。

利他，是持续产出对别人有帮助的内容。发有争议性的观点很容易爆，但大家只会点赞评论，不会觉得这个东西跟你这个人相关。影响力是副产物。坚持，是把这件事做成 daily 的事情，想到什么发什么，最后呈现的是你最真实的状态，一定吸引到你想吸引的人。他一开始发很多论文 notes，粉丝涨得很慢，直到发了引用和粉丝关系的帖子，爆了一下，上了一个台阶。做自己，是因为这个赛道很卷，模仿一个人会很累，你也不知道他背后的 motivation。做自己，找到一帮同频的人，有一个好的交流平台，目的就已经达到了。

点赞最多的笔记：拿奖，青云奖学金，citation 超过 1 万。学术内容里，on-policy distillation 的 notes 关注度很高，他们比较早采纳这种新范式。薛兆丰、自然意志这些新工作出来，他也会发分析和解读，流量不错。大家很关注 new lab 的动态，戴老师他们做得不错，有 RSI 的工作正好用小米的模型，他就顺手研究了一下。

他还提到另一个说法，PhD 过程漫长，身心健康始终第一，要换换脑子。

从入学到毕业，三道关与一次冷启动 0:16:50

把 PhD 从入学到毕业拆开，李磊分了三个阶段。

第一阶段，知道怎么做研究，独立做好一篇 paper，并且获得一定的影响力，这是基本功。做研究之前有 preliminary basics：机器学习、统计学。这些课看起来 AI 都能补，但还是要 from scratch 自己做一遍。他们当年用 TensorFlow，甚至用 numpy、matlab 把 SVM 这些基础算法实现一遍，跟着吴恩达的 Coursera 课程。泛化、过拟合这些经典概念今天还在系统里运作；VLM 用 page attention，是操作系统的概念。然后要学怎么让知识传播：paper writing、实验设计、怎么 justify 你的 hypothesis。AI 可以做一个很好的 reviewer 和老师，帮你 consolidate hypothesis。再往后是 maximize impact：自媒体、开源，每个工作配宣传、软件、博客和分享。

第二阶段，leadership。孙旭老师很早就告诉他们要培养 leadership。你掌握了这套 pipeline 之后，要能把它交给更 junior 的同学，case by case 地引导。你的身份从一个 generator 变成一个 critic，去帮助他。junior 同学类型不一样，有的 self motivated，给一点引导整个链路就跑通了；有的需要更 intense 的 supervision，才能把东西 build up 起来。

第三阶段，完成从学术界到工业界的转变。那是一个更现实、竞争维度更多的层面。他也在学习。

冷启动怎么做？李磊自己的经历是发 cold email。大二升大三，他给后来的硕士老师发了大概 10 封，只收到 1 封回复。孙老师愿意给他机会，让他来组里实习，扣开了后面的门：发顶会，顺利保研。现在难度更大了。有名一点的 professor，邮箱里全是 cold email；工业界的 HC 受算力限制，很稀缺。

他的建议是 maximize impact。大家不只看 paper，看的是 output：一个 GitHub 项目，一个好的 harness，一个有意思的 application。这些东西对算力需求没那么大，发挥创造力就能做出不错的产品化东西，也能拿到偏产品的岗位。偏研究的岗位，在大家都用 AI 写 sloppy 文字的时候，你能把 fundamental 的东西理顺，写好 research blog。一篇篇写 notion blog，设计小实验 justify 你的改进。苏剑林的博客早期全是推导，没有特别多算力，不影响他最后推出 RoPE，现在大家都在用，他现在是 Kimi 的研究员。

过程中你会收到很多没有回复的 negative feedback。坚持做好输出，它本身是 learning 的过程：找到自己想学的东西、想创造的东西，展现出来，形成一个好的作品集。像冒泡排序，慢慢冒上去，总会被一些人看到。他第一个实习是金山，对方看了他的博客联系到他，他当时想搞机器学习，没去做软件开发。

Koji 说，十字路口喜欢讲一句话：只要一直 build 就有好事发生。李磊提到巴拉巴西成功定律。研究者用网络科学的方法研究诺贝尔奖得主，想知道他们发出诺奖论文有没有规律。结论是没有规律，必须一直发，他们自己也没法预测哪一篇会成为代表作。另一个效应来自大都会博物馆的画：一幅画不是一开始就能进大都会，他们画了馆藏之间的借展流通图，发现一些市政博物馆名气不大，但画一旦进了那里，就很可能被著名博物馆借走。关键节点是存在的，可达性很高。通过冒泡进入那条 critical path，走向成功的路径会大很多。

他举了一个做得成功的 PhD：Eric Wallace，Berkeley 出身，做的是大模型安全，毕业后去了 OpenAI。前阵子 Hugging Face 被 swarm 攻陷，他作为内部研究员出来复盘。看他的 research，idea 都很简单，但他在一个好的 position 和 timing 把问题 propose 出来，定义好这个问题。

选导师比选学校