对话量子计算奠基人Nielsen：RL加速科研是否误入歧途？

单丁鹤纷

对话量子计算奠基人 Nielsen：为什么说RL加速科研这条路可能走偏了？





Michael Nielsen – Why aliens will have a different tech stack than us


Nielsen这期聊的东西挑战性很强，跟最近那些"AI加速科研"的叙事正好反着来。
科学进步不等验证回路
大家默认一件事，但很少有人真正想过它对不对：科学靠实验验证往前走。假说→实验→证伪或确认→新假说。循环往复，这是高中课本教的科学方法。很多人也是按这个逻辑推断AI能加速科研的，只要AI能更快地跑实验、更快地关闭验证回路，科学就能加速。
Nielsen在播客里讲了一个物理学史上的经典案例。19世纪的物理学家相信宇宙中充满一种叫"以太"的介质，光在里面传播，就像声波在空气里传播一样。1887年，迈克尔逊和莫雷设计了一个精巧的实验来探测以太,结果没测到。教科书的叙事到这里就结束了：实验证伪了以太，爱因斯坦提出狭义相对论，物理学翻篇。
实际发生的事情完全不是这样。迈克尔逊自己做完实验后继续相信以太，直到1929年去世。当时最顶尖的物理学家洛伦兹，推导出了和狭义相对论一模一样的数学公式，但他坚持那是以太的效应。爱因斯坦后来说，自己当时甚至不确定有没有读过迈克尔逊的论文。这个实验并没有证伪以太。它排除了以太的一个版本，同时催生了好几个修正版。真正提供判决性证据的粒子物理实验，要到几十年后才出现。
但科学共同体在实验验证到来之前，就已经接受了更正确的理论。这种接受靠的不是某个决定性实验，是一种没人能精确定义的审美直觉。Nielsen说了一句很有力的话：我们说不清楚科学进步靠什么在发生，但它确实在发生。
这件事放在今天的语境下看会更有意思。
品味才是稀缺资源
现在所有AI公司都在讲RL加速科研，让它在假说空间里搜索，跑实验，拿反馈，迭代。这是coding领域大获成功的框架：写代码→跑测试→修bug→过测试。AI干这个确实快。
但Nielsen的论点一刀切下来：科学不是coding。coding的验证回路很紧：单元测试要么过要么不过，反馈信号是清晰的。科学验证回路有时候长达几百年。哥白尼在16世纪提出日心说，但当时的观测数据反而不支持他，他的模型甚至比旧模型更复杂。能直接证明地球在动的观测证据，直到1838年才拿到。但科学界的共识在那之前三百年就已经形成了。还有一个更极端的情况：19世纪初有个化学家的假说被实验数据"证伪"了85年，最后才发现数据本身有陷阱：验证回路在积极地否定一个正确的理论。
我的理解是，真正驱动科学范式转换的东西可能根本没法编码成一个reward signal。AI做科研的瓶颈不在跑实验的速度，在品味。换个说法：AI可以帮你更快地验证一个假说，但它帮不了你在一千个可能的假说里挑出那个值得验证的。而科学史反复证明的一件事是，挑对方向比跑得快重要得多。
Nielsen自己就是量子计算教科书的作者，在验证回路最长的领域里待了30年。量子计算从1980年代的理论论文到今天，实用设备还没真正落地，但理论成果已经极其丰富。
科技树比你想象的大一万倍
播客的后半程走向了一个更科幻的方向，但我觉得反而是最有嚼劲的部分。
Nielsen说，大多数人对科学有一个错误的直觉：科学是一条有终点的路。你花几百年搞清楚基本物理规律，然后就差不多了，所有文明最终都会收敛到同一套知识体系。
他的看法刚好反过来。科技树是一棵无限分叉的大树，我们只是在树根附近的几根枝丫上爬了一段。他举了计算机科学的例子：1930年代，几个数学家定义了计算的基本规则。但90年过去了，我们仍然在从这套基本规则里挖出深层的新发现。公钥加密藏在里面，区块链藏在里面，谁知道还有什么藏在里面。
从这里他推出了一个我觉得非常有意思的判断：如果科技树的分叉足够多，那不同文明几乎必然会走上完全不同的分支。外星人拥有的技术栈和我们毫无重叠，这完全可能。
Dwarkesh在现场接了一句很精彩的话：如果真是这样，那文明之间会有巨大的贸易收益。因为你有我没有的东西，我有你没有的东西。比较优势会让"友善"比"征服"更划算。Nielsen承认他之前没想到这一层，但觉得很有道理。
这个想法落到地上其实没有那么科幻。同一颗星球上的中美互联网生态就已经是一个小型预演了。移动支付vs信用卡体系，超级App vs 垂直App。路径依赖把两边锁在了不同的分支上，技术树分叉产生的比较优势，在国和国之间、公司和公司之间，每天都在起作用。
Nielsen还有一个说法特别帅。他说你可以把地球上的蛋白质想象成一个外星文明送给我们的GitHub仓库。几亿种蛋白质，每一种都是一台我们还不太理解的机器。光血红蛋白一个东西就有上万篇论文了，我们都还没搞明白。这些都是40亿年进化"写"出来的代码，放在我们面前，我们正在一行一行地读。
这个比喻让我想到另一个事：我们现在也在给自己制造类似的"外星GitHub仓库"。大模型本身就是一个我们不太理解的巨大认知对象。它里面藏了什么原语、什么模式、什么我们还没名字的东西，可能要像人类理解蛋白质一样，花几十年一个一个地挖。
如果Nielsen说得对，那一个文明能抵达的科技分支，永远只是所有可能的极小一部分。我们选择探索哪根枝丫，放弃哪根枝丫，这些选择本身就在塑造文明的样貌。科技树不是一张等着被揭开的地图。每一笔都是我们自己画上去的。