AlphaGo 团队成员 Thore Graepel:LLM 并不会推理
前 DeepMind AlphaGo 核心成员 Thore Graepel 撰文指出,当前大语言模型逐 token 预测加上链式思维,本质上仍是系统 1 式的模式补全,不构成真正的推理。
前 DeepMind AlphaGo 核心成员 Thore Graepel 撰文指出,当前大语言模型逐 token 预测加上链式思维,本质上仍是系统 1 式的模式补全,不构成真正的推理。
MIT 研究者 Alex Zhang 在 Latent Space 播客中介绍了递归语言模型(RLM)、GPU Mode 与 AI 编写 GPU kernel 的工作。
伯克利 AI 研究团队发布综述,分析并行推理领域进展,重点讨论自适应并行推理——让推理模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。文章指出,顺序推理随探索量线性扩展,会遭遇上下文退化(context-rot)并导致延迟随推理长度成比例增长,复杂任务常需用户等待数十分钟甚至数小时。