[LG]《SNLP: Layer-Parallel Inference via Structured Newton Corrections》L Han, K Xu, H Wang, A Srivastava [Red Hat AI Innovation] (2026)

在大模型推理中，层间顺序依赖是一个悬而未决的难题。过去的并行方法受困于只能加速单层或单 token，本质原因是隐藏状态必须逐层传递。

本文的核心洞见是：把逐层前向重新看作深度方向上的非线性方程求解。由此，用结构化牛顿近似替代昂贵雅可比这一关键操作，使多层可并行更新。

这项工作真正留下的遗产是把层并行从工程调度变成求解器设计。它为后来者打开的新门是训练—推理共设计的深度并行，但尚未跨过的门槛是通用预训练模型与大规模内核加速。

arxiv.org/abs/2605.17842 机器学习 人工智能 论文 AI创造营