推理时已经用了no_grad，同一个样本换一批同伴，输出却变了：先检查BatchNorm是否还在使用当前批次统计量。停止记录梯度，不等于切换模块的前向行为；切到eval，也不等于任何配置下都使用固定统计量。

这里把“怎么计算输出”和“是否构建反向图”拆开，用一个同样本输出变号的例子解释两者，再追踪running_mean、running_var为什么也是模型状态。Read in English。

先区分三个独立开关

BatchNorm1d文档给出两条重要规则：默认训练时使用批次统计量并更新运行统计，评估时使用已保存的运行统计；如果track_running_stats=False，评估时仍使用批次统计。no_grad控制梯度记录，并不负责把模块切成eval。

因此，判断一次前向不能只问“是不是推理”。应该分别写出模块training状态、是否跟踪运行统计，以及当前梯度模式。冻结可学习参数也不是同一件事：是否为参数计算梯度，和前向使用哪组均值方差，是两种不同职责。

这篇只分析单个通道、仿射系数γ=1、β=0的情形。真实BatchNorm1d可能沿批与长度维聚合，不能把二维输入的每通道统计，误读成给每个样本单独归一化。

同一个数，为什么能从正变负

取批A=[0,2]，均值为1，按元素数除的方差为1。数值2归一化后为1/√(1+ε)，约为正1。换成批B=[2,4]，均值为3，方差仍为1；同样的数值2变成−1/√(1+ε)。输入2没变，参与统计的同伴变了。

这里不是随机失活，也不是浮点误差。只要当前输出使用批次均值方差，它就可能依赖其他参与统计的元素。no_grad只要没有改变这个统计选择，就不可能从数学上消除这种依赖。

这个反例不表示任意网络换批次都会发生明显变号。实际影响还取决于后续仿射变换、层结构和输入分布。它提供的是能解释现象的最小机制，适合据此设计受控测试，而不是替代项目中的测量。

固定运行统计时，单个输出写成γ(x−μ_run)/√(v_run+ε)+β。保持x、γ、β、μ_run和v_run不变，这个具体算式就不再含批次同伴；它不排除网络其他位置仍有跨样本依赖。

运行方差为什么不是前向方差的直接复制

按PyTorch 2.8定义，训练前向使用有偏方差估计，而写入运行方差更新的批统计使用无偏估计。对上面的两个元素，前向方差为1，无偏估计为2。若旧running_var为1、momentum为0.1，更新后是0.9×1+0.1×2=1.1。

均值也按旧值与当前值混合。例如旧均值0，本批均值1，同样的momentum得到新均值0.1。这里的momentum是新统计的混合系数，不要套用优化器动量的直觉。只记住“移动平均”而忽略使用哪一种方差，会让手工对照出现看似无法解释的差异。

单批训练输出和紧接着的评估输出不必相同。前者用当前批统计，后者可能用混合后的历史统计；即使数据相同，这也不是同一个计算式。排查时先把两组统计打印成自己的本地诊断记录，再比较输出，往往比盲目增加容差更有用。

八项算术检查复现差异

下面执行的是标准库数学模型，显式计算均值、有偏与无偏方差，以及一次运行统计更新。它不模拟完整模块状态机，也没有替你验证PyTorch设备后端。

# One-channel teaching arithmetic, not a PyTorch module execution.
from math import sqrt, isclose

def stats(xs):
    mean = sum(xs)/len(xs)
    biased = sum((x-mean)**2 for x in xs)/len(xs)
    unbiased = biased*len(xs)/(len(xs)-1)
    return mean, biased, unbiased

def normalize(x, mean, var, eps=1e-5):
    return (x-mean)/sqrt(var+eps)

m1,v1,u1 = stats([0.,2.])
m2,v2,u2 = stats([2.,4.])
assert (m1,v1,u1)==(1.,1.,2.)
assert (m2,v2,u2)==(3.,1.,2.)
assert normalize(2.,m1,v1)>0
assert normalize(2.,m2,v2)<0
running_mean,running_var,momentum = 0.,1.,0.1
running_mean=(1-momentum)*running_mean+momentum*m1
running_var=(1-momentum)*running_var+momentum*u1
assert isclose(running_mean,0.1)
assert isclose(running_var,1.1)
a=normalize(2.,running_mean,running_var)
b=normalize(2.,running_mean,running_var)
assert a==b
assert not isclose(a,normalize(2.,m1,v1))
print("8 BatchNorm arithmetic checks passed")

本地八项断言通过。前四项检查两个批次的统计与变号，接着检查更新后的均值和方差，最后检查固定统计得到一致结果，并与当前批统计结果不同。重复同一算式的一致性只是这个例子的控制条件，不是对所有模型确定性的证明。

把批次扰动测试设计成单变量实验

固定待测样本及其位置，分别与两组不同同伴组成合法批次。先在相同模块模式下比较目标样本的输出，再检查每个BatchNorm层实际使用的统计来源。批A与批B都要有足够的有效统计元素，不能拿不合法的单元素训练输入当作功能对照。

随后在默认跟踪统计的配置下切到评估，使用相同保存状态重测。如果批次依赖消失，证据指向批统计路径；如果仍存在，就继续检查track_running_stats、其他跨样本运算、预处理和随机因素。一次对照只能缩小范围，不能证明全链路已经正确。

还要控制dropout，避免把随机输出变化混进本来想观察的统计差异。位置、长度或掩码同时变化时，比较也不再只针对批次同伴。这与此前padding参与范围的排查一样：先确定哪些输入真的保持不变。

保存权重之外，还要保存统计状态

若部署路径依赖running_mean和running_var，只保存γ、β并不足以重建同一个前向函数。运行统计不是优化器参数，却能改变评估输出。恢复模型时，应把需要的缓冲区纳入状态校验，并记录训练与评估模式、跟踪统计配置和预处理版本。

同样，不要在想保持固定评估语义时，误把验证数据送入会更新统计的训练路径。即使没有反向传播，状态更新本身仍可能改变之后的输出。是否允许使用新数据重新估计统计，应作为明确的适配方案验证，不能让它偶然发生。

部署前可以准备一小组固定输入与预期输出，在完整状态保存和加载后比较；再加入更换批次同伴的测试。前一个检查恢复完整性，后一个检查预期的批次独立性。两者都通过，才比“模型能load、能forward”提供更多证据。

先看统计来源，再调参数

看到批次相关的推理变化时，先核对模块模式、track_running_stats、实际均值方差及状态恢复，再考虑调整ε或重新训练。后两项会改变模型行为，不能代替定位前向究竟走了哪条路径。

如果这组反例和状态核验步骤帮你解释了“同样输入不同输出”，欢迎通过文末支持区自愿支持。值得保留的成果，是下一次能快速复现并定位差异的测试，而不是一个碰巧让结果稳定的开关组合。

来源与补发说明

BatchNorm1d、no_grad

依据原计划时段前已有的PyTorch 2.8定义核对；推导、反例与图示为原创教学内容。保留2026年10月19日09:00文章日期，实际于10月19日晚补发。标准库代码已执行，没有运行PyTorch模型或测量设备性能。