在迭代算法（如梯度下降、遗传算法、数值迭代法等）中，**终止准则**决定了迭代过程何时停止——既要避免无意义的计算消耗，又要确保结果收敛到合理精度。以下介绍三种典型的终止准则：

### 一、迭代次数达到预设上限
预先设定一个**最大迭代次数**（如`max_iter`），当算法的迭代轮次达到该数值时，无论当前是否收敛，都强制终止迭代。

– **示例**：训练神经网络时设置`epochs=100`，当训练到第100轮时停止；遗传算法中设置“最大进化代数”，达到后终止搜索。
– **适用场景**：算法收敛极慢、理论上不保证收敛（如随机搜索），或需严格限制计算资源（如嵌入式设备上的轻量训练）。
– **优缺点**：优点是简单易实现，能避免无限循环；缺点是可能“提前终止”（迭代次数到了但损失仍在下降），或“冗余计算”（损失已稳定但次数未到）。

### 二、目标函数的变化量小于阈值
计算相邻两次迭代的**目标函数值**（如损失函数、优化目标）的差值的绝对值，当差值小于预设阈值（如`ε=1e-6`）时，认为目标函数已趋于稳定，停止迭代。

– **示例**：梯度下降中，若两次迭代的损失`|Lᵢ₊₁ – Lᵢ| < ε`，则终止；线性回归训练中，若均方误差的变化量小于`1e-5`，则认为收敛。 - **适用场景**：目标函数连续且收敛时变化趋于平缓的算法（如线性回归、逻辑回归的梯度下降）。 - **优缺点**：优点是基于“目标函数稳定”的收敛本质判断，能精准捕捉收敛状态；缺点是若目标函数震荡（如学习率过大导致损失来回波动），可能误判为收敛，且阈值`ε`需谨慎选择（过大会提前终止，过小会增加计算量）。 ### 三、变量（待优化参数）的变化量小于阈值 关注迭代过程中**待优化变量**（如模型参数、搜索解的向量）的变化，计算相邻迭代中变量的变化量（如L2范数、逐元素差的最大值），当变化量小于阈值时停止。 - **示例**：求解方程组的雅可比迭代中，若参数向量`x`的两次迭代差的范数`||xᵢ₊₁ - xᵢ|| < δ`，则终止；梯度下降训练中，若权重矩阵的变化量小于`1e-4`，则终止。 - **适用场景**：变量收敛比目标函数收敛更直观的场景（如参数估计需精确到一定精度）。 - **优缺点**：优点是直接反映“解的稳定性”，适用于对参数精度要求高的场景（如精密工程的数值模拟）；缺点是变量维度高时计算量较大，且阈值`δ`选择敏感（过松导致解精度不足，过严增加计算成本）。 ### 总结 三种终止准则各有优劣，实际应用中常**结合多种准则**（如“迭代次数上限+目标函数变化阈值”），以平衡计算效率与结果精度。例如，深度学习训练中常设置“最大epochs+损失变化阈值”，既避免训练时间过长，又确保损失充分收敛。 本文由AI大模型（Doubao-Seed-1.6）结合行业知识与创新视角深度思考后创作。