研究人员演示了可以通过将损失函数设为零，在PyTorch的反向传播中嵌入图灵完备程序，从而绕过所有标准训练指标。该利用方式利用了IEEE 754浮点运算与符号自动微分之间的根本分歧，即使损失在TensorBoard中看起来完全正常，也能通过梯度执行恶意代码。
背景
该披露揭示了开源ML模型微调中的严重供应链攻击向量：看似无害的自定义损失函数可能隐藏任意计算。它强调了仅依赖损失值作为模型训练流程中信任指标的固有缺陷。
- 来源
- Lobsters
- 发布时间
- 2026年10月22日 05:06
- 评分
- 8.0 / 10