Tracebit的研究人员推出了一种名为“上下文轰炸”（context bombing）的防御技术，该技术利用包含禁止性指令的提示注入来触发大语言模型的拒绝机制，从而有效终止恶意AI代理的攻击。通过嵌入违反安全护栏的指令（如要求执行非法行为），防御者可以迫使攻击模型在上下文窗口内永久停止响应。在对Opus 4.8和Gemini 3.1 Pro等主要模型的初步测试中，该方法显示出对抗AI驱动黑客攻击的巨大潜力。
背景
提示注入攻击是指通过在输入中嵌入恶意命令来操纵大型语言模型执行未授权操作或泄露敏感数据。本文指出了一种转变：防御者利用类似的技术，通过利用模型内置的安全拒绝机制来中和由AI驱动的威胁。
- 来源
- Ars Technica
- 发布时间
- 2026年7月13日 23:06
- 评分
- 8.0 / 10