ZONE.CI 全球网

南洋理工大学与武汉大学提出LocalAlign方法，针对大语言模型提示注入防御的泛化不足问题，从输入侧与目标侧两个维度展开分析，通过近目标对抗样本生成与边际感知对齐训练，提升模型对未见攻击的鲁棒性。实验表明该方法在分布外数据集上将攻击成功率降至10%以下，并显著增强对GCG等优化攻击的防御能力，同时保持正常任务能力。