西安电子科技大学李晖教授团队最新研究成果被ICLR 2026全文收录

信息网络安全杂志

2026年7月1日 12:00
上海

在小说阅读器读本章

去阅读

（通讯员：吴飞宇）第14届国际学习表征会议（The Fourteenth International Conference on Learning Representations，ICLR 2026）于2026年4月23日至27日在巴西里约热内卢举行。西安电子科技大学李晖教授团队最新研究成果“Grounding Generative Planners in Verifiable Logic: A Hybrid Architecture for Trustworthy Embodied AI”被本届会议接收。李晖教授指导的硕士研究生吴飞宇与本科生郑旭为论文的共同第一作者，通讯作者为李晖。

ICLR是机器学习与表征学习领域的重要国际会议，关注表征学习及其在强化学习、机器人、自然语言处理、计算机视觉等方向的前沿研究。官方评审回顾显示，本届会议共接收5355篇论文，录用率为27.4%。

这篇论文关注的是一个十分现实的问题：如果让大语言模型为机器人这类具身智能系统规划行动步骤，它虽然能给出看起来合理的方案，却未必真正理解现实世界中的安全规则。在家庭、厨房等场景里，一个看似普通的动作，背后都可能隐藏起火、烫伤或化学风险。针对这一问题，团队提出了可验证迭代优化框架 Verifiable Iterative Refinement Framework（VIRF）。可以把它理解为给智能体配备了一位“安全老师”：当模型给出的方案存在风险时，系统不会只简单地说“这个方案不行”，而是会进一步指出问题出在哪里、为什么危险，又该如何修改，帮助模型一步步把不安全的方案修正为更安全、更可执行的方案。

为支撑这一过程，研究团队还设计了两项关键能力：一是从真实安全手册、规范和文档中提炼出机器能够理解和使用的安全知识；二是通过更细致的场景理解流程，识别环境中的物体、状态和相互关系。这样，系统就形成了“学规则—看场景—查风险—改方案”的完整闭环，让机器人不仅会“完成任务”，也能先判断“这样做是否安全”。

实验结果表明，在具有挑战性的家庭安全任务中，VIRF将危险动作率降到0%，任务完成率达到77.3%，平均只需1.1次纠错迭代即可完成安全修正，整体表现优于多种对比方法。这说明，想让具身智能真正走向现实应用，关键不只是让系统“会做事”，更要让它“知道什么不能做、为什么不能做，以及出了问题后该怎样改”。

近年来，大语言模型在任务规划、人机交互和机器人决策等方向展现出广阔应用前景，但在真实物理环境中，安全始终是落地应用的前提。本研究把大模型灵活的生成能力，与可被严格检验的逻辑规则结合起来，为构建可信、可解释、可验证的具身智能系统提供了新的研究思路，也为机器人安全规划和高可靠人工智能研究奠定了基础。

来源：西安电子科技大学