国家安全部:当AI出现“自作主张”,警惕人工智能安全问题"

admin 2026-10-17 10:00:11 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

cover_image

国家安全部:当AI出现“自作主张”,警惕人工智能安全问题

中国信息安全

2026年8月12日 17:40
北京

在小说阅读器读本章

去阅读

(来源:国家安全部)


前沿|肖茜:美国AI治理缘何陷入分歧" 网络安全文章

前沿|肖茜:美国AI治理缘何陷入分歧"

美国AI治理面临核心矛盾:AI能力高速扩张但治理权责模糊。大型AI企业如OpenAI和Anthropic不仅提供技术,还参与国家安全和国际规则制定,商业权力可能越界进入公共权力领域。文章指出,企业可以参与治理但不能主导治理,需要建立更透明、可问责的全球AI治理体系,包括独立审计、外部监督和多边协调。
被防火墙拦下的请求反而成了攻击入口" 网络安全文章

被防火墙拦下的请求反而成了攻击入口"

tenetthreatlabs公开ghostjacking攻击技术,利用被防火墙拦截的日志作为入口,劫持AI代理在授权权限内执行恶意操作,全程无传统安全告警。攻击链包括初始访问、权限提升、数据外传和持久化,覆盖Cloudflare、Datadog、Sentry三大平台,影响广泛。建议企业隔离AI读取外部数据与执行系统操作的权限,tenet开源了agent-jackstop加固工具。
关注|国际奥委会发布报告聚焦网络恶意攻击与体育" 网络安全文章

关注|国际奥委会发布报告聚焦网络恶意攻击与体育"

国际奥委会发布报告《网络恶意攻击与体育》,聚焦2024巴黎和2026米兰冬奥会,甄别出近2.5万条攻击性内容。报告显示AI标记超24万条可能攻击内容,人工确认约24700条。国际奥委会启动网络暴力保护服务,审核430万条发帖,并采取措施追查源头、提供心理支持。报告强调网络暴力造成真实伤害,需制定防范策略、开展教育并建立应对机制。
评论:0   参与:  0