网络安全文章
国家安全部发文警示人工智能安全风险,指出AI系统可能出现自作主张的自主决策行为,带来数据泄露、算法歧视等安全隐患。文章强调需加强AI安全监管与合规建设,防范技术滥用。建议相关机构完善安全评估机制,确保AI发展符合法律法规与伦理标准。
10-170
网络安全文章
美国AI治理面临核心矛盾:AI能力高速扩张但治理权责模糊。大型AI企业如OpenAI和Anthropic不仅提供技术,还参与国家安全和国际规则制定,商业权力可能越界进入公共权力领域。文章指出,企业可以参与治理但不能主导治理,需要建立更透明、可问责的全球AI治理体系,包括独立审计、外部监督和多边协调。
10-170
网络安全文章
tenetthreatlabs公开ghostjacking攻击技术,利用被防火墙拦截的日志作为入口,劫持AI代理在授权权限内执行恶意操作,全程无传统安全告警。攻击链包括初始访问、权限提升、数据外传和持久化,覆盖Cloudflare、Datadog、Sentry三大平台,影响广泛。建议企业隔离AI读取外部数据与执行系统操作的权限,tenet开源了agent-jackstop加固工具。
10-170
网络安全文章
国际奥委会发布报告《网络恶意攻击与体育》,聚焦2024巴黎和2026米兰冬奥会,甄别出近2.5万条攻击性内容。报告显示AI标记超24万条可能攻击内容,人工确认约24700条。国际奥委会启动网络暴力保护服务,审核430万条发帖,并采取措施追查源头、提供心理支持。报告强调网络暴力造成真实伤害,需制定防范策略、开展教育并建立应对机制。
10-170
评论