OpenAI开发了内部AI红队系统GPT-Red,用于自主攻击自家模型以发现提示注入等安全漏洞。该系统通过自博弈强化学习训练,在84%的测试场景中成功攻击,远超人工红队的13%成功率。GPT-Red已用于对抗训练,使GPT-5.6Sol的提示注入失败率降低6倍,同时保持模型能力不受损。该系统为内部工具,不与公众共享。
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章