本文介绍NVIDIA开发的开源工具garak,用于自动化扫描大语言模型安全漏洞,支持检测幻觉生成、数据泄漏、提示词注入、越狱攻击等威胁。工具采用模块化插件架构,集成HuggingFace、OpenAI等多种模型接口,输出JSONL格式报告。适用于LLM部署前安全评估、红队演练等场景,项目地址为GitHub。
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章
网络安全文章