文章总结： 本文系统梳理AI安全核心威胁，涵盖对抗样本生成方法（白盒/黑盒攻击）、大模型Prompt注入攻击原理与场景、模型窃取技术、Ollama本地部署风险（模型删除/窃取/算力消耗/投毒）及CVE-2024-37032漏洞分析（路径遍历导致RCE），并提供修复建议与防御措施。 综合评分： 86 文章分类： AI安全,漏洞分析,恶意软件,安全工具,解决方案

AI安全知识分享(含答案)-长期更新

原创

ladon ladon

306Safe

2026年5月13日 10:39 北京

在小说阅读器读本章

去阅读

“ 安全从业者的知识宝库”

☆☆☆

—

AI安全

1. 什么是AI对抗样本？常见的生成方法有哪些？

AI对抗样本是通过对合法数据添加微小、人类难以察觉的扰动，使AI模型产生错误判断的样本。 常见生成方法分为两类：

● 白盒攻击：需知晓模型内部结构，如快速梯度符号法（FGSM）、投影梯度下降（PGD），通过计算梯度生成扰动。

● 黑盒攻击：无需模型信息，如迁移攻击，利用在其他模型上有效的对抗样本攻击目标模型。

2. 大模型Prompt注入攻击的原理是什么？常见攻击场景？

攻击原理基于大模型对提示词（Prompt）的指令优先级特性： 黑客构造恶意提示词，劫持模型执行逻辑，使其忽略安全限制。 常见场景包括：

● 指令劫持：强制模型执行危险操作（如绕过内容过滤）。

● 角色伪装：诱骗模型冒充管理员，泄露敏感信息。

● 多轮诱导：通过连续提问逐步降低模型警惕性，获取违规输出。

3. AI模型窃取攻击的原理是什么？

核心目标是窃取模型的知识产权： 黑客通过API调用分析模型输出、利用泄露的模型文件，反向推导模型结构、参数和决策逻辑。 得手后，可复制模型、篡改后发布，或利用被盗模型发起精准攻击（如生成对抗样本）。

4. Ollama DeepSeek本地化部署有哪些风险？

本地部署虽灵活，但存在以下风险：

● 模型删除：攻击者可通过接口直接删除服务器上的模型文件。

● 模型窃取：利用自建镜像源，通过API下载私有模型文件。

● 算力窃取：恶意对话请求大量消耗服务器计算资源。

● 模型投毒：替换正常模型为有毒版本，污染后续对话输出。

● 漏洞风险：如CVE-2024-37032，允许攻击者远程执行代码，控制服务器。

5. 简述Ollama的CVE-2024-37032漏洞

该漏洞为高危路径遍历漏洞（CVSS 9.1），影响Ollama 0.1.34以下版本： 攻击者可通过伪造镜像manifest文件，触发漏洞实现：

● 任意文件读写，窃取服务器敏感数据；

● 远程代码执行，直接控制服务器。 修复需升级至安全版本，并限制镜像源访问权限。

END

—

  关注公众号，持续分享各种面经及安全知识～

感谢，祝大家在渗透之路，大杀四方！！！

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：306Safe ladon ladon《AI安全知识分享(含答案)-长期更新》