第四届“数信杯”AI安全团队综合赛理论题WP

原创

Thanatos
Thanatos

星宇Sec

2026年10月16日 20:45
山东

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

为贯彻落实工业和信息化部等十六部门联合印发《关于促进数据安全产业发展的指导意见》，提升产业创新能力、强化人才供给保障，促进数据安全产业高质量发展，提升我国数据安全治理能力，护航数字中国建设。“数信杯”数据安全大赛组委会联合中国联合网络通信集团有限公司山西省分公司、中国移动通信集团山西有限公司、中国电信集团有限公司山西分公司、数据安全关键技术与产业应用评价工业和信息化部重点实验室、中国计算机行业协会网络和数据安全专业委员会、西安四叶草信息技术有限公司于2026年10月至11月联合举办第四届“数信杯”数据安全大赛。面向全国电信、互联网、金融、医疗、工业、能源、政务、文体等重要行业单位，以及院校、科研机构、安全厂商和数据安全个人爱好者。

AI安全团队综合赛理论题题目WP

题量：100 题（单选 / 多选 / 判断）

---

1.（多选题） 大模型查询接口（如自然语言检索、自然语言转SQL接口）可能引入的隐私泄露风险包括（ ）。

A、接口可被越权调用，用于批量获取敏感数据

B、自然语言查询可能绕过原有数据库的字段级权限控制

C、查询日志与缓存中可能残留敏感数据

D、只要限制接口每秒调用次数即可消除隐私泄露风险

答案：ABC

解析：自然语言查询接口可能引入的隐私泄露风险包括接口被越权调用批量获取敏感数据、自然语言查询可能绕过原有数据库字段级权限控制、查询日志与缓存中残留敏感数据；D错误，仅限制每秒调用次数不能消除泄露风险。

2.（单选题） 关于大模型差分隐私训练（如DP-SGD），下列说法正确的是（ ）。

A、可以完全防止模型被窃取

B、不产生任何额外计算开销

C、通过梯度裁剪与加噪提供可量化的隐私保障，但可能损失部分模型效用

D、只能应用于图像生成模型

答案：C

解析：DP-SGD通过梯度裁剪与加噪提供可量化的隐私保障（以差分隐私的ε、δ度量），但可能损失部分模型效用。A、B、D均错误。

3.（单选题） 多模态大模型相比纯文本大模型新增的安全风险不包括（ ）。

A、图像中嵌入的对抗扰动

B、通过图片内容传递提示注入指令

C、音视频中隐藏的隐写信息

D、文本分词器的词表规模

答案：D

解析：该题问不包括。多模态新增风险包括图像对抗扰动、通过图片传递提示注入、音视频隐写信息等；文本分词器词表规模属工程指标，不是新增安全风险。

4.（判断题） 智能体被授予的工具与数据权限越大，其被提示注入攻击后造成实际危害的可能性就越高。

A、对

B、错

答案：A（对）

解析：智能体被授予的工具与数据权限越大，其被提示注入攻击后造成实际危害的可能性越高，故正确。

5.（判断题） 在大模型应用中，模型生成的内容可以直接作为下游系统的可执行指令或SQL语句使用。

A、对

B、错

答案：B（错）

解析：模型生成内容可能包含恶意指令，直接作为下游系统的可执行指令或SQL语句使用会引发注入与越权风险，故错误。

6.（多选题） 工业控制系统安全防护的常见措施包括（ ）。

A、网络分区与边界隔离，如工业防火墙、单向隔离装置

B、工业控制设备采购成本的年度优化

C、工控主机加固与应用白名单

D、定期开展工控安全评估与应急演练

答案：ACD

解析：工业控制系统安全防护的常见措施包括网络分区与边界隔离（工业防火墙、单向隔离装置）、工控主机加固与应用白名单、定期开展工控安全评估与应急演练；B属采购成本管理。

7.（多选题） 人工智能供应链安全管控应当覆盖（ ）。

A、模型与数据集的来源可信性验证

B、第三方依赖与开源组件漏洞管理

C、模型文件的完整性校验与签名验证

D、模型仓库与分发渠道的访问控制与溯源

答案：ABCD

解析：人工智能供应链安全管控应覆盖模型与数据集来源可信性验证、第三方依赖与开源组件漏洞管理、模型文件完整性校验与签名验证、模型仓库与分发渠道的访问控制与溯源。

8.（多选题） 《生成式人工智能服务管理暂行办法》规定，提供者应当（ ）。

A、明确并公开其服务的适用人群、场合、用途

B、采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务

C、建立健全投诉、举报机制并设置便捷的投诉举报入口

D、要求使用者每次使用前签署纸质协议

答案：ABC

解析：《生成式人工智能服务管理暂行办法》要求提供者明确并公开适用人群、场合、用途，采取有效措施防范未成年人过度依赖或沉迷，建立健全投诉举报机制并设置便捷入口；D“每次使用前签署纸质协议”无此要求。

9.（多选题） 关于可信数据空间与数据要素流通，下列说法正确的有（ ）。

A、意味着原始数据可以无条件自由共享

B、强调数据可用不可见、可控可计量

C、需要身份互信与使用控制技术支撑

D、需要全流程审计与溯源能力

答案：BCD

解析：可信数据空间与数据要素流通强调数据可用不可见、可控可计量，需要身份互信与使用控制技术支撑，并具备全流程审计与溯源能力；A“原始数据可以无条件自由共享”错误。

10.（单选题） 关于人工智能模型文件的完整性保护，最有效的方式是（ ）。

A、仅依靠文件名与版本号区分

B、使用压缩包加密但公开压缩密码

C、对模型文件计算杂凑值并配合数字签名进行校验

D、不对外开放模型下载

答案：C

解析：模型文件完整性保护最有效的方式是对文件计算杂凑值并配合数字签名进行校验。A、B、D均不具备真正的完整性保障。

11.（单选题） 在人工智能应用中对用户输入进行日志记录时，正确的做法是（ ）。

A、直接明文保存全部输入内容以便后续审计

B、不记录任何日志以规避合规风险

C、将日志存储在公网可访问的对象存储中以便随时检索

D、对输入中的个人信息等敏感字段进行脱敏或加密后再保存，并严格控制日志访问权限

答案：D

解析：记录用户输入时应先对个人信息等敏感字段脱敏或加密，并严格控制日志访问权限。A、B、C均违反最小必要与安全原则。

12.（多选题） 《互联网信息服务深度合成管理规定》要求深度合成服务提供者（ ）。

A、按照用户付费金额确定标识展示优先级

B、建立健全算法机制机理审核、科技伦理审查、信息发布审核等管理制度

C、不得删除、篡改、隐匿深度合成标识

D、对深度合成服务使用者进行真实身份信息认证

答案：BCD

解析：《互联网信息服务深度合成管理规定》要求建立健全算法机制机理审核、科技伦理审查、信息发布审核等管理制度，不得删除篡改隐匿深度合成标识，并对使用者进行真实身份信息认证；A“按付费金额确定标识展示优先级”错误。

13.（单选题） 联邦学习中的安全聚合（Secure Aggregation）机制的主要作用是（ ）。

A、在服务器无法获知单个参与方模型更新的前提下完成全局模型聚合

B、提升全局模型的收敛速度

C、减少参与方之间的通信开销

D、替代差分隐私，提供绝对的隐私保障

答案：A

解析：安全聚合使聚合服务器无法获知单个参与方的模型更新，从聚合流程层面保护各方隐私。D错在不能提供绝对隐私保障，也不能替代差分隐私。

14.（多选题） 自建大模型推理服务时，为降低被攻击风险应当采取的措施包括（ ）。

A、为推理服务配置独立的运行账户并遵循最小权限

B、及时更新推理框架与依赖组件，修复已知漏洞

C、将模型权重文件存放在受限目录并控制读取权限

D、为方便调试，将管理接口与推理接口暴露在同一公网端口且不设鉴权

答案：ABC

解析：降低自建推理服务被攻击风险的措施包括为推理服务配置独立运行账户并遵循最小权限、及时更新推理框架与依赖组件修复已知漏洞、将模型权重文件存放在受限目录并控制读取权限；D“将管理接口与推理接口暴露在同一公网端口且不设鉴权”是危险配置。

15.（单选题） 根据《互联网信息服务算法推荐管理规定》，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起（ ）内通过互联网信息服务算法备案系统填报信息，履行备案手续。

A、三个工作日

B、十个工作日

C、十五个工作日

D、三十个工作日

答案：B

解析：依据《互联网信息服务算法推荐管理规定》第二十四条，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报信息、履行备案手续。“十五个工作日”（C）为干扰项，易与其他时限混淆。

16.（多选题） 具身智能设备的安全防护要求包括（ ）。

A、芯片与固件的安全启动与完整性校验

B、多类型传感器数据的完整性校验

C、远程控制指令的防篡改与防重放

D、设备异常行为检测与应急止动隔离

答案：ABCD

解析：具身智能设备的安全防护要求包括芯片与固件的安全启动与完整性校验、多类型传感器数据的完整性校验、远程控制指令的防篡改与防重放、设备异常行为检测与应急止动隔离。

17.（单选题） 《人工智能生成合成内容标识办法》中，隐式标识是指（ ）。

A、在内容显著位置添加的文字提示

B、内容发布者自行填写的标签

C、在生成合成内容的文件数据中添加的、不易被用户明显感知的标识

D、平台展示的品牌标志

答案：C

解析：隐式标识是采取技术措施在生成合成内容文件数据中添加、不易被用户明显感知的标识；A为显式标识，B、D不属于本办法规定的标识类型。

18.（判断题） 在人工智能安全事件处置过程中，应当及时保存日志和相关证据，避免关键信息灭失影响溯源与定责。

A、对

B、错

答案：A（对）

解析：人工智能安全事件处置过程中应当及时保存日志和相关证据，避免关键信息灭失影响溯源与定责，故正确。

19.（单选题） 关于人工智能供应链安全风险，下列说法错误的是（ ）。

A、从公开模型仓库下载的权重文件可能被植入恶意代码

B、pickle 格式模型文件存在反序列化执行任意代码的风险

C、只要模型来自知名机构就一定不存在供应链风险

D、第三方依赖库漏洞可能影响AI系统安全

答案：C

解析：该题问错误的说法。知名机构同样可能遭遇供应链投毒或依赖漏洞，C的“一定不存在供应链风险”错误；A、B、D均为真实风险。

20.（单选题） 智能体（Agent）工具调用链路的安全设计原则不包括（ ）。

A、遵循最小权限原则分配工具权限

B、对高风险操作引入人工确认或二次审批

C、对工具调用参数进行严格校验

D、将所有系统凭据直接写入系统提示供模型自由使用

答案：D

解析：该题问不包括。工具调用链路应遵循最小权限、对高风险操作引入人工确认、对参数严格校验；将系统凭据写入系统提示供模型自由使用严重违反最小权限与凭据保护原则。

21.（单选题） 针对工业控制网络的攻击中，控制指令篡改可能造成的直接后果是（ ）。

A、仅影响办公网络带宽占用

B、只影响系统日志的完整性

C、只影响企业邮件收发

D、导致物理过程异常，可能引发设备损坏或安全生产事故

答案：D

解析：控制指令被篡改会直接导致物理过程异常，可能引发设备损坏或安全生产事故，这是工控安全区别于传统IT安全的关键。

22.（多选题） 向量数据库与 Embedding 相关的安全措施包括（ ）。

A、对向量库实施细粒度访问控制与租户隔离

B、对入库文本进行敏感信息识别与脱敏

C、向量索引压缩比与检索时延优化

D、对检索行为进行审计与异常检测

答案：ABD

解析：向量数据库与Embedding的安全措施包括细粒度访问控制与租户隔离、入库文本敏感信息识别与脱敏、检索行为审计与异常检测；C属向量索引压缩与检索时延优化。

23.（判断题） 模型后门攻击只有在攻击者完全控制模型训练全过程时才可能实现。

A、对

B、错

答案：B（错）

解析：后门攻击可通过污染第三方数据、利用微调服务或开源权重等途径实现，并非必须完全控制模型训练全过程，故错误。

24.（多选题） 大模型应用安全网关应具备的能力包括（ ）。

A、提示注入与越狱攻击检测

B、敏感数据识别与脱敏处置

C、支持多模型同时上线以提升并发吞吐

D、统一策略下发与风险告警

答案：ABD

解析：大模型应用安全网关应具备提示注入与越狱攻击检测、敏感数据识别与脱敏处置、统一策略下发与风险告警能力；C属多模型并发吞吐能力。

25.（判断题） 数据分类分级、数据脱敏与访问控制等数据安全技术，同样适用于大模型训练数据与向量数据库的治理。

A、对

B、错

答案：A（对）

解析：数据分类分级、数据脱敏与访问控制等数据安全技术同样适用于大模型训练数据与向量数据库的治理，故正确。

26.（单选题） 隐私计算所追求的数据可用不可见目标，主要通过（ ）实现。

A、联邦学习、多方安全计算与可信执行环境等技术的组合

B、明文数据直接共享

C、数据脱敏后公开发布

D、数据可视化大屏展示

答案：A

解析：隐私计算以数据可用不可见为目标，主要依靠联邦学习、多方安全计算与可信执行环境等技术的组合实现。

27.（单选题） 关于大模型的幻觉（Hallucination）现象，下列说法正确的是（ ）。

A、幻觉是指模型生成与事实不符或缺乏依据的内容

B、幻觉只会出现在参数量较小的模型上

C、提高温度参数可以彻底消除幻觉

D、幻觉等同于模型被越狱攻击

答案：A

解析：幻觉指模型生成与事实不符或缺乏依据的内容。B、C、D均错误。

28.（多选题） 关于大模型越狱与提示注入的区别与联系，下列说法正确的有（ ）。

A、越狱的目标通常是绕过模型自身的安全策略

B、提示注入通常指通过注入指令改变模型的预期任务行为

C、两者常结合使用以达成攻击目的

D、两者都只影响模型的推理速度

答案：ABC

解析：越狱的目标通常是绕过模型自身的安全策略，提示注入通过注入指令改变模型的预期任务行为，两者常结合使用；D“两者都只影响推理速度”错误。

29.（判断题） 对人工智能生成合成内容添加标识的目的之一是便于公众识别内容来源，防范虚假信息传播。

A、对

B、错

答案：A（对）

解析：对生成合成内容添加标识的目的之一是便于公众识别内容来源、防范虚假信息传播，故正确。

30.（单选题） 系统提示词泄漏（System Prompt Leakage）风险的主要危害在于（ ）。

A、导致模型推理速度显著下降

B、暴露系统提示中可能包含的业务规则、上下文信息或凭据，为后续攻击提供条件

C、使模型无法生成任何内容

D、提高模型训练成本

答案：B

解析：系统提示词常包含业务规则、上下文信息乃至凭据，一旦泄漏可为后续注入与越权操作提供条件。A、C、D均非其主要危害。

31.（单选题） 车联网中 T-Box 面临的主要安全风险不包括（ ）。

A、通信链路被劫持导致远程控制风险

B、固件被篡改导致后门植入

C、车辆轮胎气压不足

D、车辆位置等敏感数据泄露

答案：C

解析：该题问不包括。T-Box的主要风险为通信链路被劫持导致远程控制、固件被篡改植入后门、车辆位置等敏感数据泄露；轮胎气压属车辆自身状态，不是网络安全风险。

32.（单选题） 训练数据提取攻击（Training Data Extraction）能够成功，主要原因是（ ）。

A、模型参数以明文形式存储在磁盘上

B、模型对训练样本存在过度记忆（memorization），可通过特定提示复现训练语料

C、训练数据未加密传输

D、模型推理接口未使用HTTPS加密

答案：B

解析：大模型对训练样本存在过度记忆（memorization），攻击者可用特定前缀提示诱发模型逐字复现训练语料。A、C、D与提取攻击的成因无关。

33.（判断题） 使用公开开源数据集训练人工智能模型时，不需要关注数据集中可能包含的个人敏感信息。

A、对

B、错

答案：B（错）

解析：公开开源数据集同样可能包含个人敏感信息，使用时应关注数据来源与个人信息保护要求，故错误。

34.（多选题） 下列工业协议中，默认采用明文传输且缺乏内置认证机制的有（ ）。

A、Modbus TCP

B、未启用安全认证扩展的 DNP3

C、IEC 60870-5-104

D、启用证书安全策略的 OPC UA

答案：ABC

解析：Modbus TCP、未启用安全认证扩展的DNP3、IEC 60870-5-104通常默认明文传输且缺乏内置强认证与加密；启用证书安全策略的OPC UA具备认证与加密能力，须排除D。

35.（单选题） 在数据安全治理中，数据血缘（Data Lineage）技术的主要价值是（ ）。

A、提升模型训练精度

B、降低数据存储成本

C、加快数据查询速度

D、追踪数据从采集到使用的全链路流转关系，支撑溯源与合规审计

答案：D

解析：数据血缘追踪数据从采集到使用的全链路流转关系，为溯源与合规审计提供支撑。

36.（判断题） 大模型在收到忽略之前所有指令这类输入时，其安全对齐机制一定不会被绕过。

A、对

B、错

答案：B（错）

解析：面对“忽略之前所有指令”这类输入，模型的安全对齐机制存在被绕过的可能，“一定不会被绕过”过于绝对，故错误。

37.（单选题） 无人机 GNSS 欺骗（Spoofing）攻击与压制干扰（Jamming）攻击的主要区别是（ ）。

A、欺骗是发送伪造卫星信号诱导接收机输出错误定位，干扰是压制真实信号使接收机无法定位

B、欺骗只影响高度，干扰只影响经度

C、两者本质上完全相同

D、干扰需要破解加密信号，欺骗不需要

答案：A

解析：GNSS欺骗通过发送伪造卫星信号诱导接收机解算出错误定位；压制干扰则用噪声压制真实信号使接收机无法定位。B、C、D均错误。

38.（单选题） 向量数据库与 Embedding 技术引入的隐私泄漏风险主要体现为（ ）。

A、向量维度高导致存储成本上升

B、攻击者可利用 Embedding 反转等技术从向量近似还原原始文本语义

C、向量检索的响应速度较慢

D、Embedding 模型体积过大

答案：B

解析：向量库中的Embedding可被Embedding反转等技术近似还原原始文本语义，从而导致隐私泄漏。

39.（判断题） 只要使用了开源大模型，就无需再对模型进行安全评测和内容合规检查。

A、对

B、错

答案：B（错）

解析：使用开源大模型同样需要进行安全评测与内容合规检查，故错误。

40.（多选题） 人工智能大模型面临的新型安全风险包括（ ）。

A、提示注入与越狱

B、训练数据提取

C、模型推理速度优化与显存占用控制

D、模型后门与训练数据投毒

答案：ABD

解析：人工智能大模型面临的新型安全风险包括提示注入与越狱、训练数据提取、模型后门与训练数据投毒；C“模型推理速度优化与显存占用控制”属性能议题。

41.（单选题） 在具身智能设备的影像与传感数据采集环节，落实数据安全的关键措施是（ ）。

A、提高摄像头分辨率以获取更丰富的现场信息

B、将采集数据集中存储在同一台公网可访问的服务器上

C、取消数据本地缓存以提升实时响应能力

D、对采集数据按敏感程度进行脱敏处理，并采用加密方式传输

答案：D

解析：具身智能设备的影像与传感数据应按敏感程度分级脱敏，并采用加密方式传输。A、B、C均会放大数据暴露面。

42.（单选题） 成员推断攻击（Membership Inference Attack）的目标是（ ）。

A、推断某个样本是否被用于训练目标模型

B、推断模型的网络层数

C、推断模型的训练框架版本

D、推断模型部署所在的地域

答案：A

解析：成员推断攻击的目标是判断某条样本是否被用于训练目标模型，据此可推断敏感属性或评估隐私风险。

43.（判断题） 工业数据采集终端如果使用弱口令或厂商默认口令，可能成为攻击者进入生产控制网络的跳板。

A、对

B、错

答案：A（对）

解析：工业数据采集终端若使用弱口令或厂商默认口令，可能成为攻击者进入生产控制网络的跳板，故正确。

44.（单选题） 大模型安全护栏（Guardrail）的主要作用是（ ）。

A、提升模型参数量与推理能力

B、替代模型训练与微调过程

C、加速模型推理速度

D、在模型输入输出链路上实施内容检测与策略拦截，约束模型行为

答案：D

解析：安全护栏（Guardrail）在模型输入输出链路上实施内容检测与策略拦截，约束模型行为。A、B、C均非其作用。

45.（单选题） 联邦学习场景中，梯度泄露攻击（Gradient Leakage）的基本原理是（ ）。

A、通过上传的梯度信息反推参与方的本地训练数据

B、通过窃取服务器磁盘直接获取原始数据

C、通过修改学习率提升模型精度

D、通过增加参与方数量降低通信开销

答案：A

解析：梯度泄露攻击通过分析参与方上传的梯度信息反推其本地训练数据。

46.（单选题） 模型窃取（Model Extraction）攻击通常通过（ ）实施。

A、直接读取服务器磁盘上的模型权重文件

B、大量调用模型推理接口，利用输入输出对训练功能近似的替代模型

C、对模型二进制文件进行反编译

D、篡改模型的推理输出结果

答案：B

解析：模型窃取通过大量调用推理接口，用输入输出对训练功能近似的替代模型，属黑盒攻击。A、C需接触文件，D属输出篡改。

47.（判断题） 无人机的飞控与地面站之间若采用缺乏认证机制的通信协议，攻击者可能伪造控制指令实施接管。

A、对

B、错

答案：A（对）

解析：无人机的飞控与地面站之间若采用缺乏认证机制的通信协议，攻击者可能伪造控制指令实施接管，故正确。

48.（判断题） 只要模型服务启用了HTTPS加密传输，就可以不再限制调用方的身份与调用频次。

A、对

B、错

答案：B（错）

解析：HTTPS仅保障传输链路的机密性与完整性，不能替代调用方身份认证与调用频次限制，故错误。

49.（单选题） 人工智能服务上线前开展安全评估的主要目的是（ ）。

A、提升模型的推理速度与吞吐能力

B、降低模型的训练与推理成本

C、识别并降低模型在内容安全、数据安全与滥用风险方面的隐患

D、增加模型的参数规模与上下文长度

答案：C

解析：上线前安全评估旨在识别并降低模型在内容安全、数据安全与滥用风险方面的隐患。A、B、D属性能与成本议题。

50.（单选题） 在人工智能安全事件应急响应中，第一时间通常不应采取的措施是（ ）。

A、隔离受影响的模型服务与数据接口

B、保存日志与相关现场证据

C、立即删除全部日志以缩小影响范围

D、评估影响范围并按规定上报

答案：C

解析：该题问第一时间不应采取的措施。立即删除日志会破坏证据，属错误的应急处置；A、B、D均为正确动作。

51.（单选题） 针对提示注入与系统提示词泄漏，下列防御措施中最有效的是（ ）。

A、仅在系统提示中加入不要泄露指令的说明

B、提高模型生成温度参数

C、增大模型上下文窗口长度

D、对模型输入输出进行结构化隔离，实施权限最小化并对高风险操作引入外部校验

答案：D

解析：有效防御需在架构上做输入输出结构化隔离、实施权限最小化，并对高风险操作引入外部校验；仅靠系统提示“不要泄露”（A）、调高温度（B）、加长上下文（C）均无法可靠防护。

52.（单选题） 对抗样本（Adversarial Example）是指（ ）。

A、训练集中标注错误的样本

B、在原始输入上添加人眼难以察觉的微小扰动，使模型产生错误判断的样本

C、经过数据增强生成的样本

D、尚未标注的测试样本

答案：B

解析：对抗样本是在原始输入上叠加人类难以察觉的微小扰动，使模型产生错误判断。

53.（多选题） 针对训练数据投毒攻击的防护措施包括（ ）。

A、训练数据来源审核与可信采集

B、数据异常检测与清洗

C、提升训练并行度以缩短训练周期

D、模型后门检测与神经元剪枝

答案：ABD

解析：训练数据投毒防护包括来源审核与可信采集、数据异常检测与清洗、模型后门检测与神经元剪枝；C属训练效率优化。

54.（单选题） 关于检索增强生成（RAG）架构的安全风险，下列说法正确的是（ ）。

A、RAG 可以彻底消除大模型幻觉问题

B、检索知识库中的恶意内容可能通过间接提示注入影响模型输出

C、RAG 不会引入任何数据泄漏风险

D、RAG 检索结果不需要做权限控制

答案：B

解析：RAG的知识库内容可能被写入恶意指令，经检索进入上下文后形成间接提示注入。A错，RAG不能彻底消除幻觉；C错，RAG仍可能造成泄漏；D错，检索结果必须做权限过滤。

55.（单选题） 关于数据安全风险评估，下列说法正确的是（ ）。

A、只需评估技术风险，无需关注管理风险

B、评估一次后无需再次开展

C、只适用于核心数据

D、应结合数据分类分级结果，识别数据处理活动中的安全风险并制定处置措施

答案：D

解析：数据安全风险评估应结合数据分类分级结果，识别数据处理活动中的安全风险并制定处置措施。A、B、C均错误。

56.（单选题） 工业控制系统常用的 Modbus TCP 协议默认服务端口是（ ）。

A、102

B、502

C、44818

D、4840

答案：B

解析：Modbus TCP默认服务端口为502；102为X.219/ISO-TSAP，44818为EtherNet/IP，4840为OPC UA。

57.（单选题） 在人工智能训练数据标注环节，最主要的数据安全风险是（ ）。

A、标注人员接触原始敏感数据可能导致泄露，标注质量也会影响模型安全

B、标注工具占用过多计算资源

C、标注数据量过大导致存储成本上升

D、标注进度难以统计

答案：A

解析：标注环节的主要风险是标注人员接触原始敏感数据可能导致泄露，且标注质量直接影响模型安全与内容合规。

58.（单选题） 关于人工智能训练数据预处理阶段的安全要求，下列说法错误的是（ ）。

A、应清洗违法和不良信息

B、应进行去重以降低模型记忆化风险

C、应对个人信息进行脱敏或取得合法授权

D、训练数据规模越大越好，无需关注来源合法性

答案：D

解析：该题问错误的说法。训练数据并非规模越大越好，必须关注来源合法性与合规性，D错误；A、B、C均为正确要求。

59.（单选题） 在人工智能模型分发与加载环节，下列做法中最能降低任意代码执行风险的是（ ）。

A、使用 pickle 序列化模型对象并在加载时直接反序列化

B、从任意第三方渠道下载模型后直接加载使用

C、使用 safetensors 等仅存储张量的格式分发与加载模型权重

D、为提高加载速度关闭模型文件的完整性校验与来源验证

答案：C

解析：safetensors仅存储张量，不含可执行对象，天然规避反序列化代码执行；pickle反序列化可执行任意代码（A），来路不明的模型（B）与关闭校验（D）均会放大风险。

60.（单选题） 根据《生成式人工智能服务管理暂行办法》，提供者发现违法内容时应当采取的措施不包括（ ）。

A、停止生成

B、停止传输

C、消除违法内容

D、继续提供服务并仅记录日志

答案：D

解析：该题问不包括。《生成式人工智能服务管理暂行办法》第十四条规定，发现违法内容应当停止生成、停止传输、消除并整改报告；“继续提供服务并仅记录日志”恰是被禁止的做法。

61.（单选题） 大语言模型的越狱（Jailbreak）攻击主要是指（ ）。

A、攻击者获取模型服务器root权限

B、通过精心构造的提示绕过模型的安全对齐策略，诱导其输出被禁止内容

C、窃取模型训练数据的原始副本

D、对模型推理服务发起拒绝服务攻击

答案：B

解析：越狱指通过精心构造的提示绕过模型的安全对齐策略，诱导其输出被禁止内容；A为服务器入侵，C为训练数据窃取，D为拒绝服务。

62.（判断题） 工业控制网络完成与互联网的隔离后，就不再需要关注内部人员违规操作与移动介质带来的安全风险。

A、对

B、错

答案：B（错）

解析：工业控制网络完成物理隔离后，内部人员违规操作与移动介质带来的风险仍是主要来源，不能免除关注，故错误。

63.（单选题） 在向第三方共享大模型训练数据之前，最符合数据安全要求的做法是（ ）。

A、为确保训练效果直接提供全量原始数据

B、仅口头告知第三方注意保密即可

C、对数据开展分类分级，识别敏感信息并按约定范围脱敏或去标识化后共享

D、将数据压缩打包后通过普通邮件发送

答案：C

解析：向第三方共享训练数据前，应先对数据分类分级，识别敏感信息并按约定范围脱敏或去标识化后共享。A、B、D均不符合数据安全要求。

64.（判断题） 智能体的记忆模块只存储对话历史，不涉及敏感信息，因此无需纳入数据安全治理范围。

A、对

B、错

答案：B（错）

解析：智能体的记忆模块可能存储对话历史、个人信息等敏感数据，必须纳入数据安全治理范围，故错误。

65.（多选题） 针对工业控制设备的固件安全，通常应当采取的防护措施包括（ ）。

A、对固件进行数字签名与完整性校验

B、及时跟进厂商发布的安全补丁与固件更新

C、对固件升级过程实施身份认证与传输加密

D、为便于远程维护，在设备上保留厂商默认口令并对外开放管理端口

答案：ABC

解析：工控设备固件安全防护包括对固件进行数字签名与完整性校验、及时跟进厂商安全补丁与固件更新、对固件升级过程实施身份认证与传输加密；D“保留厂商默认口令并对外开放管理端口”是典型错误做法。

66.（多选题） 关于商用密码在人工智能与数据安全场景中的应用，下列说法正确的有（ ）。

A、使用ZUC算法实现公钥加密与数字签名

B、使用SM4对存储的敏感数据与模型文件加密

C、使用SM2实现身份认证与数字签名

D、使用SM3实现数据与模型的完整性校验

答案：BCD

解析：商用密码在人工智能与数据安全场景中的应用包括使用SM4加密敏感数据与模型文件、使用SM2实现身份认证与数字签名、使用SM3实现数据与模型完整性校验；A错误，ZUC是流密码（用于4G空口加密与完整性），不用于公钥加密与数字签名。

67.（单选题） 医疗智能设备（如手术导航系统）数据安全的核心要求是（ ）。

A、只追求极低的通信延迟

B、数据只需本地存储不需加密

C、允许设备随意接入公网以便远程维护

D、保障数据的完整性、可用性与患者隐私保护

答案：D

解析：医疗智能设备的核心数据安全要求是保障数据完整性、可用性与患者隐私保护。A、B、C均违反安全与合规要求。

68.（多选题） 智能体（Agent）全生命周期安全需要重点关注（ ）。

A、智能体响应速度与并发能力优化

B、智能体提示词长度与响应时延优化

C、多智能体协作中的身份与信任问题

D、自主执行行为的可审计与可回滚

答案：CD

解析：智能体全生命周期安全需重点关注多智能体协作中的身份与信任问题、自主执行行为的可审计与可回滚；A、B属性能优化议题。

69.（多选题） 模型后门检测的常用方法包括（ ）。

A、神经元激活行为聚类分析

B、触发器逆向（Trigger Reverse Engineering）

C、输入扰动与异常响应检测

D、模型微调前后的行为对比

答案：ABCD

解析：模型后门检测常用方法包括神经元激活行为聚类分析、触发器逆向、输入扰动与异常响应检测、模型微调前后的行为对比。

70.（单选题） 自建大模型推理服务暴露在公网时最常见的配置风险是（ ）。

A、未启用任何认证授权，接口可被任意调用

B、显存容量不足

C、模型推理精度下降

D、服务日志数量过多

答案：A

解析：自建推理服务暴露公网最常见的问题是未启用任何认证授权，接口可被任意调用与滥用。

71.（多选题） 大模型内容安全治理的措施包括（ ）。

A、建立违规内容的分类分级处置策略与人工复核机制

B、模型参数规模的持续扩大

C、生成合成内容的显式与隐式标识

D、违规内容的日志留存与上报

答案：ACD

解析：大模型内容安全治理措施包括违规内容分类分级处置策略与人工复核机制、生成合成内容的显式与隐式标识、违规内容的日志留存与上报；B“模型参数规模的持续扩大”与治理无关。

72.（多选题） 针对大模型的提示攻击（包含提示注入与越狱绕过）常见形式包括（ ）。

A、直接提示注入

B、通过外部检索内容或文档实施的间接提示注入

C、多轮对话逐步诱导

D、编码混淆绕过关键词过滤

答案：ABCD

解析：针对大模型的提示攻击形式包括直接提示注入、通过外部检索内容或文档实施的间接提示注入、多轮对话逐步诱导以及编码混淆绕过关键词过滤，四项均常见。

73.（单选题） 在人工智能系统中使用商用密码技术时，下列做法不正确的是（ ）。

A、使用SM4对存储的敏感训练数据加密

B、使用SM2对模型文件进行数字签名以验证完整性

C、使用SM3计算模型权重摘要用于完整性校验

D、将密钥硬编码在客户端代码中用于保护模型文件

答案：D

解析：该题问不正确的做法。将密钥硬编码在客户端代码中极易被逆向提取，严重违反密钥管理要求；A、B、C均为正确用法。

74.（判断题） 模型权重文件、训练数据集与推理服务应纳入资产梳理范围，并明确数据安全责任人与访问控制要求。

A、对

B、错

答案：A（对）

解析：模型权重文件、训练数据集与推理服务应纳入资产梳理范围，并明确数据安全责任人与访问控制要求，故正确。

75.（多选题） 人工智能模型评估与开源阶段应当考虑的事项包括（ ）。

A、模型安全评测，如对抗鲁棒性与后门检测

B、模型输出内容合规性评测

C、开源许可证与知识产权合规

D、模型能力与风险的披露说明

答案：ABCD

解析：人工智能模型评估与开源阶段应当考虑模型安全评测（对抗鲁棒性与后门检测）、输出内容合规性评测、开源许可证与知识产权合规、模型能力与风险的披露说明。

76.（单选题） 下列国产商用密码算法中，用于数字签名的是（ ）。

A、SM4

B、SM3

C、SM2

D、ZUC

答案：C

解析：SM2是椭圆曲线公钥算法，用于数字签名与密钥交换；SM4为对称分组加密、SM3为杂凑、ZUC为流密码，均不用于数字签名。

77.（多选题） 隐私计算技术在大模型数据安全中的应用包括（ ）。

A、模型蒸馏与量化压缩加速

B、差分隐私用于训练数据保护

C、扩大模型上下文窗口以增强推理效果

D、可信执行环境用于隐私推理与模型保护

答案：BD

解析：隐私计算在大模型数据安全中的应用包括差分隐私用于训练数据保护、可信执行环境用于隐私推理与模型保护；A属模型蒸馏量化压缩加速、C属上下文增强，非隐私计算安全应用。

78.（多选题） 大模型安全评测中常用的方法包括（ ）。

A、红队测试（Red Teaming）

B、自动化对抗提示生成

C、提示模板库回归测试

D、人工专家评审

答案：ABCD

解析：大模型安全评测常用方法包括红队测试、自动化对抗提示生成、提示模板库回归测试、人工专家评审。

79.（单选题） 在大模型安全领域，间接提示注入（Indirect Prompt Injection）的典型特征是（ ）。

A、攻击者在对话输入框中直接输入恶意指令

B、恶意指令隐藏在模型将要读取的外部内容（如网页、文档、邮件）中

C、通过修改模型权重文件植入恶意行为

D、通过海量接口调用复制模型能力

答案：B

解析：间接提示注入的恶意指令不在用户输入框中，而是隐藏在模型将要读取的外部内容（网页、文档、邮件、检索结果）里，模型读取后即被劫持。A为直接注入，C属权重篡改，D属模型窃取。

80.（单选题） 后门攻击（Backdoor Attack）与一般数据投毒的主要区别在于（ ）。

A、后门攻击仅在特定触发器（trigger）出现时触发异常行为

B、后门攻击必然导致模型在正常输入上出现明显错误

C、后门攻击只影响模型推理速度

D、后门攻击无法通过任何方式检测

答案：A

解析：后门攻击的特点是仅在特定触发器（trigger）出现时触发异常行为，正常输入下表现正常，因而更加隐蔽。

81.（判断题） 攻击者可以使用Base64编码、低资源语言等方式对恶意提示进行混淆，从而绕过基于关键词匹配的输入过滤。

A、对

B、错

答案：A（对）

解析：攻击者可以使用Base64编码、低资源语言等方式对恶意提示进行混淆，从而绕过基于关键词匹配的输入过滤，故正确。

82.（单选题） 相比传统工业协议，OPC UA 的重要安全特性是（ ）。

A、支持基于证书的身份认证、消息签名与加密传输

B、传输速率一定更快

C、不需要任何配置即可使用

D、默认采用明文传输以降低时延

答案：A

解析：OPC UA内置基于证书的身份认证、消息签名与加密传输能力，安全性显著优于传统工业协议。B、C、D均不成立。

83.（单选题） 在大模型训练阶段，数据投毒（Data Poisoning）攻击的主要目的是（ ）。

A、加快模型收敛速度

B、通过向训练数据中注入恶意样本影响模型行为或降低模型性能

C、减少模型参数量以降低成本

D、提高模型推理吞吐量

答案：B

解析：数据投毒通过在训练数据中注入恶意样本影响模型行为或降低其性能，属训练阶段攻击。

84.（单选题） 针对大模型接口的无限消费（Unbounded Consumption）风险，主要防护措施是（ ）。

A、限制单次请求的Token数量并设置速率限制与配额

B、提高模型生成温度参数

C、关闭调用日志记录

D、单纯增加GPU数量

答案：A

解析：针对无限消费（Unbounded Consumption）风险，应限制单次请求的Token数量并设置速率限制与配额。B、C、D无法约束资源消耗。

85.（判断题） 隐私计算技术可以完全替代数据分类分级、访问控制与合规审计等基础数据安全治理措施。

A、对

B、错

答案：B（错）

解析：隐私计算不能替代数据分类分级、访问控制与合规审计等基础数据安全治理措施，故错误。

86.（单选题） 关于《网络安全技术 生成式人工智能服务安全基本要求》（GB/T 45654-2025），下列说法正确的是（ ）。

A、对生成式人工智能服务的语料安全、模型安全和安全措施等提出基本要求

B、仅适用于境外提供的人工智能服务

C、替代了《中华人民共和国网络安全法》的相关规定

D、仅规定模型的算法性能指标

答案：A

解析：GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》对生成式人工智能服务的语料安全、模型安全和安全措施等提出基本要求。B、C、D表述错误。

87.（多选题） 人工智能生成合成内容的标识与溯源技术包括（ ）。

A、生成速度与吞吐量优化

B、文件元数据隐式标识

C、数字水印

D、内容指纹与哈希存证

答案：BCD

解析：人工智能生成合成内容的标识与溯源技术包括文件元数据隐式标识、数字水印、内容指纹与哈希存证；A属生成速度与吞吐量优化。

88.（多选题） 关于人工智能大模型相关的数据出境合规，下列说法正确的有（ ）。

A、向境外提供训练数据中的个人信息可能触发数据出境合规义务

B、重要数据出境应当申报数据出境安全评估

C、应建立数据出境的内部审批与记录留存制度

D、只要对数据加密就可以免于履行数据出境合规义务

答案：ABC

解析：大模型数据出境合规包括向境外提供训练数据中的个人信息可能触发数据出境合规义务、重要数据出境应申报数据出境安全评估、建立数据出境的内部审批与记录留存制度；D错误，加密本身不等于免除出境合规义务。

89.（单选题） 大模型输出内容中出现违法违规信息时，平台应当采取的处置方式是（ ）。

A、直接返回用户并在事后统计

B、拦截或改写违规内容，记录日志并在必要时告警、上报

C、立即永久关闭全部模型服务

D、仅在用户投诉后再进行处理

答案：B

解析：输出违法违规内容时，平台应拦截或改写违规内容并记录日志、必要时告警上报。A、D处置消极，C处置过度。

90.（单选题） 对 PLC 固件进行逆向分析时，通常不包括下列哪项分析对象（ ）。

A、固件镜像中的文件系统与可执行代码

B、梯形图、结构化文本等控制逻辑

C、设备铭牌上印刷的出厂序列号

D、固件中硬编码的账号口令与密钥

答案：C

解析：PLC固件逆向的分析对象是固件镜像中的文件系统与可执行代码、控制逻辑（梯形图、结构化文本）、硬编码的账号口令与密钥等；设备铭牌上印刷的出厂序列号不属于固件分析对象。

91.（多选题） 大模型部署与应用阶段的安全防护措施包括（ ）。

A、接口鉴权与细粒度访问控制

B、模型推理服务的多语言翻译能力

C、敏感数据识别、脱敏与防泄漏

D、模型推理精度调优

答案：AC

解析：部署与应用阶段的安全防护措施包括接口鉴权与细粒度访问控制、敏感数据识别脱敏与防泄漏；B属多语言翻译能力、D属推理精度调优，均非安全措施。

92.（单选题） 关于模型逆向与模型窃取的关系，下列说法正确的是（ ）。

A、两者含义完全相同

B、模型逆向只能通过物理接触设备实施

C、模型窃取侧重复制模型功能，模型逆向侧重推断模型结构、参数或训练信息

D、模型窃取不需要对模型进行任何查询

答案：C

解析：模型窃取侧重复制模型功能（通过黑盒查询训练替代模型），模型逆向侧重推断模型结构、参数或训练信息，两者含义不同。

93.（多选题） 关于大模型训练数据采集环节的安全要求，下列说法正确的有（ ）。

A、应评估数据来源的合法性

B、涉及个人信息的应取得同意或其他合法性基础

C、应避免采集违法和不良信息

D、应记录数据来源以便溯源

答案：ABCD

解析：训练数据采集环节应评估来源合法性、涉个人信息取得同意或其他合法性基础、避免采集违法和不良信息、记录数据来源以便溯源，四项均为正确要求。

94.（多选题） OWASP 大模型应用十大风险（2025 版 LLM Top 10）中包括（ ）。

A、提示注入（Prompt Injection）

B、敏感信息泄露（Sensitive Information Disclosure）

C、向量与嵌入弱点（Vector and Embedding Weaknesses）

D、系统提示词泄露（System Prompt Leakage）

答案：ABCD

解析：OWASP 2025版LLM Top 10中，LLM01提示注入、LLM02敏感信息泄露、LLM07系统提示词泄露、LLM08向量与嵌入弱点均在列，四项均对。

95.（判断题） 在检索增强生成架构中，应对检索环节按用户权限过滤知识库内容，防止越权获取敏感文档。

A、对

B、错

答案：A（对）

解析：在检索增强生成架构中，应对检索环节按用户权限过滤知识库内容，防止越权获取敏感文档，故正确。

96.（判断题） 大模型的上下文窗口越大，其遭受提示注入攻击的风险就一定越低。

A、对

B、错

答案：B（错）

解析：上下文窗口越大往往意味着可注入面越大，注入风险并非必然降低，故错误。

97.（多选题） 人工智能基础设施（推理集群、模型服务）的主要攻击面包括（ ）。

A、未授权可访问的模型推理接口

B、训练数据集版权登记费用管理

C、模型推理服务的多语言支持能力

D、训练任务调度系统的权限提升

答案：AD

解析：人工智能基础设施的主要攻击面包括未授权可访问的模型推理接口、训练任务调度系统的权限提升；B属版权登记费用管理、C属多语言支持能力，均与攻击面无关。

98.（多选题） 关于人工智能系统的日志与审计，下列说法正确的有（ ）。

A、应记录模型调用、工具调用等关键行为

B、审计日志可被任意修改以节省存储空间

C、日志中可能包含敏感信息，需要脱敏与访问控制

D、日志留存期限应满足法律法规与监管要求

答案：ACD

解析：日志与审计应记录模型调用与工具调用等关键行为、对日志中敏感信息脱敏并控制访问、满足法律法规与监管要求的留存期限；B“审计日志可被任意修改以节省存储空间”违反完整性与防篡改要求。

99.（判断题） 具身智能设备的固件与软件供应链若缺乏可信验证机制，攻击者可能通过篡改固件长期控制设备。

A、对

B、错

答案：A（对）

解析：具身智能设备的固件与软件供应链若缺乏可信验证机制，攻击者可能通过篡改固件长期控制设备，故正确。

100.（单选题） 智能体（Agent）场景中的过度授权（Excessive Agency）风险是指（ ）。

A、智能体被赋予超出任务所需的工具或数据权限，一旦被诱导即可执行危险操作

B、智能体响应速度过快

C、智能体使用了参数量过大的模型

D、智能体的提示词长度过长

答案：A

解析：过度授权指智能体被赋予超出任务所需的工具或数据权限，一旦被提示注入诱导即可执行危险操作。