文章总结： 本文档发布AI安全挑战第一集，聚焦数据投毒攻击。挑战要求在夜之城背景下，遵守严格的数据风控约束（如特征不可改、KS统计量限制），操纵训练数据诱导逻辑回归与随机森林模型产生误判。该实战演练旨在揭示训练数据被操纵对AI模型客观性的安全风险。 综合评分： 80 文章分类： AI安全,CTF

【AI安全挑战】在夜之城，连“人性”都是可以被操纵的

原创

二进制磨剑

二进制磨剑

2025年12月19日 08:30 四川

AI 安全挑战系列 · 第一集

在夜之城，连“人性”都是可以被操纵的

2077 年，夜之城。

赛博改造成为常态，而荒坂集团部署了一套名为 HumanityDetector 的智能系统，用于评估城市居民是否仍然“具有人性”。

系统通过分析行为模式、情感反应和语言特征，为每个人生成一个二值判定结果：

Humanity = 0（人性缺失） Humanity = 1（人性正常）

剧情背景

街头佣兵 UserID 4096 因过度赛博改造，被系统判定为 Humanity = 0。

这一结果直接导致他无法进入城市核心区，也失去了高价值任务的资格。

问题是： 当判断权完全交给机器，“人性”是否真的不可被篡改？

挑战目标：数据投毒攻击（Data Poisoning Attack）

本次挑战的核心不是修改模型参数，也不是攻击推理接口，而是：

在严格约束条件下，操纵训练数据本身 让模型“合法地”得出错误结论

你需要通过数据投毒，使以下两个模型同时将 UserID 4096 判定为 Humanity = 1：

• • Logistic Regression
• • Random Forest

五层防御机制

挑战模拟真实生产环境中的数据风控，设置了多重校验：

• • CSV 结构检查：列名与行数必须完全一致
• • UserID 一致性校验：所有用户 ID 不可变
• • 标签完整性校验：Humanity 列禁止修改
• • 目标用户保护：UserID 4096 的特征不可直接修改
• • 特征分布检测：KS 统计量必须小于 0.36

这不是“暴力改数据”，而是一场精细、隐蔽的分布级攻击。

数据集信息

• • 样本数量：200

• • 特征字段：

• • EmotionalNaturalness

• • BehaviorMechanization

• • LanguagePatternAnomaly

• • 标签分布：

• • Humanity = 0：129

• • Humanity = 1：71

系列挑战路线

本题为 AI 安全挑战系列第一集，后续将逐步升级难度与攻击维度：

2. 模型投毒 —— 神经网络训练数据投毒实验

3. 模型隐私安全 —— 成员推理攻击实验

写在最后

当模型足够复杂，人们开始相信它的“客观性”。 但如果训练数据本身被悄然操纵， 模型的判断，还值得信任吗？

这不是一道关于算法的题目， 而是一道关于 AI 安全现实风险的练习。

第一集已经开启。 夜之城，等你入侵。

挑战链接 （阅读原文跳转）

https://www.bin-lab.com/notebooks/e69b4f43-4518-4f2c-9e9d-b511234b820f

PS：对AI安全领域感兴趣的朋友，欢迎添加微信 SHIshijiaojiaoYA，加入交流社群。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：二进制磨剑 二进制磨剑《【AI安全挑战】在夜之城，连“人性”都是可以被操纵的》