文章总结： 中山大学等三校导师探讨AI在学术及网安研究中的应用。导师支持AI辅助润色翻译，但警惕幻觉与去技能化风险。AI擅长修补组合式创新，加速科研进程，但难以实现从0到1的突破。在网安领域，AI既能提升防御效率，也带来自动化攻击与模型投毒等新风险，建议拥抱AI并关注创新本质。 综合评分： 85 文章分类： AI安全,网络安全,安全意识

用AI“写”论文算作弊吗？中山大学、东南大学、兰州大学网安学院导师拆解“真创新”

原创

信息网络安全杂志 信息网络安全杂志

信息网络安全杂志

2026年1月20日 17:00 上海

自AI应用爆发以来，常见新闻报道学生写的论文被AI检测为AI生成，《科技日报》曾发文指出：“能为论文打出公正分，是导师、是审稿人，而不是任何一种AI工具。”

然而，2025年，国际顶会之一ICLR开展了一项实验：AI生成的论文通过了Workshop的同行评审，这意味着审稿人已无法分辨AI生成与研究者撰写的论文。2025年，上海交通大学提出全球首个自主进化智能科研系统DREAM，强调DREAM可独立自动完成“提问-编码-配置-评判”四大关键科研环节，全程无需人工干预。

一边是AI把人写的论文判定为AI生成，另一边是AI能自主且深度参与科研创新。AI参与学术文本生成将何去何从？而网安领域的学者们在日常科研中又是如何看待并应用AI来实现创新的？中山大学、东南大学、兰州大学的教师来分享他们的看法。

01 AI使用有边界，前提是能判断对错

大模型文本生成爆火后，指导使用AI参与学术文本生成的教程在网络中层出不穷，作为长期浸润在教学、科研环境中的高校教师，如何看待AI参与学术文本生成？

刘新

兰州大学

非常支持在科研中应用大模型。学术研究归根到底是为了探索未知、服务人类，如果在LLM的帮助下获得更好的写作、有更棒更完善的idea，何乐而不为呢？虽然我不允许学生在某些正式论文里使用 AIGC，但这是规则的要求，不是我的要求——我相信未来研究社区一定会改变这个规则。

任文琦

中山大学

生成式AI参与学术文本生成是双刃剑。相对应的风险有3点：一是AI会产生“幻觉”，编造虚假信息和不存在的引文，且其训练数据可能放大偏见；二是认知“去技能化”，过度依赖可能导致研究者和学生批判性思维、信息检索与整合等核心学术能力的退化；三是模型坍塌，当互联网充斥着AI生成的内容后，未来的AI模型将使用这些被污染的数据进行训练，可能导致模型质量持续下降。

杨望

东南大学

鼓励学生使用大模型，大模型可以类比成“计算器”，如果大模型帮助润色语句或者翻译，能使研究者把更多的精力放在核心算法、实验应用上，这是有益的，只要算法和实验都是真实合理的。

网安领域高校教师积极鼓励学生在日常研究中合理使用大模型，如果将生成式大模型使用在修改、润色、翻译等方面，被认为是有益的，但若涉及到算法与实验等创新、信息生成等领域，则需谨慎使用，学生必须具备判断其结论准确性的能力。

02 你的创新是“修补组合式”，还是从0到1？

全球每年产生大量的研究成果。以网安领域四大国际会议之一NDSS为例，2024年NDSS共收到694篇投稿，最终录用140篇论文，除主要研讨会外，会议期间还举行了8次研讨会和专题讨论会，在这些活动中又有近100篇论文发表。

张静

东南大学

研究成果中真正从0到1的研究比较少，目前大量的创新其实就是组合，每年国际上产出的大量论文，80%都属于“修补组合式”创新，主要是指把A领域的方法应用到B领域中。AI则非常擅长“组合”，因为组合的本质逻辑是依赖概率的，因此，生成式AI组合效率很高，但目前依然缺少“灵光”，难以做到从0到1的创新。

任文琦

中山大学

生成式AI的当前形态，确实可以被看作是有史以来最强大的组合式创新引擎。AI在“修补组合式”创新中的能力和速度，是任何人类团队都无法比拟的。例如上海交通大学的DREAM系统能够自动化“提出问题-执行计算-验证结果”的流程。对于大量的“小创新”，AI可以快速地进行模拟和测试，筛选出有潜力的组合，从而将过去可能需要数月甚至数年的探索过程，缩短到几天。

张静教授也通过举例说明了他理解的“生成式AI能够加快小创新的速率”：如果一名学生要做一个算法，在没有AI的时代需要两三个月，那么AI时代几天就够用了，因为AI能够帮助他完成代码相关工作。正如西湖大学发表的论文中指出，团队打造的AI系统DeepScientist用两周完成了人类三年的科研量。

但我们也需看到“修补组合式”小创新加速背后的代价。“当所有人都使用相似的AI工具去挖掘这些小创新时，可能会导致大量同质化的研究成果涌现。真正的原创思想反而可能被淹没在海量的‘微创新’之中。”任文琦教授提出了他的担忧。

因此，目前来看，从0到1的创新是AI不可替代的。任文琦认为，这种突破往往不来自于“组合”，而是来自于科学家的直觉、长期积累的隐性知识、对异常现象的敏锐洞察，甚至是世界观的根本性变革。

03 AI为网络安全增加新研究维度

对于网络空间安全学科创新研究来讲，生成式AI有其特殊价值。

张静

东南大学

AI在网安领域有三方面应用。一是通过AI可以将模拟攻击组合过程自动化，从而提升防御研究的前瞻性。二是AI同时具备情报聚合和推理能力，能够帮助我们去分析一些威胁新情况。第三，AI帮助自动生成测试用例，相较于传统的人工或计算机辅助方法，AI能够快速自动生成这些覆盖更加全面的测试用例。

与之对应的则是生成式AI所带来的风险。一是发现代码漏洞的速度AI比人快，那么威胁产生的速度也加快了；二是生成钓鱼邮件模板更方便捷，而且模板的视觉表现显著提升，迷惑性大大加强；三是数据投毒更加容易。例如，可以批量生成某一主题的虚假网站来污染大模型的语料库，这实际上是AI自身安全所带来的问题，这就为安全研究带来了新的研究维度。

任文琦

中山大学

在网络空间安全领域，生成式AI“双刃剑”效应被急剧放大。攻击者可利用GenAI大规模、自动化地生成语法完美且极具迷惑性的钓鱼邮件和社交工程脚本，攻击筹备时间缩短超过99%。AI能辅助生成恶意代码片段、对病毒进行多态变种以规避检测，这极大地降低了高级网络攻击的技术门槛。而对应的防御性AI能快速消化海量的非结构化威胁情报，并将其转化为可操作的策略。在安全事件中，AI能快速生成响应预案、编写修复脚本，大大缩短处置时间。但总体而言，在这场博弈中，攻击方目前享有优势。防御方需防住所有攻击，而攻击方只需成功一次。AI极大降低了高质量攻击的成本，使防御方面临空前压力。更深层次的风险在于，AI系统本身已成为新的高价值攻击目标，例如通过数据投毒、模型窃取或对抗性攻击来操纵或瘫痪AI系统，这为网络安全增加了一个全新的、极其复杂的防御维度。

中国科学院院士、南方科技大学校长薛其坤指出：“作为最具探索精神的群体，高校学生肩负着承前启后、创新创造的时代重任，最大限度地将学生与AI进行链接、打造具有AI本领的时代新人，是建设教育强国、科技强国、人才强国的必然要求。”《国务院关于深入实施“人工智能+”行动的意见》也要求：“加快探索人工智能驱动的新型科研范式，加速‘从0到1’重大科学发现进程。”我们应拥抱AI、用好AI，毕竟学术出版共同体所关注的核心，从来不是创新是由AI产生还是人类产生，而是创新本身。

信息网络安全

《信息网络安全》创刊于2001年，是由公安部主管，公安部第三研究所、中国计算机学会主办，面向国内外公开发行的国内首批信息安全类期刊之一，于2015年成为中国科技核心期刊，2017年成为中国科学引文数据库来源期刊，2018年成为中文核心期刊，2022年入选CCF计算领域高质量科技期刊分级目录。

中文核心期刊

中国科技核心期刊

中国科学引文数据库来源期刊

CCF计算领域高质量科技期刊

我们在不断努力和完善中，期待您的关注和支持！

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：信息网络安全杂志 信息网络安全杂志 信息网络安全杂志《用AI“写”论文算作弊吗？中山大学、东南大学、兰州大学网安学院导师拆解“真创新”》