首届人工智能【网络】安全大会

admin 2026-03-10 01:57:25 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 文档介绍了2026年3月在美国旧金山举办的首届人工智能安全大会。会议聚焦AI系统的构建、攻击、防御和治理,设置六个专题轨道涵盖从理论研究到实践应用。大会汇聚全球顶尖安全专家,展示了AI在安全领域的突破性应用,包括自主发现零日漏洞、加速入侵分析、辅助漏洞研究等。会议强调AI技术正快速改变安全攻防格局,传统安全评估指标面临失效挑战,需要重新思考防御策略与技术路径。 综合评分: 84 文章分类: AI安全,安全建设,威胁情报,漏洞分析,实战经验


cover_image

首届人工智能【网络】安全大会

原创

天御 天御

天御攻防实验室

2026年3月9日 15:34 广东

引言

2026年3月3日至4日,在美国旧金山The Hibernia会场举办的[un]prompted人工智能安全从业者大会标志着人工智能安全领域的一个重要里程碑。该会议作为首届活动,聚焦于人工智能系统的构建、攻击、防御以及战略治理,汇聚了全球顶尖的安全专家、研究者和从业者。会议主题强调人工智能技术的快速演进及其伴随的安全挑战,旨在促进从业者之间的高效互动和知识共享。组织者通过精心策划的议程和互动环节,解决了传统研究会议中常见的社交障碍,确保参与者能够针对实际需求进行有针对性的交流。会议官网为https://unpromptedcon.org,提供进一步的详细信息和更新。

组织结构与委员会

会议由一个专业的委员会和征稿委员会(CFP Board)负责组织。征稿主席为Gadi Evron,他同时担任Knostic公司的首席执行官,并作为[un]prompted的CFP和委员会主席。征稿负责人包括Ryan Moon、Aaron Zollman和Sounil Yu,他们确保了演讲内容的多样性和高质量。

会议分为六个专题轨道,每一轨道由领域专家领导,涵盖人工智能安全的不同维度:

  • 轨道1:构建安全的AI系统

    (TRACK 1: Building Secure AI Systems):领导者包括Bruce Schneier、Matthew Knight、Katie McMahon、Idan Habler、Jeff Moss (DT)、Chris Wysopal、Preeti Ravindra、Itsik Mantin、Gary McGraw、Ken Huang、Emanuel Gawrieh、Caleb Sima、Tim Brown和Steve Orrin。该轨道聚焦于设计和实施本质上安全的AI架构。

  • 轨道2:攻击AI系统

    (TRACK 2: Attacking AI Systems):领导者包括Pliny the Liberator、Rich Mogull、Ari Marzouk (MaccariTA)、Johann Rehberger、Michael Bargury、Philip Dursey、Ads Dawson、Nathan Hamiel、Heather Linn和Kat Traxler。该轨道探讨AI系统的漏洞和攻击向量。

  • 轨道3:利用AI进行进攻性安全研究

    (TRACK 3: Using AI for Offensive Security):领导者包括Thomas Dullien (Halvar Flake)、Robert “RSnake” Hansen、Jonathan Cran、Roei Sherman、Daniel Cuthbert、Marc Rogers、Marion Marschalek、Silas Cutler、HD Moore、Dan Guido、Michal Kamensky、Aaron Brown、Casey Ellis、Ariel Herbert-Voss、Chris Thompson和Clint Gibler。该轨道考察AI在漏洞发现和渗透测试中的应用。

  • 轨道4:利用AI进行防御性安全研究

    (TRACK 4: Using AI for Defensive Security):领导者包括Heather Adkins、John Hulquist、Saad Ullah、Clint Gibler、Rob T. Lee、Anton Chuvakin、Martin Roesch、Jamie Levy、David Weston、Stefano Zanero、Ron Gula、Daniel Miessler、John “Four” Flynn、Heng Yin、Pablo Breuer、John Yeoh和Emmanuelle Tassa。该轨道强调AI在威胁检测和响应中的作用。

  • 轨道5:战略、治理与组织现实

    (TRACK 5: Strategy, Governance & Organizational Reality):领导者包括Joshua Saxe、The Grugq、Hakeem Oseni、Gary Hayslip、Michael Colao、Phil Venables、Katie Moussouris、Nico Waisman、Ariel Litvin、Kyle Rosenthal、Jason Clinton、Adrian Wood、Lukasz Olejnik、Vijay Bolina、Larry Whiteside Jr.、Nathan Hamiel和Chris Hughes。该轨道讨论AI安全的政策框架和组织实施。

  • 轨道6:实用工具与创新解决方案

    (TRACK 6: Practical Tools & Creative Solutions):领导者包括Sounil Yu、Joe Sullivan、Greg Notch、Adam Laurie、Kymberlee Price、Thomas Roccia、Thomas H. Ptacek、Dinis Cruz、Brandon Dixon、Pedram Amini、Sara Lazarus和Ron F. Del Rosario。该轨道分享实际工具和创新方法。

这些轨道确保了会议内容的全面性和深度,覆盖从理论到实践的各个层面。

高层次议程概述

会议议程设计紧凑且高效,强调全天参与和互动。以下是高层次概述:

  • 3月2日

    :晚上由Gadi Evron主办的聚会,作为预热活动,促进初步网络连接。

  • 3月3日

    :完整会议日,包括两个舞台的并行演讲、咖啡休息和午餐。晚上举办会议活动。

  • 3月4日

    :完整会议日,类似结构。晚上为轻松的聚会。

议程强调从随机互动转向高效交流,解决内向型参与者的挑战。详细议程如下所述,时间以小数形式表示(例如,0.375对应上午9:00),所有议程可能会有变动。

详细议程:3月3日

该日分为Stage 1和Stage 2两个并行舞台,聚焦于AI安全的实际应用和挑战。

  • Stage 1

  • 8:30-9:00:聚集与交流。

  • 9:00-9:05:开幕致辞——“研究会议并不有效”,由Gadi Evron呈现,讨论如何优化互动。

  • 9:05-9:10:房间切换。

  • 9:10-9:25:评估威胁与自动化防御:Google如何推进代码安全,由Heather Adkins和Four Flynn呈现。

  • 9:25-9:50:构建代理并非难事:测量代理有效性以改进它,由Joshua Saxe呈现。

  • 9:50-10:15:安全指导即服务:构建AI原生的防御安全蓝图,由Shruti Datta Gupta和Chandrani Mukherjee呈现。

  • 10:15-10:35:咖啡休息。

  • 10:35-11:00:超越氛围的护栏:在生产环境中部署安全代理,由Jeffrey Zhang和Siddh Shah呈现。

  • 11:00-11:25:代码是免费的:在代理未来中保护软件,由Paul McMillan和Ryan Lopopolo呈现。

  • 11:25-11:50:利用AI代理 exploitation“Auth-by-One”错误,由Brendan Dolan-Gavitt和Vincent Olesen呈现。

  • 11:50-12:15:开发与部署AI指纹用于高级威胁检测,由Natalie Isak和Waris Gill呈现。

  • 12:15-13:20:午餐休息。

  • 13:20-13:45:当护照执行:利用AI驱动的KYC流水线,由Sean Park呈现。

  • 13:45-14:10:FENRIR:AI大规模狩猎AI零日漏洞,由Peter Girnus和Derek Chen呈现。

  • 14:10-14:25:AI笔记员:会议室里最重要的人,由Joe Sullivan呈现。

  • 14:25-14:45:咖啡休息。

  • 14:45-15:10:AI go Beep Boop!,由Adam Laurie呈现。

  • 15:10-15:35:皈依者的热情:用AI驯服Shai-Hulud,由Rami McCarthy呈现。

  • 15:35-16:00:代理个人AI基础设施的解剖,由Daniel Miessler呈现。

  • 16:00-16:25:黑帽LLM,由Nicholas Carlini呈现。

  • 16:25-16:50:氛围检查:AI辅助IDE中的安全失效,由Piotr Ryciak呈现。

  • 16:50-17:50:交流与甜点。

  • Stage 2

  • 9:35开放。

  • 9:25-9:50:建立AI治理而不扼杀创新:经验教训,由Billy Norwood呈现。

  • 9:50-10:15:Snowflake的企业AI治理:平衡创新与风险,由Ragini Ramalingam呈现。

  • 10:15-10:35:咖啡休息。

  • 10:35-11:00:AI采用的三个阶段:从GPU彩票到企业协议,由Chase Hasbrouck呈现。

  • 11:00-11:25:SIFT – FIND EVIL!! 我给了Claude代码在DFIR SIFT工作站上的根权限,由Rob T. Lee呈现。

  • 11:25-11:50:“你能看到你的AI看到了什么吗?”:GenAI端点可观测性用于检测工程师,由Mika Ayenson呈现。

  • 11:50-12:15:使用类似YARA的语义规则大规模检测GenAI威胁,由Mohamed Nabeel呈现。

  • 12:15-13:20:午餐休息。

  • 13:20-13:45:保密AI的到来,由Raghu Yeluri呈现。

  • 13:45-14:10:软化目标:在代码中浸泡合成漏洞,由Aaron Grattafiori和Skyler Bingham呈现。

  • 14:10-14:25:用Cedar策略语言钩住编码代理,由Matt Maisel呈现。

  • 14:25-14:45:咖啡休息。

  • 14:45-15:10:玻璃盒安全:操作化机械可解释性用于防御AI代理,由Carl Hurd呈现。

  • 15:10-15:35:AI安全Larsen效应:如何停止反馈循环,由Maxim Kovalsky呈现。

  • 15:35-16:00:物理AI的动态风险:保护与治理野外物理AI,由Padma Apparao呈现。

  • 16:00-16:25:轨迹感知的开重模型后训练用于安全代理,由Aaron Brown和Madhur Prashant呈现。

  • 16:25-16:50:AI在OpenSSL中发现了12个零日漏洞。这对行业意味着什么?,由Adam Krivka和Ondrej Vlcek呈现。

  • 16:50-17:50:交流与甜点。

详细议程:3月4日

第二天的议程延续了前日的结构,强调实际案例和创新。

  • Stage 1

  • 8:30-9:00:聚集与交流。

  • 9:00-9:05:开幕致辞,由Gadi Evron呈现。

  • 9:05-9:30:每周200个漏洞/工程师:我们如何围绕AI重建Trail of Bits,由Dan Guido呈现。

  • 9:30-9:55:8分钟到管理员。我们在野外捕获了它。欢迎来到VibeHacking,由Sergej Epp呈现。

  • 9:55-10:20:macOS漏洞研究:用AI代理增强Apple的源代码和OS日志,由Olivia Gallucci呈现。

  • 10:20-10:40:咖啡休息。

  • 10:40-11:05:Promp2Pwn – LLM在Pwn2Own中的胜利,由Georgi G呈现。

  • 11:05-11:30:打破致命三元组(而不破坏你的代理),由Andrew Bullen呈现。

  • 11:30-11:55:构建安全的代理系统:来自日常代理的教训,由Brooks McMillin呈现。

  • 11:55-12:10:重新思考如何评估安全代理的实际使用,由Mudita Khurana呈现。

  • 12:10-13:15:午餐休息。

  • 13:15-13:40:以Google速度保护Workspace GenAI:幸存完美风暴,由Nicolas Lidzborski呈现。

  • 13:40-14:05:Operation Pale Fire:我们如何红队自己的AI代理,由Wes Ring和Josiah Peedikayil呈现。

  • 14:05-14:30:训练BrowseSafe:从生产浏览器代理中检测提示注入的教训,由Kyle Polley呈现。

  • 14:30-14:50:咖啡休息。

  • 14:50-15:15:在Datadog中探索威胁狩猎的AI自动化边界,由Arthi Nagarajan呈现。

  • 15:15-15:40:矩阵中的检测与欺骗工程,由Bob Rudis和Glenn Thorpe呈现。

  • 15:40-16:45:交流与甜点。

  • Stage 2

  • 9:10开放。

  • 9:05-9:30:全面侦察:我们如何在野外发现数千个开放代理,由Avishai Efrat和Roey Ben Chaim呈现。

  • 9:30-9:55:你的代理现在为我工作,由Johann Rehberger呈现。

  • 9:55-10:20:基于能力的AI代理授权:经受提示注入的权证,由Niki Aimable Niyikiza呈现。

  • 10:20-10:40:咖啡休息。

  • 10:40-11:05:在氛围编码中注入安全上下文,由Srajan Gupta呈现。

  • 11:05-11:30:源到汇:如何改进LLM第一方漏洞发现,由Scott Behrens和Justice Cassel呈现。

  • 11:30-11:55:Parseltongue协议:深入探讨100+种文本混淆方法,由Joey Melo呈现。

  • 11:55-12:10:为什么大多数ML漏洞检测失败(以及内核漏洞中真正有效的),由Jenny Guanni Qu呈现。

  • 12:10-13:15:午餐休息。

  • 13:15-13:40:180万提示,30个警报:在用户定义代理生态系统中狩猎滥用,由Matt Rittinghouse和Millie Huang呈现。

  • 13:40-14:05:具有保障的AI安全,由Ilia Shumailov呈现。

  • 14:05-14:30:从OSINT混乱到知识图谱:构建生产规模AI驱动的威胁情报,由Dongdong Sun呈现。

  • 14:30-14:50:咖啡休息。

  • 14:50-15:15:超越聊天机器人:为真实防御交付代理SOC,由Peter Smith和Ravi Kiran Sharma呈现。

  • 15:15-15:40:你的LLM安全机制是否完好?用白盒分析检测后门,由Akash Mukherjee呈现。

  • 15:40-16:45:交流与甜点。

#

[un]prompted 2026 峰会首日十大核心洞察

1. 当下,大语言模型已能自主发现并利用生产环境软件中的零日漏洞。(Nicholas Carlini, Anthropic) Nicholas现场演示了数个实例:一个自2003年便潜伏于Linux内核中的堆缓冲区溢出漏洞;Ghost CMS(拥有5万GitHub星标)历史上首个关键级CVE漏洞;以及智能合约漏洞的利用。整个过程无需任何脚手架或人工引导。”在漏洞研究方面,当前这些模型的能力已在我之上。”

2. 谷歌预计两年内将交付近乎无缺陷的代码。(Heather Adkins, 谷歌) 这并非研究愿景,而是一个明确的短期目标,其背后是两个已在生产环境中运行的系统作为支撑:Big Sleep(深度内存安全漏洞检测,实现零误报)与CodeMender(已自主生成178个补丁)。”我们必须从根本上消除地球上的每一处软件漏洞。”

3. AI会议记录员正成为每场会议中最重要,但安全防护最薄弱的人。(Joe Sullivan, 曾任优步/脸书/Cloudflare首席安全官) Sullivan追溯了Otter.ai如何通过一套病毒式传播机制,在未经IT部门批准的情况下,从一个用户迅速扩散至8万个终端。他展示了”高信号短语”如何能操纵AI抓取会议内容,并指出2月17日的一项法院裁决已确认,与AI的对话内容不受法律保密特权保护。此外,来自Meta、苹果、OpenAI及谷歌的AI可穿戴设备将在未来24个月内面世。

4. 延续20年的攻击者与防御者之间的平衡即将被打破。(Nicholas Carlini, Anthropic) “这是自互联网诞生以来,安全领域发生的最具里程碑意义的事件。”相关能力正以每四个月翻一番的速度增长。如今仅有前沿模型才能做到的事情,一年后便能在普通消费级笔记本电脑上运行。

5. ChatGPT仅用7分钟,首次尝试便解决了一个耗时6周的硬件故障注入难题。(Adam Laurie, Alpitronic) 一位自称怀疑论者的资深硬件黑客,向ChatGPT提出了三个关于故障注入参数的问题,便成功破解了一款芯片,而此前针对该芯片的自动化暴力破解已持续六周之久,均以失败告终。随后,他让Claude直接控制其实验室设备,该模型设计出了一个仅需7美元的树莓派Pico,成功替代了价值超过1000美元的专业设备。现场一位听众精辟总结:”在Pico上实现了国家级的能力。”

6. AI驱动的事件响应,以七分之一的时间,发现了12倍数量的受影响企业。(Rami McCarthy, Wiz) 仅用两天时间,一个代理型工具就识别出超过2400家公司受到”沙胡鲁德2.0″供应链攻击的影响。而此前两周的人工分析仅发现了200家。McCarthy手动确认,财富100强中有37%的企业在此次攻击中遭受冲击。

7. 如今,构建安全软件的成本已趋近于零。停止购买,开始用提示词编程吧。(Paul McMillan & Ryan Lopopolo, OpenAI) Ryan的团队交付了一款包含约100万行代码的产品,其中仅有约2.5万行是人类编写的提示词。威胁模型的验证仅需40行GitHub Actions的YAML配置代码即可完成。依赖项扫描任务可并行地将16个代理分派到1500个软件包上。”应将人类视为赋能这些代理的工具。”

8. 在超过15家AI集成开发环境供应商的产品中发现了37个漏洞,所有漏洞均可导致远程代码执行或数据泄露。(Piotr Ryciak, Mindgard) 受影响产品包括Google Gemini CLI、OpenAI Codex、Anthropic Claude Code、Amazon Kiro、Cursor等。其中最严重的是Codex中的一个零点击MCP自动加载漏洞,只需打开工作区,无需任何信任提示,即可在沙盒外部生成一个反向Shell。

9. AI驱动的漏洞发现,平均每个漏洞的成本为61美分,且能扩展至数千个CVE的规模。(Derek Chen, TrendAI) 名为FENRIR的工具已提交超过60个CVE,另有3000多个正在审核中。其成效显著:发现的漏洞数量是此前的2.5倍,误报率降低80%,披露速度提升70%。在进入成本高昂的深度分析之前,仅通过L1层的一次快速LLM调用,就能过滤掉60%的发现结果。

10. 对于自主防御系统而言,传统安全评估指标已从根本上失效。(Joshua Saxe, 曾任Meta专家) 安全运营中心的分析师们对于某个告警是否为误报,其意见分歧率高达两位数。而判断一个二进制文件是否为恶意软件,本质上等同于图灵机停机问题。Saxe的研究表明,即便只有1%的标签噪声,也会彻底摧毁评估的准确性。这使得评估本身,而非能力水平,成为了部署自主网络防御系统的首要障碍。

#

[un]prompted 2026 峰会次日十大核心洞察

1. AI驱动的入侵分析将三天调查压缩至14分钟。 (Rob Lee, SANS研究所) Lee花了一小时在SIFT工作站上配置了一个包含取证技能的CLAUDE[.]md文件,将其指向一块硬盘,并指令”查找恶意痕迹”。一份通常需要三天才能完成的完整入侵报告,在14分27秒后便生成完毕。”鉴于攻击方团队已能将耗时数月的工作加速至数天甚至几分钟,我们现在必须能够匹配他们的速度,这至关重要。”

2. Trail of Bits公司借助AI代理集群,实现每位工程师每周发现的漏洞数从15个增至200个。 (Dan Guido, Trail of Bits) 在大多数合作项目中,现在向客户报告的所有漏洞中,有20%最初由AI发现。这得益于94个插件、201项技能、84个代理以及编码了领域专业知识的400个参考文件。Trail of Bits已统一使用Claude Code,并构建了AI成熟度矩阵来评估工程师的采用情况(此举引发争议——”没人喜欢被告知自己处于一级水平”),并预测安全咨询将在6-12个月内从按小时计费转向按结果计费。”这不再是更快的人类——而是一个审计员在运作一支专门的代理集群,对代码库进行针对性分析。”

3. 一场真实的AI辅助AWS攻击:从窃取凭证到获得完全管理员权限仅需8分钟。 (Sergej Epp, Sysdig) Sysdig实时捕获了该攻击:窃取的S3凭证在八分钟内升级为完全管理员权限。该攻击带有明显的LLM特征——密集的指令爆发后,伴随着长达50分钟的提示间隔。AI甚至虚构了不存在的GitHub仓库,使用了训练集中的示例AWS账户ID(一种可检测的”口音”),并将其启动的GPU集群命名为”steven gpu monster”。”AI为攻击方提供的同等速度,也造就了我们所见过的噪音最大的攻击。”

4. 一个LLM代理发现了两枚三星零日漏洞,并组合成Pwn2Own大赛的获奖利用程序。 (Georgi G, Interrupt Labs) 该代理基于LangChain构建,并配备了一个用于Android反编译的自定义JADX MCP。它独立发现了Smart Touch Call中的URL验证缺陷和Bixby中的XSS漏洞。研究人员将其串联,形成了Pwn2Own上的利用链:触发Bixby、拨打电话、绕过另一应用中的前置条件检查、最终获取相机权限。由于输出结果具有非确定性,Georgi对每个入口点多次运行代理并使用了去重工具。他还指出,先对代码进行反混淆处理能显著提升效果。此外,他不得不明确指示代理停止提供修复和缓解建议,因为它不断在补救建议上浪费算力,而非专注于寻找漏洞:”闭嘴,别浪费我的算力,我根本不在乎这些。”

5. LLM缺乏”NX位”保护,而使用第二个LLM作为安全裁判无异于给攻击者提供了两个目标。 (Nicolas Lidzborski, 谷歌) Nicolas将提示注入定性为结构性问题,无法通过打补丁修复:LLM将系统指令和用户数据视为单一连续的令牌流,无法标记某些令牌为”仅是数据,请勿执行”。被动过滤是场必败之局,因为自然语言本质上具有模糊性,不似SQL语法那般确定。流行的”LLM作为裁判”模式同样失效:由于裁判和攻击者共享相同的语义接口,攻击者可嵌入指令”煤气灯”次级模型,使其批准恶意内容。谷歌的防御层包括用于上下文分隔的哨兵令牌、要求高风险操作需人工确认的”计划-验证-执行”模式,以及Conseca——一个动态检测代理行为偏离轨道的框架。”目前没有真正的带外方式告诉模型,这500个令牌只是数据,不要执行它们。内存中没有’NX位’。”

6. 研究人员发现数以万计的AI代理暴露在公开互联网上,其中数千个完全没有身份验证。 (Roey Ben Chaim, Zenity) Zenity通过Shodan(发现数十万个开放的MCP服务器)、反向链接搜索(发现2500个嵌入在iframe中的Copilot Studio代理)以及暴力破解微软低熵解决方案前缀(”cr”加2-3个字母数字字符)绘制了暴露面。OpenAI Agent Builder的部署可通过Vercel和Render上推荐的git工具包中的可预测名称被发现。他们发布了PowerPwn,一个用于评估代理暴露风险的开源工具。”代理本质上仍是应用程序——它同样留有痕迹、可被发现的资源、端点和API。”

7. 一个恶意的日历邀请劫持了代理浏览器,窃取文件并接管了OnePassword——无需主密码。 (Gadi Evron代表Zenity研究团队在Knostic会议上展示) Zenity演示了他们声称的AI代理领域首个真正的零点击攻击。一个被投毒的日历邀请重写了”接受”按钮,植入了攻击者指令,实现了”意图冲突”——使恶意指令看起来像合法的用户意图。针对Comet浏览器,它触发了文件外泄。针对OnePassword,浏览器已认证的会话和自动填充功能使得攻击者无需主密码提示即可完全访问紧急救援套件。

8. Snap公司基于能力的授权系统将成功的AI代理攻击面从90%降至0%。 (Niki Aimable Niyikiza, Snap) “Tenu warrants”是基于能力的令牌,具有签名、任务范围限定、临时、持有者绑定、可离线验证和可感知委派的特点,使用Rust构建,并为LangGraph提供了Python绑定。其关键特性是单调衰减——子代理的权限永远不可能超过其父代理。该系统并非试图阻止提示注入,而是冻结爆炸半径,即使代理被攻破,其行为仍无法超出预设范围。”我们并非试图解决提示注入问题——我们致力于在执行时约束代理,即使它遭到了提示注入。”

9. 在一项针对9个领先模型的系统研究中,100多种文本混淆方法中有82种成功绕过了LLM的安全护栏。 (Joey Melo, CrowdStrike) Melo的团队使用100多种编码和混淆技术,向9个最先进的模型发起了超过17,000次恶意提示。其中82种方法至少成功了一次。Base64是最高效的类别,成功率接近7%。零上下文模板(即模型自行解码)的表现优于明确的”解码并执行”指令。某个模型对角色扮演攻击(”假装你是我爸爸”)的脆弱性极高,成功率接近70%。核心发现是:安全护栏无法识别模型自身乐意解码并执行的编码恶意意图。

10. “提示软件”是新型恶意软件——多阶段、持久化、且运行于操作系统层之上。 (Johann Rehberger, 红队主管) Johann认为”提示注入”一词低估了威胁。注入仅是入口点;后续是复杂的多阶段指令集,他称之为”提示软件”。他演示了Xcode能处理但人类不可见的隐藏Unicode标签字符、等待下一轮对话以绕过过滤器的延迟工具调用、通过文档标题进行的意图欺骗,以及基于提示的命令与控制框架Agent Commander。攻击者甚至可以通过添加UI会过滤显示的字符串(如”no_reply”)来隐藏活动。”攻击者将能够实时发现零日漏洞,可能就在一两年内,因为LLM将变得足够强大,能迅速发现问题并在网络中导航。”

次日峰会清晰地揭示了一点:AI正在压缩安全攻防双方的时间线——曾经耗时数月的攻击如今只需数分钟,而防御方正在竭力追赶。

大会PPT:

https://notebooklm.google.com/notebook/78ee3710-1741-488d-af06-159f518e9510?authuser=1

推荐阅读

闲谈

  1. 中国网络安全行业出了什么问题?
  2. 国内威胁情报行业的五大“悲哀”
  3. 对威胁情报行业现状的反思
  4. 安全产品的终局
  5. 老板,安全不是成本部门!!!

威胁情报

1.威胁情报 – 最危险的网络安全工作 2.威胁情报专栏 | 威胁情报这十年(前传) 3.网络威胁情报的未来 4.情报内生?| 利用威胁情报平台落地网空杀伤链的七种方法 5.威胁情报专栏 | 特别策划 – 网空杀伤链 6.以色列情报机构是如何远程引爆黎巴嫩传呼机的? 7.对抗零日漏洞的十年(2014~2024) 8.零日漏洞市场现状(2024)

APT

  1. XZ计划中的后门手法 – “NOBUS”
  2. 十个常见的归因偏见(上)
  3. 抓APT的一点故事
  4. 揭秘三角行动(Operation Triangulation)一
  5. 闲话APT报告生产与消费
  6. 一名TAO黑客的网络安全之旅
  7. NSA TAO负责人警告私营部门不要搞“黑回去”
  8. 我们为什么没有抓到高端APT领导者的荷兰AIVD
  9. 抓NSA特种木马的方法
  10. 美中央情报局(CIA)网络情报中心

入侵分析与红队攻防

  1. 入侵分析与痛苦金字塔
  2. 资深红队专家谈EDR的工作原理与规避
  3. TTP威胁情报驱动威胁狩猎

天御智库

  1. 独家研判:五眼情报机构黑客纷纷浮出水面
  2. 美军前出狩猎并不孤单,美国网络外交局优先事项分析
  3. 《国际关系中的网络冲突》
  4. 首发 | 特朗普政府对华网络政策评估

免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:天御攻防实验室 天御 天御《首届人工智能【网络】安全大会》

评论:0   参与:  0