文章总结： 本文探讨人工智能指数级发展对政策体系的挑战，提出需在监管与公共安全、宏观经济与税收政策、科技创新、国家权力平衡、地缘政治五大领域建立适应性治理框架。作者建议参照FAA模式对前沿AI模型实施第三方风险测试与审计，通过透明度立法、就业激励政策、生物医药监管改革等措施应对AI引发的安全风险与经济失衡，强调需在保障公民自由的同时防范技术被滥用。 综合评分： 85 文章分类： 政策法规,AI安全,安全建设,解决方案,威胁情报

AI 指数级发展策略

原创

Dario Amodei Dario Amodei

安全行者老霍

2026年6月15日 08:00 北京

在小说阅读器读本章

去阅读

作者：Dario Amodei

发布时间：2026年6月

Dario Amodei 是 Anthropic 的 CEO，Anthropic 是一家公益法人企业，致力于打造可调控、可解释且安全的 AI 系统。

在此之前，Dario 曾担任 OpenAI 研究副总裁，主导 GPT-2、GPT-3 等大语言模型的研发工作。他同时也是基于人类反馈的强化学习的联合发明人。加入 OpenAI 之前，他在 Google Brain 担任高级研究科学家。

Dario 持有普林斯顿大学生物物理学博士学位，为赫兹奖学金获得者（Hertz Fellow），并曾任职斯坦福大学医学院博士后研究员。

在《指环王》的一段支线剧情中，两名霍比特人试图唤醒树须–一位睿智但行动迟缓的树人，让他挺身而出，保卫家园森林免遭伐树大军破坏。问题在于，树须的行动节奏和霍比特人截然不同。他光是和另一棵树打招呼就要花上一整天，想要让他和同伴及时采取行动几乎难如登天。

如今人工智能与政治制度之间的现状，就如同霍比特人与树须的写照。人工智能发展日新月异，短短四年间，人工智能模型从勉强写出通顺代码，发展到如今能为头部人工智能企业完成大部分代码编写。在生物、物理、数学、金融、法律、翻译等众多领域，人工智能也取得了类似的跨越式发展。已有十余年实证数据印证人工智能缩放定律：随着算力提升，人工智能的通用认知能力会呈指数级增长。倘若这一发展趋势再延续一到两年，我们很可能迎来我所定义的强大人工智能，也就是“一座数据中心汇聚整个国家天才”的形态。

与之形成鲜明对比的是，政策与立法的推进速度极为缓慢。这种迟缓往往事出有因：政府手握重大公权力，行事审慎通常是明智之举。但发展节奏的巨大落差依然带来严峻问题：国会完成立法流程往往需要数年时间，而在这段时间里，人工智能可能从新奇的趣味工具，演变为集合万千智慧的强大系统。

自人工智能成为主流商用技术以来，我们这些主张审慎治理人工智能的从业者一直面临两难境地。我们能清晰预见人工智能指数级发展的走向：我们笃定，数年内人工智能会如同核武器重塑地缘政治、工业革命彻底改变经济社会格局一般，成为又一项从根本上重塑整套政策体系的颠覆性技术。但在当时，仅从人工智能当下的能力来看，它看似只是一项普通技术，和最新消费类应用、加密货币并无二致。想要说服多数政策制定者与企业采取积极监管态度，并非易事。客观而言，即便当时各方已有行动意愿，由于人工智能的深远影响尚未显现、具体形态也无从预判，也难以制定出合理的监管政策。

受限于上述现状，包括Anthropic在内的众多安全领域倡导者，现阶段主要倡导这类政策举措：保留政策调整空间、为未来快速响应做好铺垫、让全球各界更清晰预判发展趋势，例如透明度相关立法、芯片出口管制、人工智能对就业影响的数据统计等。这些举措虽不完善，但已是当下力所能及的选择。

然而近几个月，人工智能强大的能力与潜藏的风险已展露无遗，不容回避。其中最具代表性的案例便是Claude Mythos Preview，前沿人工智能模型暴露出切实的网络安全风险，可能扰乱金融行业、关键基础设施运行，甚至威胁国家安全。Mythos Preview彻底改变了全球网络安全格局，而其更深层的意义在于，它无可辩驳地证明：如今的人工智能模型已具备影响全球与国家战略的能力。该类模型带来的网络安全风险绝非个例，我认为生物安全风险或将接踵而至，人工智能自主运行相关风险也已近在眼前。

当下，全球各国必须共同行动，推动这套运转迟缓、体系繁杂的政策机制，去应对未来会快速叠加的各类风险与机遇。目前已有越来越多政策制定者愿意采取行动，看到同行逐步认同我们过去数年一直倡导的理念，令人倍感鼓舞。但我仍心存顾虑：当前出台的早期举措，相较于人工智能的飞速发展，至少滞后了一年。本文旨在弥补这一差距，梳理人工智能指数级发展的当前态势，并提出全球亟需采取的协同行动。

本文将聚焦五大需要结合人工智能时代重新规划的长期政策领域：监管与公共安全、宏观经济与税收政策、科技创新、国家与社会的权力平衡、地缘政治。由于Anthropic是一家美国企业，本文主要围绕美国政策展开，但大部分建议同样适用于世界其他国家。  伴随本文发布，Anthropic还将推出前沿模型测试相关立法提案，以及应对岗位流失的政策框架，并计划为此投入大量资金。这只是我们的初步举措，用以表明我们的郑重态度，未来我们还会推出更多相关方案。

一、监管与公共安全

任何一项新技术、新产品都兼具利弊，创新发展与安全管控之间始终存在权衡。对产品进行监管，能够降低危害发生概率，长期以来有效改善了全球民众的生活，但同时也会直接削弱技术价值、间接抑制创新。哈耶克曾提出一个观点：监管机构往往缺乏研判复杂经济取舍所需的全面信息，这就导致监管措施常常收效甚微，还会加重行业负担。与之相关的科林里奇困境指出：一项技术的影响往往难以预判，等到问题显现时，再想管控已然为时已晚。

2023至2024年，上述问题在人工智能领域尤为突出。Anthropic彼时便意识到，未来人工智能有可能被用于研制威胁数百万人生命的生物武器，或是出现自主失控行为，极端情况下甚至会危及人类整体。但当时，这类风险的具体表现形式、检测与缓解方式、实际演变过程都尚不明确。提前制定的立法，很有可能流于形式，设置无谓的合规要求，却没能直击核心风险。

最终我们确定，当时最合理的方案是推行透明度监管。人工智能模型研发方必须公开安全管控流程、模型测试内容，并上报各类重大安全事件，让公众与科研界能够及时掌握逐步显现的各类风险。待风险形态愈发清晰后，再依托透明度监管积累的信息，制定精准有效的专项立法。因此在2025年，Anthropic推动多项透明度相关法案落地，包括加利福尼亚州的SB 53法案、纽约州的RAISE法案、2026年初伊利诺伊州的SB 315法案，同时积极推动联邦层面建立透明度标准。

如今，各类风险已然显现，仅靠透明度监管远远不够，我们需要推出更具约束力、更为严格的人工智能监管规则。现阶段，汽车、飞机、药品是最贴切的参照范例：它们都是现代经济不可或缺的重要技术，一旦设计或使用不当，却会造成大量人员伤亡。我认为人工智能监管可参照美国联邦航空管理局（FAA）的模式。前沿人工智能模型如同飞机，必须经过技术测试与审计；若安全标准不达标，则禁止发布、责令下架，防范公共安全风险。特朗普政府签署的行政令，逐步扩大了政府在人工智能领域的监管权限，对此我表示认可，而Anthropic提出的方案则建议进一步加大监管力度，具体内容如下：

1. 算力达到指定阈值的模型，必须由具备资质的第三方机构开展风险测试，测试范围涵盖四大领域：网络安全、生物武器、人工智能系统失控、可加速各类风险的自动化研发行为。

2. 若第三方评估判定模型存在不可接受的风险，政府有权禁止或限制其落地应用。该权力仅适用于上述四类风险，同时需建立相应机制，杜绝政治偏袒与主观武断的决策。

3. 第三方评估工作可由政府机构开展（参照FAA模式），也可由经政府授权、接受政府督查的民间机构执行，即“监管市场”模式。

4. 研发前沿人工智能的企业，必须建立高标准的模型权重安全防护体系，定期开展红蓝对抗与渗透测试，并配合政府抵御高级别威胁主体的攻击。

5. 四大领域内发生的安全事件，必须及时上报。

或许在不久的将来，当下的监管力度仍会不足。届时，顶尖人工智能系统的危险程度将不再等同于飞机、汽车，而更接近可被武器化的核材料，威胁范围也将从公共安全上升至全人类安全。一旦出现这种情况，我们就需要出台比当前方案更为严苛的监管措施。但正如2024年难以预判并落地如今的监管规则一样，我们不必过度超前。现阶段应针对已显现的风险制定政策，同时做好铺垫，以便在新风险出现时能够更快升级应对举措。

二、宏观经济与税收政策

长期以来，各国政府都面临着一个难题：如何在拉动经济增长的同时，保障公共服务供给、帮扶弱势群体。相关讨论中有一个普遍共识，也基本符合现实：经济增长本就来之不易、根基脆弱。缩小贫富差距固然有益，但加税、财政赤字等举措会拖累经济增长，二者需要相互权衡。

而强大人工智能的出现，或将颠覆这一固有认知。倘若人工智能在绝大多数认知类工作上的能力全面超越人类，它必将借助科技迭代与效率提升，推动经济实现高速、稳健增长。人工智能自主迭代、打造更强版本的能力，还会进一步放大增长动能。但与此同时，相较于以往所有技术，人工智能对人类脑力劳动的替代范围更广，技术变革的速度也更快。由此不难推断，人工智能引发的劳动力市场震荡，规模与持续时间都可能超过以往。我们或将陷入一种困境：经济高速增长、贫富差距持续拉大的局面难以扭转。届时核心问题不再是如何刺激增长，而是如何让全体民众共享发展成果。

在本文探讨的所有话题中，宏观经济与长期岗位流失问题受到的公众关注度最高，也存在诸多认知误区。在此我明确两点：

第一，长期岗位流失绝非理想结果，更不是我们乐见的局面，我们应当尽全力规避、缓解。我在采访与文章中多次提及该风险，并非刻意唱衰，而是希望政策制定者与市场主体提前做好适配与应对。作为企业，Anthropic始终倡导客户深挖人工智能全新应用场景、开辟增收渠道，在现有人员基础上扩大业务规模，而非单纯依靠裁员压缩成本。我们也持续探索全新人机协作模式，让人工智能不断迭代的过程中，人类始终保有重要参与角色。放眼全球，各行各业都应积极尝试人工智能的全新用法，探索新型就业形态。我相信人工智能会催生大量新的经济机遇，未来个人也有望依托人工智能打造估值数十亿美元的企业，如今已有少数团队借助人工智能，打造出数亿美元营收的公司。但我们必须正视：即便各方全力应对，人工智能依旧有可能造成大规模、长期性的岗位流失，这也是这项技术全面替代人类认知工作后，难以回避的固有问题。

第二，应对人工智能引发的岗位流失，既要保障民众基本经济生活，也要帮助人们找寻人生价值、树立目标、重拾自主感。后者归根结底关乎社会架构、人生追求与美好生活的定义，需要全社会共同探索，并非政策能够直接解决。政策能做的，是延缓岗位流失速度、为受影响人群提供经济保障，为全社会留出思考与探索的时间。

基于以上思路，以下是具备可行性的宏观经济政策举措：

1. 数据统计与追踪。单纯的数据收集分析看似力度有限，但没有精准的实地调研，就无法制定有效的政策。Anthropic已持续一年半追踪民众使用Claude的相关经济数据，而政府掌握更多数据源，可进一步完善经济统计体系，精准监测人工智能引发的岗位变动。

2. 促进就业激励政策。一系列促就业举措能够延缓、减少岗位流失，例如薪资保险（为降薪人群提供补偿）、留岗税收优惠、职业培训补贴、助力企业与求职者精准匹配的配套设施等。具体方案需结合人工智能引发岗位流失的实际形态确定。即便这类政策会带来一定成本、造成市场效率小幅下降，但鉴于人工智能带来的生产力提升足以弥补损失，我们应当接纳。

3. 长期宏观经济扶持。倘若人工智能大规模、永久性降低劳动力需求，仅靠激励政策远远不够，需要为大量劳动者提供长期收入保障。全民基本收入、全民资本账户等机制均可考虑，资金可对相关人工智能企业征税、上调资本利得税来筹措。经济高速增长会夯实税收基础，为全民共享繁荣提供支撑。

另外，数据中心及其用电成本上涨，也是各界关注的经济问题。我的观点是，人工智能企业应当承担电价上涨带来的额外成本，Anthropic已就此作出承诺。公众对数据中心的抵触，本质上是对人工智能带来各类经济问题的情绪宣泄。我们必须直面这些深层经济矛盾，拿出切实可行的解决方案，否则不满情绪会持续借由各类表象问题爆发。

三、推动人工智能发挥正向价值

我们既要平衡人工智能自身的创新与安全，也要应对生物医药、能源、材料科学等依托人工智能加速发展的领域所面临的同类问题。人工智能带来的发展速度史无前例，相关风险也无过往经验可借鉴；而对于被人工智能赋能的下游行业，最大的难题并非风险管控，而是现有监管体系节奏滞后，难以承接人工智能催生的海量新技术、新成果。美国食品药品监督管理局（FDA）等监管机构的监管逻辑本就偏向审慎，人工智能还会让各类技术的安全性、可预测性大幅提升，进一步与传统监管假设产生冲突。

因此对于人工智能的下游应用，我更担心监管体系拖慢创新步伐，而非监管缺位。我们绝不希望人工智能的潜在红利尚未释放，各类风险却已凸显，这一问题亟需尽快解决。

不同科技、商业领域面临的问题与解决方案各有不同，下文以生物医药创新为例展开说明。一方面生物医药有望借助人工智能创造巨大民生价值，另一方面该领域监管体系极为复杂。目前虽无法精准预判人工智能将如何推动生物医药发展，但大概率会出现以下变化：

1. 进入监管审批流程的候选药物数量大幅增加；

2. 药物疗效提升、安全性优化，依托于对药物作用机理更深入的理解与技术优化；

3. 针对既往疑难病症的候选药物不断涌现；

4. 催生出全新疗法，如同过去数十年抗体、多肽、细胞疗法陆续成为主流治疗手段。

部分进步会自然缩短审批周期：药效更强的药物，临床试验规模更小、成本更低，可适用加速审批通道。但现行监管体系默认候选药物普遍疗效不确定、安全隐患较多，因此设置了多轮严格审查，一款药物走完FDA、欧洲药品管理局（EMA）的审批流程通常需要7至8年。若不推行改革，人工智能催生的大量新药、新疗法会让现有监管体系不堪重负。

我们当然不希望改革催生虚假药品、引发大范围安全事故，但一些简易的调整，就能让FDA、EMA等机构适配人工智能驱动的高速科研节奏。  以往临床试验中诸多耗资耗时的实验环节，未来可借助人工智能模拟、数据分析完成。监管机构应提前制定相关标准，一旦这类技术成熟，便可直接采用，无需继续沿用老旧的实验要求。可落地的应用场景包括：

• 基于人工智能的药效学、药代动力学建模；

• 毒理学预测，减少多物种动物实验；

• 优化用药剂量选择，缩减临床试验的剂量梯度测试环节；

• 依托大数据集完成生物标志物验证；

• 临床试验设立虚拟对照组，减少受试者招募数量；

• 开发替代终点指标，在衰老、神经退行性疾病领域尤为重要。

除上述具体举措外，监管机构还应探索更灵活的加速审批机制。如果我的判断无误，未来会不断涌现效果显著的全新疗法，监管体系应当摒弃过度审慎的态度，积极接纳创新。

生物医药领域的改革，不仅能放大人工智能的正面价值，也能降低其风险。药品审批体系优化，有助于生物安全防御能力提升；人工智能推动生物医药进步，也能改善民众心理健康，维护社会稳定。

四、国家权力与公民自由

任何政体都需要界定国家权力的边界。国家有正当理由，甚至是出于生存需求，保护民众免受内外部威胁。但权力过度集中，则会走向专制。现代民主国家大体上实现了二者的平衡，这套体系依托数百年逐步建立的法律与宪政机制维系，例如美国宪法第一修正案、第四修正案、第五修正案，《地方保安队法》、《外国情报监视法》等。

人工智能正在打破这种平衡，同时进一步放大利害关系。但只要我们及时应对，就能借助人工智能打造出自由保障更稳固、风险抵御能力更强的全新社会形态。

落入别有用心之人手中的强大人工智能，会成为专制统治的终极工具。现行法律与宪政体系，尚不足以抵御这一威胁。人工智能带来的能力增益极为可观，叠加其飞速的发展速度，极易被不法分子利用，伺机夺权。

这类风险存在多种技术与实现形式，但其共性在于：人工智能可绕过现有民主监督机制，快速赋予使用者巨大权力。如今看似科幻的全自动无人机编队，未来可能执行非法指令，而人类操作人员往往会拒绝违法命令；依托人工智能开展大规模监控，可从海量公开信息中挖掘公民隐私细节，这也是现行公民自由相关法律未曾预判的风险。这类变化可能突如其来，也可能暗中推进，因此民主国家必须主动筑牢防线，捍卫自由权利。

相关政策建议如下：

1. 建立自主武器的问责机。全自动武器，以及指挥、调度这类系统的平台，必须接受司法、立法机构与高层管理人员的监督管控，不能机械执行指令。可设立独立法律审查机构、赋予司法机关“关停权限”，或从底层训练系统，使其主动服从合法监管，也可双管齐下。

2. 禁止国内使用全自动武器。全自动武器用于抵御境外对手具备一定合理性，但绝不能在本国境内使用。美国军队本就受国内行动限制，这一禁令也应同步适用于执法部门。

3. 填补海量数据收集与数据中间商的监管漏洞。依据现行法律，企业收集的用户数据可被收购，用于国内监控与执法分析。人工智能让这类海量数据分析的价值与窥探能力大幅提升，这一隐私保护漏洞必须封堵。

4. 公民在遭遇公权力处置时享有人工智能使用权。当个人或机构受到监管、司法等公权力处置时，有权使用与公权力同等水平的人工智能辅助。这一原则可纳入《行政程序法》、正当程序条款、宪法第六修正案律师辩护权相关解读中，避免公权力凭借人工智能形成优势，损害公民合法权益。

最后需要强调，觊觎权力的不只有政府。历史上曾出现过企业体量壮大后掌控国家权力、具备类国家职能的情况，例如美国镀金时代、英国东印度公司。人工智能的能力极强，无论政府还是企业，都无法被完全放任，双方都需要受到制衡。

监管规则可约束企业（详见第一部分建议），但人工智能企业也需要建立区别于普通民营企业的权力制衡与问责机制。Anthropic设立的长期利益信托，就是独立治理架构的一种尝试，用以保障企业坚守初心。整个行业也应继续探索更多同类机制。唯有让政府与企业的权力都受到有效约束，才能实现权力平衡。

五、巩固民主国家的领导地位

受互联网、通信技术发展的过往经验影响，很多人习惯性将新技术视作贸易工具，目标是在全球推广自身技术体系。但我坚定地认为，人工智能的影响远超于此，它会彻底重塑全球博弈格局，未来所有地缘战略都将围绕人工智能展开，其影响力甚至超过核武器。

倘若人工智能真的实现“一座数据中心汇聚整个国家天才”的形态，拥有顶尖人工智能的国家，和落后国家、甚至仅落后三年的国家之间，实力差距会如同二战海军对阵中世纪步兵。在这座虚拟“智慧国度”中，千万算力可分别投入军事战略、无人机制造、武器研发、情报搜集、基础科研等各个领域。

此外，如第四部分所述，强大人工智能会催生更严苛的高压管控手段，因此全球主要大国的政体形态，以及防范人工智能被用于高压管控，变得愈发关键，地缘战略布局也刻不容缓。

民主国家应组建全球联盟，以共同价值观为基础发展人工智能，逐步吸引全球各国加入，提升联盟吸引力、提高孤立在外的代价。该联盟需要将前文一至四部分的人工智能政策在国际层面协同落地，同时掌控人工智能产业链核心环节：联盟内部共享资源，对外部实体实施管控。具体原则与目标如下：

1. 人工智能供应链管控。联盟成员国之间自由共享芯片、半导体制造设备，联手对敌对国家实施管控。美国针对前沿芯片、半导体制造设备的出口管制，是美国保持人工智能领先的重要因素，相关政策需要进一步完善，并与理念相近的国家协同落地。MATCH、OVERWATCH等待审议法案是良好开端，各民主盟友也应推出同类举措。

2. 协同应对人工智能风险。生物安全、网络安全、系统失控等风险的管控政策，开展国际协同后，执行效果更佳，也能减轻企业合规压力。各国企业可遵循统一标准，监管机构相互借鉴经验。各国执法、情报部门也应加强协作，追踪、打击利用人工智能研制生物武器等违法活动。

3. 共享人工智能发展红利。借助贸易与监管政策，在联盟内部加速人工智能技术普及、分享创新经验，助力发展中国家受益。例如统一药品审批标准，可加快人工智能赋能药物的测试与落地（详见第三部分）。

4. 联合防御。联盟国家依托人工智能开展集体防御，抵御敌方人工智能威胁，统筹人工智能网络防御、智能无人机、智能制造、涉密算力、智能研发、情报搜集等领域的产能与资源共享。

5. 抵制人工智能高压管控。联盟成员国必须拒绝依托人工智能打造高压专制体系，并落实第四部分提及的各类防护举措。

6. 宏观经济协作。就业危机具备跨境传导性，各国存在共同利益，应协同落实第二部分的宏观经济稳定政策，对冲人工智能带来的就业冲击。

联盟的目标是提升成员资格的吸引力，同时明确游离在外的代价。联盟尊重各国主权，由主权国家协同运作，可先由理念相近的民主国家组建，再逐步吸纳愿意遵守联盟规则、换取发展红利的国家。理想状态下，全球各国最终都能加入。即便无法实现，这一联盟也能帮助民主国家遏制、竞争高压管控型政权。

机遇窗口期

人工智能的指数级发展，让传统政策制定体系面临节奏挑战，但也创造了独一无二的机遇。如今，人工智能的风险已清晰显现，其创造经济价值、冲击就业的影响也初步落地，公众普遍对无序发展的人工智能抱有警惕。多重因素叠加之下，政策制定者更愿意推行具有前瞻性的举措。树须与他守护的森林，正在逐步苏醒。

人工智能行业内有一种论调，将公众的担忧归结为公关问题，认为只需要“优化宣传”即可。我完全不认同这种看法。民众产生担忧，是因为他们真切察觉到风险客观存在，而非行业高管态度不够乐观。作为人工智能行业从业者，我有责任如实披露风险，而公众基于知情权表达担忧，正是民主监督正常运转的体现。当下的核心，是将民众的关注转化为可行方案，避免负面情绪蔓延、激化矛盾。

我对问题解决抱有信心。无论是岗位流失、模型上线前测试、芯片出口管制，还是能源使用等人工智能相关议题，各界都能形成基本共识。跨党派阵营可基于现实挑战，制定出务实、具备前瞻性的政策。越早行动，全人类就越能尽早共享人工智能带来的巨大红利。  在此感谢Allan Dafoe、Mariano-Florentino Cuéllar、Richard Fontaine、Buddy Shah、Vas Narasimhan、Matt Yglesias、Nick Beckstead、Jason Matheny、Brad Carson以及Anthropic全体员工，本文的撰写得益于诸位对稿件提出的修改意见。

https://darioamodei.com/post/policy-on-the-ai-exponential

（完）

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全行者老霍 Dario Amodei Dario Amodei《AI 指数级发展策略》