文章总结: 本文分析硅谷风险投资驱动的’快速迭代、容忍失败’逻辑如何重塑军事人工智能发展,指出将战争视为技术产品的理念存在致命伦理缺陷。关键发现包括:机器学习的数据缺陷与战场复杂性导致系统不可靠;风险投资的赌徒心态促使军方采购不成熟技术;硅谷与五角大楼的合流正用算法逻辑取代人类道德判断。文章警示这种技术至上模式可能丧失对战争伦理的掌控。 综合评分: 84 文章分类: AI安全,政策法规,解决方案,威胁情报,其他
【报告】当战争成为科技产品:硅谷逻辑如何重塑军事人工智能
原创
丁爸 丁爸
丁爸 情报分析师的工具箱
2026年4月11日 21:59 美国
在小说阅读器读本章
去阅读
这篇文章深入探讨了硅谷的商业逻辑如何重塑现代军事人工智能(AI)的发展,揭示了风险投资驱动的“快速迭代、容忍失败”模式与战争的致命性之间存在的根本矛盾。以下是详细总结:
一、核心观点:战争成为科技产品
文章指出,硅谷的商业逻辑正在主导军事AI的发展,将战争视为一个可以通过技术解决的“软件问题”。这种逻辑将冲突视为测试和迭代产品的“开放式实验室”,将失败视为通向成功的必要代价,从而导致了伦理和安全的严重隐患。
二、历史与现状:从曼哈顿计划到“杀戮云”
1. 历史反思
文章回顾了20世纪40-50年代,以诺伯特·维纳(Norbert Wiener)为代表的科学家对人机结合及技术伦理的担忧。维纳等人认为技术不仅是应用科学,更是应用的社会和道德哲学。
2. 当代现状
- 现状描述:当前军事AI系统的发展几乎不受阻碍,俄乌冲突和加沙地带的冲突被视为收集数据、完善系统的“实验室”。
- 典型案例:美国国防部的联合全域指挥与控制计划(JADC2)借鉴了Uber的模式,旨在实现从海底到外太空的实时无缝连接与打击。
- 潜在风险:尽管承诺能实现精准打击,但目前的系统在复杂战场环境下往往不可靠,且缺乏约束暴力的保障机制。
三、技术逻辑的内在缺陷
1. 机器学习的“浪费”本质
机器学习依赖于“试错、失败、再尝试”的循环,这与硅谷“快速行动、打破常规”(Move fast and break things)的创业文化高度契合。这种逻辑将有害结果视为“创新的超额代价”。
2. 数据与环境的挑战
- 数据问题:用于训练AI的数据往往存在不完整、质量低或标签错误的问题,导致系统脆弱且带有偏见。
- 环境复杂性:战场环境混乱、动态且具有对抗性,AI系统极易因未预见的变量而做出错误决策,导致误伤和暴力升级。
四、风险投资逻辑的渗透
1. 赌徒心态
硅谷的风险投资(VC)模式本质上是高风险、高回报的赌博。投资者接受80%的失败率,只要有一个“本垒打”项目就能覆盖所有损失。这种逻辑被带入军事领域,导致“让混乱主宰”和“宁愿接受更多失败以换取灾难性成功”的危险主张。
2. 垄断与依赖
科技行业追求“闪电扩张”(Blitzscaling)以建立垄断地位,迫使用户产生依赖。这种模式促使军方加速采购不成熟的技术,形成对特定供应商的深度依赖,从而提取“垄断租金”。
五、硅谷与五角大楼的深度合流
1. 新兴防务公司的崛起
新兴公司如Anduril、Palantir等由风险资本大量注资,它们视自己为“产品提供者”而非传统的“政府承包商”。
- 代表人物:Anduril CEO Palmer Lucky宣称“你需要像我这样的人……制造暴力工具也不会失眠”;Palantir CEO Alex Karp主张“给伤害美国人的人带来世代痛苦”。
2. 政治与文化的重塑
- 关键人物:前谷歌CEO埃里克·施密特(Eric Schmidt)等硅谷大佬积极推动将“软件和AI是解决一切问题关键”的世界观植入政府。
- 叙事转变:这些科技巨头不仅推销技术,更推销一种二元对立的世界观(正义与邪恶的永恒战斗),将自己包装成文明的“救世主”。
- 结论:随着AI技术融入军事机构,技术的内在逻辑正在成为社会和政治秩序的基础设施,人类的道德判断正被“计算机即伦理”的算法逻辑所取代。
这篇文章深刻剖析了商业利益与军事暴力结合的危险性,警示了在“技术至上”的狂热中,人类可能正在丧失对战争伦理的掌控权。
以下是正文
近年来,曼哈顿计划的影子经常被提及,作为美国如何开展创新和技术研发的典范。正如美国国会一个(由利益相关方组成的)委员会所建议的那样,到2024年,我们需要一个“曼哈顿计划式的AI计划”。
与其说曼哈顿计划是一个警示故事,告诫人们某些技术追求可能会产生严重且不负责任的后果,不如说,在这种背景下,曼哈顿计划被视为行动蓝图,一个明确的善举,应该被复制。
这是一种奇特的修正主义,但或许应该促使我们回溯到自主化趋势开始急剧发展的时期。在20世纪40年代和50年代,即便不是很多,一些数学家、科学家、哲学家和理论家也已经对我们今天所见的新型人机关系表达了许多保留意见,或许他们当时已经能够预见到,当人机以我们今天习以为常的形式融合时,将会出现哪些最棘手的问题。这或许有助于我们理解构成当代战争物质和实践的更广泛体系的某些逻辑和结构,并阐明某些技术逻辑的流通如何作为一种社会和政治秩序原则发挥作用。
例如,以控制论和人工智能发展史上的关键人物之一诺伯特·维纳为例。维纳在推进武器系统的自动化和自主化方面发挥了重要作用,但随着曼哈顿计划和极具争议的核弹使用,他和其他人越来越警惕科学家和数学家在战争技术研发中所扮演的角色;正如时任科学研究与发展办公室主任范内瓦尔·布什公开指出的那样, 这些科学家“被严重误导,放弃了学术追求,转而制造奇异的破坏性装置”。
然而,与布什不同,维纳对当时日益盛行的观点感到不安,这种观点认为技术“与其说是应用科学,不如说是应用社会和道德哲学”,是理解世界和在世界中行事的主要逻辑。换句话说,维纳看到了我们现在看来不太明显的一点:计算和信息技术的逻辑已经成为一种主导性的(哲学)推理模式,并可能最终塑造我们思考和行动的方式。维纳并非唯一意识到这一点的人:赫伯特·马尔库塞、路易斯·芒福德、汉斯·约纳斯、君特·安德斯、汉娜·阿伦特、雅克·埃吕尔等人在早期也对技术和现代社会提出了类似的见解。
人工智能军事系统的无节制发展
如今,包括那些能够做出或推荐军事目标决策的系统在内,日益自主化的人工智能系统的研发和部署几乎畅通无阻。我们已经看到许多报告揭露了人工智能决策支持系统在加沙地带造成的极具破坏性的后果。
尤其是俄乌冲突,悲剧性地凸显了人们迫切需要迅速且不受限制地研发全自主武器的必要性,而冲突本身也产生了极其宝贵的数据,人工智能武器开发者希望利用这些数据改进他们的系统。正在发生的冲突成为了一个开放的实验室,用于测试、试验和迭代。
无论人们如何讨论人工智能武器在准确性、精确性和复杂性方面的优势,事实是,迄今为止,那些被设计用于复杂开放战场环境的系统不太可能非常稳健可靠,也没有任何保障措施确保它们能够经过校准或以限制暴力的方式使用。恰恰相反,情况似乎更可能如此。
尽管如此,关于军事人工智能系统的承诺仍然不切实际。诸如人工智能能够帮助迅速赢得战争、战争仅仅是一个软件问题、人工智能能够使全球透明化等等说法,在这个领域屡见不鲜,并推动了诸如雄心勃勃的“联合全域指挥与控制计划”(JADC2)等项目的实施。JADC2是美国国务院的一个项目,旨在创建一个由人工智能驱动的、覆盖所有国防部门的网络。
JADC2 的愿景是实现无缝数据连接,从而能够在所有领域(从海底到外太空,包括空中、陆地、海洋、太空和网络空间)快速、大规模地采取实时行动。
美国国防部经常用优步(Uber)这个拼车平台来类比这一愿景的运作方式。只不过,这里不是提供乘车服务,而是协调发射火箭,随时随地。
机器学习的缺陷
这些雄心勃勃的项目往往忽略了一点:采用人工智能完成整个杀伤链的武器系统很可能受到不完整、低质量、错误或不一致数据的制约。这反过来又会导致系统高度脆弱,并造成带有偏见且有害的后果。冲突环境复杂多变,而且至关重要的是,充满对抗性。其中存在大量系统无法应对的变数。
此外,人工智能数据经常被错误标记,而且人工智能机器学习领域的研究远没有媒体报道中呈现的那般科学严谨。这种情况必然会导致错误的决策、武力滥用以及其他有害的错误——这些错误最终会伤害到那些身处其中的人。
正如我在其他地方更详细地论述的那样,当技术逻辑占据主导地位时,有害的结果就会简单地被纳入技术实践中,要么被视为意外,要么被视为过程的一部分,即创新的过度。
机器学习作为一种技术,其背后蕴含着一种浪费或过度的逻辑。它不断地尝试、失败、再尝试、不断接近目标、再次失败……如此循环往复,并耗费一切必要资源,只为最终接近某种完美。这与硅谷产业本身目前的运作模式颇为相似。
风险投资对技术的逻辑
这种机器逻辑值得关注。它们并非在真空中构思或存在,也并非独立存在。它们始终兼具社会性和技术性。费利克斯·加塔利曾说过,机器是人类主观性某些方面的高度浓缩形式。
鉴于硅谷及其金融支持者似乎越来越主导着军事技术创新的节奏和速度,以及向完全自主的文化转变(或者至少是边缘化人性),我们或许应该从科技行业中寻找答案,以便更好地了解我们目前的状况。
硅谷、军事进步理念和风险投资目标之间存在着一种极其复杂且紧密交织的关系,这种关系可以追溯到几十年前。风险投资的逻辑与人工智能的逻辑一样,都重视错误和迭代:投资是高风险高回报的,有些项目会成功,但大多数会失败。高达80%的投资可能会失败,但成功的项目足以弥补所有损失。这始终是一场赌博。
然而,这种关系的动态变化,以及私营部门的言论和实践在军事行动中日益显著的主导地位,应该让我们深思。当军方跟上科技行业的步伐,并效仿其“先行动后道歉”的理念时,会发生什么?
科技行业的运作机制建立在速度、规模和竞争之上。Facebook(现已更名为Meta)的商业模式围绕着这样一个理念展开:快速将产品推向市场本身就具有内在价值,而不管这些技术理念是否完全成熟可用。
“快速行动,打破常规”这句标志性的口号仍然是诠释这种精神的基石。Facebook 当时的另一句口号是“完成胜于完美”。这正是这种商业实践——黑客之道——的精髓:科技行业必须快速行动,关键在于赢得产品上市、拿下合同、实现“闪电式扩张”、打造垄断地位并从中攫取垄断利润的竞赛——这意味着最终通过剥夺客户的选择权来赚取巨额利润。它将客户锁定在一种依赖关系中,一旦脱离,成本将变得极其高昂。在这种地位下,供应商可以持续不断地攫取垄断利润。
只有接受错误和失误的逻辑,相关人员才能快速行动,从而在竞争中占据优势。这正是军用人工智能产业极力营造竞争氛围,构建人工智能军备竞赛框架的原因。它需要这种框架来支撑其逻辑运作。
这种态度也日益在国防领域得到推广,并受到那些需要这种框架的人的拥护。在美国军事委员会的听证会上,Palantir公司的首席技术官作证称,他主张在军事采购过程中“更加疯狂”,“让混乱主宰一切”,以便激发必要的激励机制。他认为,监管限制过于严苛,“如果这意味着我们能取得更大的成功,我乐于接受更多的失败”。至于这种成功究竟是什么,或者失败会带来什么后果,目前尚无定论,但显然Palantir的首席技术官是在运用风险投资的逻辑进行论证。
人们总是认为走捷径和事后补救措施是合理的,因为错误总能通过后续的更新、迭代调整等方式得到解决。这种做法推崇接受错误,速度至上。虽然可能造成浪费,但高额的经济回报却弥补了这些损失。
过度承诺是这种理念的特征之一,它依赖于一个根深蒂固的观念:人工智能在未来的某个时刻将会变得如此出色、如此完美——虽然现在还未达到,但人们普遍认为它终将如此——以至于成功也必然到来。人工智能的未来是成功的必然。因此,要快速、大规模地推进。速度和规模至关重要。而这恰恰是人工智能炒作周期(无论是在军事领域还是其他领域)的根本所在。
硅谷的基因融入五角大楼
值得我们仔细审视那些制造出最受追捧、宣传最热烈的技术的人。这并非因为这些技术必然经得起时间的考验,而是因为它们将塑造人们的关注点,以及战争和胜利观念的构建方式。
军事人工智能市场是一个利润丰厚且前景广阔的市场,目前价值 92 亿美元,雄心勃勃的新来者正迅速涌入,并获得了巨额风险投资的支持,这些资金通常来自少数几家实力雄厚的风险投资机构,这些机构与 Andreessen Horowitz 和 Founders Fund 等著名风险投资基金有关。
像Anduril、Palantir、Shield AI等众多初创独角兽企业都投入了数十亿美元,力图成为这个市场的重要参与者。这些企业虽然都声称对产品的合法性和伦理道德深表关切,但实际上却并未表现出任何真正的担忧。Anduril的首席执行官帕尔默·拉基(Palmer Lucky)甚至戏谑地说,即便他精神有问题,“你们也需要像我这样的人,精神有问题却毫不犹豫地制造暴力工具。”与此同时,Palantir的首席执行官亚历克斯·卡普(Alex Karp)公开表示,他信奉“施加痛苦”,并倡导美国的对外政策应该着重于“让任何伤害美国人的人遭受世世代代的痛苦”。
需要明确的是,技术创新与军事行动长期以来密不可分。传统上,军事组织的需求决定着技术创新的步伐和结构,国防企业此前也与军方密切合作,共同推动创新并确保竞争优势。但如今情况已有所改变。新兴的国防企业将自身定位为产品供应商而非政府承包商,这意味着它们必须在现有的国防市场中培育对现有产品的需求。
谷歌前首席执行官、前几届政府的国防顾问埃里克·施密特一直积极倡导加快军事流程和程序,并与华盛顿建立了非常密切的联系,以推广他的“硅谷世界观”,即“软件和人工智能的进步是解决几乎所有问题的关键”。
过去十年间,包括彼得·蒂尔在内的其他人一直致力于通过与政府建立联系,推动政府推行有利于软件发展的政策。对于施密特和其他与他观点相似的人来说,传统的军事行动流程和采购程序过于缓慢,他似乎决心协调军事界和科技界的行动时间,以推动美国军队现代化,使其效仿硅谷。施密特尤其常常忽略的一点是,他投资了多家公司,包括风险投资和其他投资,而这些公司要想取得成功,就必须进行国防改革。
施密特对军事人工智能的金融投资(以及其他风险投资者的投资)能否成功,恰恰取决于能否按照技术和科技行业的形象重塑所有社会、政治以及军事进程。
为了让投资获得回报,既得利益者需要美国政府在各个方面都以机器的速度而非人类的速度运作。风险投资机构没有时间等待长达数年的合同流程,他们需要快速的周转,以便初创公司能够获得合同、筹集更多资金并提升估值。风险投资公司提供给客户(即投资其基金的投资者)的产品并非技术本身,也并非公司本身,而仅仅是估值增长和资本收益。为了实现这一点,必须相应地塑造环境。
回想一下维纳的洞见:某些技术普及程度越高,其内在运行逻辑也越发根深蒂固。随着人工智能和数字技术融入我们的社会、政治和军事机构,其结构和逻辑特征便成为一种基质,一种基础设施,它沿着自身的功能路径引导和制约着各种思想和行动,包括规范性观念。在人工智能计算的逻辑框架内,关于理想行为和实践的规范性判断是通过技术流程和商业实践的视角来呈现的。定义可能性视野的并非人类,而是作为伦理的计算机,更重要的是,是其所在的产业。
硅谷积极致力于将自身基因注入五角大楼,这种现象令人担忧之处在于,它所强调的技术进程往往与一种粗浅的世界观相伴而生,即正义战胜邪恶势力。这种世界观强调善恶、永恒的斗争、紧迫感和生存的恐惧,并与之形成对比的是一些同样粗略描绘的胜利乌托邦,一个辉煌的“未来”。
这与两家知名公司——安都瑞尔和帕兰提尔——的命名灵感来源小说情节颇为相似,这两家公司都源自《指环王》。这些日益活跃、人脉广泛且极具影响力的群体,不仅将自己标榜为商人,更把自己塑造成救世主、先知和政治家,声称只有他们才能使(西方、世界、美国、文明)重现昔日荣光。这些叙事极具煽动性,其前景令人恐惧,不仅意在将我们所有人卷入战争,正如曼哈顿计划之于美国一样,而且还歪曲了战争的残酷现实及其对我们当代社会深远的影响。
原文已上传知识星球
长按识别下面的二维码可加入星球
里面已有万余篇资料供下载
续费五折优惠
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:丁爸 情报分析师的工具箱 丁爸 丁爸《【报告】当战争成为科技产品:硅谷逻辑如何重塑军事人工智能》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论