[译苑雅集vol.11]程序员开始焦虑失业,哲学家却被AI公司抢人

admin 2026-06-26 06:04:16 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 本文探讨AI公司大量招聘哲学家的现象,指出哲学方法如苏格拉底问答法和伦理框架(义务论、后果主义)可提升AI系统的真相追求能力、减少过度自信、增强安全合规性。文章引用多家AI实验室案例说明哲学在模型宪法制定、伦理决策中的实际应用,并预测该领域将持续产生就业机会。 综合评分: 78 文章分类: AI安全,解决方案,技术标准,安全建设,其他


cover_image

[译苑雅集vol. 11]程序员开始焦虑失业,哲学家却被 AI 公司抢人

四楼南侧东 四楼南侧东

表图

2026年6月25日 23:05 北京

在小说阅读器读本章

去阅读

作者:The Economist

时间:2026年06月24日

原文:https://www.economist.com/science-and-technology/2026/06/24/why-big-ai-labs-are-hiring-so-many-philosophers

十年前,随着 AI 革命开始加速,艺术和人文学科的学生被告知,如果想让自己更有就业竞争力,就应该“学会编程”。这条建议现在看来可能并不高明。如今,对 AI 可能抢走饭碗感到紧张的,反而是程序员。

他们或许可以考虑去学哲学。纽约联邦储备银行今年早些时候发布的数据显示,在美国,哲学专业毕业生比计算机科学专业毕业生更容易找到工作。2024 年,也就是目前有数据可查的最近一年,计算机科学专业毕业生失业率为 7%,哲学专业毕业生则为 5.1%。

其中不少人就是被 AI 公司抢走。耶鲁大学哲学家 Luciano Floridi 说,有些学生还没毕业就已经拿到工作机会。学者也同样在流动,Floridi 形容,哲学系人才流失的规模已经像是一次“失血”。

哲学能教给 AI 研究者的一些东西,其实相当古老。“苏格拉底方法”会通过佯装无知和连续追问,澄清含义、发现矛盾,并揭示一个观点可能带来的后续影响。今天的许多 AI 系统都有迎合用户的倾向,慕尼黑大学研究哲学与 AI 的专家 Jörg Noller 说,经过苏格拉底方法训练的模型,不那么热衷于取悦人类,更愿意追求真相。

还有“苏格拉底式无知”这个观念,在《申辩篇》中,柏拉图笔下的苏格拉底声称,他的智慧主要在于意识到自己有多么无知。把这种谦逊植入模型,可以帮助限制过度自信。过度自信是一个常见缺陷,Noller 称之为“AI 不成熟”。伦敦 AI 实验室 Google DeepMind 的高级哲学家 Iason Gabriel 认为,整个行业的幻觉现象有所下降,可以归因于这类努力。更广泛地说,他认为,哲学训练是改善 AI 长推理过程,也就是所谓“思维链”的“一种强有力机制”。

哲学训练还会以更具体的方式影响模型的立场。特拉华大学技术哲学家 Thomas Powers 说,如果把 约翰·洛克 的著作输入一个 AI 法律助手,它就会倾向于把强有力的财产权视为政治自由的基础。如果你不喜欢这些原则,模型制造商那里也有别的选择。美国计算巨头 IBM 的 Granite 系列模型带有一些调节旋钮,可以让企业客户更好地把输出结果与自己的公司哲学对齐。IBM “负责任 AI” 的负责人 Francesca Rossi 说,这些功能可以让用户在不同哲学取舍之间选择平衡点,比如个人自由意志与社会稳定和谐。

哲学也能帮助 AI 安全。研究人员已经记录下 AI 模型中的各种令人不安的行为,包括试图逃避监督,甚至勒索用户。模型制造商试图抑制这类不当行为,其中一种方法叫作 AI 宪法主义。它的做法是,从具有法律或道德权威的哲学文本中提取规则和原则,并以此给模型搭建一套约束框架。

总部位于旧金山的 AI 实验室 Anthropic 就是这一方法的支持者之一。它为 Claude 模型制定的宪法,曾纳入来源相当多样的材料,包括康德的著作、Apple 的服务条款和《世界人权宣言》。最新一版由 Anthropic 首席哲学家 Amanda Askell 主导,于 1 月 21 日发布。Anthropic 内部一些员工给这份 78 页的宪法起了个昵称,叫 Claude 的“灵魂文档”。

不过,最大的问题在于,这些宪法一开始究竟应该放进什么样的规则。哲学家们把注意力集中在两种主要伦理框架上。第一种是义务论,康德是这一传统的重要代表。义务论会施加严格规则,禁止说谎、胁迫,以及把人只当作手段而不是目的来对待,即便这样做是为了更大的善。Anthropic 的宪法纳入了许多义务论约束,前述特拉华大学技术哲学家 Powers 博士认为,这些约束可以让 AI 行为更加一致。对于要部署到家庭和公共空间里的机器人来说,这是一项优点。

以义务论看待世界的模型还有其他好处。其中之一是更诚实,而诚实正是 Claude 被广泛注意到的一个特征。牛津大学哲学家 Nick Bostrom 说,更诚实的模型更不容易误导用户。另一家硅谷实验室 Inflection AI,则把义务论约束施加到它的 Pi 聊天机器人上。Pi 被设计用来提供情感支持。公司负责人 Sean White 说,Pi 很擅长识别那些可能伤害自己或他人的用户。Floridi 说,义务论宪法还有助于满足法律合规要求。

AI 哲学家感兴趣的另一种伦理路径叫后果主义。它通过权衡成本与收益来决定应该怎么做。更接近后果主义的模型包括 OpenAI 的 ChatGPT 和 Google 的 Gemini。Google 的 AI 模型被设计成要产生“可能的总体收益,并且这些收益大幅超过可预见风险”,这就是一种典型的后果主义目标。

后果主义算法在自动驾驶汽车软件中也至关重要:如果事故无法避免,系统就必须决定哪一种撞车方式造成的损害最小。自动驾驶公司 Waymo 的高级工程师 Chris Gerdes 说,趋势是让驾驶软件变得更加后果主义。后果主义也是 AI 武器系统 的核心。美国军方联合人工智能中心前负责人 Jack Shanahan 说,军事目标必须与可能造成的平民死亡相权衡。

棘手问题比比皆是,而这正是哲学家喜欢的问题类型。是否存在一些情况下,义务论规则应该被推翻?当后果并不清楚时,应该怎样做决策?AI 系统是否应该考虑动物福利,或者环境状态?Nauto 是一家为卡车和其他商用车开发 AI 安全系统的公司,它的负责人、哲学家 Stefan Heck 问道:优先保护年轻行人,而非年长行人,在道德上是否可以接受?他预计,伦理上高度敏感的诉讼会出现。毕竟,后果主义算法明确允许一种伤害发生,只要它的设计目标是避免更糟糕的伤害。

批评者担心“道德去技能化”:如果计算机越来越多地做出伦理判断,人们会不会变得不那么愿意自己做判断?路易斯维尔大学 AI 理论家 Roman Yampolskiy 认为,道德“在历史上并不稳定,在文化上各不相同,在策略上可以被操纵,而且往往只有事后才看得清楚”。

失业的程序员们可以留意一下:AI 哲学家看起来并不缺工作。


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:表图 四楼南侧东 四楼南侧东《[译苑雅集vol. 11]程序员开始焦虑失业,哲学家却被 AI 公司抢人》

评论:0   参与:  0