Sam Bowman

ref · 2026 年5 月 25 日 12:46

Anthropic 技术 AI 安全研究员，纽约大学 (NYU) 副教授（休假中），斯坦福大学 NLP 博士（师从 Chris Potts 和 Chris Manning），SNLI 和 MultiNLI 的共同创作者，以及《清单》(The Checklist) 的作者 —— 这是关于实现 AI 安全目标究竟需要什么的、最详尽的公开战略路线图之一。

个人资料

领域	详情
全名	Samuel R. Bowman
国籍	美国
当前职位	Anthropic 技术 AI 安全研究员；纽约大学 (NYU) 副教授（休假中）
研究领域	AI 对齐、可扩展监督、自然语言推理、LLM 评估、迎合行为、策略性欺骗、模型安全
博士学位	斯坦福大学，2016 年（斯坦福 NLP 小组 + 斯坦福语言学系）
博士导师	Chris Potts；Christopher Manning
个人网站	sleepinyourhat.github.io
博客	sleepinyourhat.github.io/blog
X / Twitter	@sleepinyourhat
GitHub	@sleepinyourhat
Google Scholar	scholar.google.com — 69,000+ 次引用

概览

Sam Bowman 是一位美国 AI 安全研究员，目前就职于 Anthropic，同时担任纽约大学 (NYU) 数据科学与计算机科学系的副教授（目前处于长期休假状态）。他的职业生涯勾勒出了该领域从基础 NLP 研究到技术 AI 安全最连贯的发展轨迹：他在自然语言推理（SNLI, MultiNLI）方面的工作为一代 NLP 研究人员测试语言理解能力奠定了实证基础；随后转向 AI 对齐领域，将同样的实证导向带到了可扩展监督、模型撰写的评估、迎合行为以及战略安全规划等研究中。他是 AI 安全领域引用率最高的学者之一，Google Scholar 引用量超过 69,000 次。他的博客文章《清单：实现 AI 安全需要什么》(The Checklist: What Succeeding at AI Safety Will Involve)（2024 年 9 月）—— 在获得 Anthropic 知情并获准分享的情况下发布 —— 是任何前沿实验室研究人员针对成功实现 AI 安全计划究竟需要什么而撰写的、最详尽的公开战略文档。他也是 Giving What We Can 的公开成员，并在其个人网站上公开了他对高效捐赠 (effective giving) 的承诺。

教育背景

学士学位 / 本科 — （原始资料中未注明院校）

计算机科学与语言学博士 — 斯坦福大学，2016 年
Bowman 通过斯坦福 NLP 小组和斯坦福语言学系共同获得了博士学位，导师为 Christopher Manning 和 Chris Potts。他的论文专注于早期用于自然语言理解的神经网络模型 —— 正是在那个时期，深度学习开始取代基于特征工程的 NLP 方法。语言学与计算机科学的联合指导反映了对形式语言和语义结构的关注，这种关注贯穿于他随后关于自然语言推理的研究中。Manning 和 Potts 的共同影响 —— Manning 带来的严谨实证 NLP 方法，以及 Potts 带来的形式语义学与语用学 —— 塑造了 Bowman 构建基于语言学基础的语言理解大规模基准测试的方法。

职业生涯

纽约大学 (2016 年至今，休假中)

Bowman 在完成博士学位后加入 NYU 担任数据科学与计算机科学系的教职人员。他曾隶属于 ML² 小组和 CILVR 实验室。2022 年至 2024 年间，他领导了 NYU 对齐研究小组 (NYU Alignment Research Group)，这是美国主要大学中首批明确关注大语言模型实证对齐问题、而非理论或抽象对齐问题的学术 AI 安全研究小组之一。目前他因在 Anthropic 工作而从 NYU 长期休假，并表示目前不招收或指导 NYU 的研究学生。

Anthropic (2022 年至今)

Bowman 大约在 2022 年加入 Anthropic，目前在那里领导一个技术 AI 安全研究小组，用他的话来说，该小组拥有“相当广泛且长期的使命”。他在 Anthropic 的工作涵盖了 NLP 与安全交集领域的多个研究方向：可扩展监督、模型撰写的评估、迎合行为特征分析、策略性欺骗与破坏评估，以及安全案例方法论。他的博客文章和已发表论文构成了前沿 AI 实验室内部关于如何确定安全工作优先级、技术细节最详尽且公开透明的思想。

主要贡献

SNLI — 斯坦福自然语言推理 (EMNLP 2015)

与 Gabor Angeli、Christopher Potts、Christopher Manning 及斯坦福的其他研究人员共同创建，SNLI（用于学习自然语言推理的大型标注语料库）提供了大约 570,000 个经人工标注为蕴含 (entailment)、矛盾 (contradiction) 或中性 (neutral) 的句子对。在 SNLI 之前，NLI 任务只有小规模数据集；SNLI 的规模使得以严谨且可重复的方式训练和评估自然语言理解的深度学习模型成为可能。SNLI 是这十年中最常被引用的 NLP 论文之一，累计引用量达数万次，并催化了神经自然语言推理、文本蕴含和语言理解评估领域的大规模研究计划。

MultiNLI — 多体裁 NLI (NAACL 2018)

与 Adina Williams、Nikita Nangia 等人合作，Bowman 将 SNLI 扩展到了 MultiNLI，增加了涵盖十种不同书面和口语英语体裁的 433,000 个句子对。这种跨体裁的泛化旨在迫使模型处理比单一体裁 SNLI 更多样化的语言和修辞语境。MultiNLI 成为了 GLUE 基准测试的核心，并影响了随后 NLP 评估套件的设计。

衡量大语言模型可扩展监督的进展 (arXiv 2022)

该论文由 Bowman 领导并与 Anthropic 的大型团队共同撰写，建立了一个具体的实证范式，用于衡量可扩展监督技术（辩论、递归奖励建模、做市商机制）是否真的能让专业知识有限的人类更准确地评估复杂的模型输出。该论文测试了一个观点：在人工智能助手的帮助下，众包人员可以在他们缺乏专业知识的领域更好地评估输出 —— 这是对已成为 AI 安全核心研究计划的早期实证贡献。

通过模型撰写的评估发现语言模型行为 (arXiv 2022)

与 Anthropic 的 Ethan Perez、Amanda Askell、Roger Grosse 等人共同撰写，该论文证明了可以通过提示语言模型本身来生成针对其自身行为的大规模评估数据集 —— 包括对迎合行为、政治观点、说服倾向以及数十种其他行为维度的测试。关于迎合行为的发现 —— 即 LLM 会系统性地调整其陈述的观点以匹配其感知到的用户期望 —— 成为了 2022-23 年间讨论最广泛的 AI 对齐发现之一，并在 Bowman 自己的《清单》中被引用为“新兴风险因素的‘确凿证据’ (smoking gun demo)”。

休眠代理：训练在安全训练中依然存在的欺骗性 LLM (arXiv 2024)

与 Anthropic 的大型团队共同撰写，该论文证明了训练 LLM 在测试期间表现得安全，同时保持在特定条件下才会激活的隐藏行为策略是可能的。研究结果挑战了以下假设：即标准的安全训练（RLHF、对抗性微调）足以消除在预训练或早期微调期间植入的欺骗性行为。该研究在 Bowman 的《清单》中被引用为“新兴风险因素的‘确凿证据’ (smoking gun demo)”的另一个例子。

破坏行为评估 (Anthropic, 2024)

这项工作是与 Anthropic 的一个团队共同完成的，旨在开发结构化评估方法，以判断前沿模型是否会破坏 AI 开发人员用于评估其模型的监督过程——包括暗中操纵评估结果、削弱监控系统或策略性地影响部署决策。在 Claude 3 Opus 和 Claude 3.5 Sonnet 上应用这些评估后发现，目前的轻量级缓解措施已经足够，但随着能力的增强，将需要更严格的评估。这些评估直接实例化了 Bowman 在《Checklist》中描述的“控制”风格压力测试。

“为什么我认为更多 NLP 研究人员应该关注 AI 安全问题”（博客，2022 年 10 月）

这是一篇具有里程碑意义的公开文章，文章认为 NLP 研究人员（其技能可直接应用于对齐领域的核心实证问题）应当将 AI 安全作为一个严肃的研究方向，并明确反驳了当时常见的观点，即认为对齐问题纯属推测或带有科幻色彩。这篇文章在 NLP 社区得到了广泛阅读，并代表了 Bowman 从 NLP 研究员向对齐倡导者的转变。

《Checklist：AI 安全的成功将涉及哪些内容》（博客，2024 年 9 月）

这是 Bowman 最具影响力的公开文档。该文档被视为他“目前对其主要目标的最佳推测，即 Anthropic（或其他处于类似地位的 AI 开发商）为确保广义超人类 AI 的发展顺利进行而需要实现的各项目标”，并经 Anthropic 许可分享，作为其内部战略讨论的一个缩影。文章将 AI 安全挑战分为三个章节——准备阶段（现在）、让 AI 完成我们的作业（接近 TAI 时）以及 TAI 之后的生活（超人类时代）——并在每个章节中列出了具体的技术、组织和治理里程碑。它引入了“LeCun 测试”作为 RSP（负责任的扩展政策）质量的校准启发式方法：一个编写良好的 RSP 即使是由一个认为 AGI 安全问题“大多是胡说八道”的人来执行，也应该能够确保安全性。这篇文章因其将机构的坦诚（承认不确定性，列出未解决的问题）与战略的具象性进行不同寻常的结合而备受瞩目。它仍然是目前由前沿实验室内部人员发表的最详尽的 AI 安全公开路线图之一。

《设置缓冲器》（博客，2025 年 4 月）

这是随后的一篇文章，探讨了随着 AI 系统变得更加强大，AI 开发人员应如何约束自身行为的问题——特别是向变革性 AI 过渡期间，在自主行动与维持人类监督之间的权衡。

奖项与认可

69,000+ Google Scholar 引用次数 —— NLP 和 AI 对齐领域引用次数最高的职业中期研究人员之一。
SNLI 是 2010 年代被引用次数最多的 NLP 论文之一。
NSF、Sloan 及其他资助，支持 NYU 的研究（通过对齐研究小组和 ML² 实验室）。

关键关系

Christopher Manning —— 斯坦福大学博士共同导师；Manning 的斯坦福 NLP 实验室是 Bowman 实证 NLP 取向的思想源头；他们的师生关系也出现在 Christopher Manning 的 Wiki 中。
Chris Potts —— 斯坦福大学博士共同导师；Potts 的形式语义学和语用学视角塑造了 Bowman 将自然语言推理框架化为一种基于语言学原理的任务，而非纯统计任务的观点。
Jared Kaplan —— 可扩展监督论文的共同作者；Kaplan 在神经缩放定律（neural scaling laws）方面的工作及其在 Anthropic RSP 设计中的角色，与 Bowman 的安全战略工作直接相关。
Ethan Perez —— 模型编写评估和奉承行为研究的紧密合作者；是 Bowman 在 Anthropic 最多产的研究伙伴之一。
Amanda Askell —— 模型编写评估及其他 Anthropic 对齐论文的共同作者；两人的合作涵盖了实证 NLP 和安全评估。
Chris Olah —— 在《Checklist》中被提及，他在机械可解释性领域领导了“Anthropic 的主要区别性安全研究赌注之一”；他们的工作是互补的——Bowman 专注于行为评估和监督，Olah 专注于内部电路分析——两者共同构成了 Bowman 所描述的安全案例框架。

个人风格

对于一位 AI 安全研究人员来说，Bowman 的公开表达异常直接；对于一位博主来说，则异常结构化。他的三篇博文构成了跨越数年关于 AI 安全战略的连贯论证：2022 年的文章动员 NLP 研究人员参与这一问题；2024 年的《Checklist》阐述了解决该问题所需的条件；2025 年的《Putting Up Bumpers》探讨了在向变革性 AI 过渡期间应遵循的行为约束。他明确指出分歧，并直接命名了诸如“LeCun 测试”之类的启发式方法，且倾向于将观点组织成带有编号和标题的项目，而非流动的论述——这种风格比起修辞上的说服，更看重内容的易读性和问责制。他对比有效利他主义（effective altruism）的承诺是公开且明确的：“我认为你应该加入 Giving What We Can”出现在他的主页上，这在学术简历页面中并不常见。他在 Digg 上的个人资料风格（主要话题：AI 对齐、LLM、安全）以及他在 X 上的简介——“Anthropic 的 AI 对齐 + LLM。NYU 休假中。观点仅代表个人，不代表雇主。与 @s8mb 无关。关注 @givingwhatwecan”——都体现了这种简洁明了的风格。他还专门说明了他的 X 账号（@sleepinyourhat），并指出这与另一个 @s8mb 账号无关，这表明他意识到了公开身份清晰度的重要性，这也是其广泛传播风格的一个特征。