Ben Mann 与
Anthropic

Benjamin Mann 离开 OpenAI 并共同创立 Anthropic 的核心驱动力在于他对 OpenAI 内部 AI 安全优先级的深切担忧。根据 Mann 在多个场合的表述，他认为在 OpenAI，安全考量并未被置于首要位置 [1] [3]。

这种边缘化体现在多个方面，包括安全团队未能获得承诺的计算资源。例如，有报道指出，OpenAI 从未兑现其向"超级对齐"（Superalignment）团队提供 20% 计算能力的承诺[16]。

Mann 的担忧也延伸到了 OpenAI 对模型发布策略的态度。前政策负责人 Miles Brundage 曾指责 OpenAI 试图"改写"其 AI 安全历史，尤其是在 GPT-2 模型的发布事件上[16]。

出于对 OpenAI 在 AI 安全方面优先级的担忧，Benjamin Mann 与 Dario Amodei、Daniela Amodei 等前 OpenAI 核心成员共同创立了 Anthropic，其核心使命是构建可靠、可解释、可操控且将安全与伦理考量深植于发展理念的 AI 系统 [6]。

Anthropic 致力于确保 AI 的发展能够惠及全人类，并将 AI 安全和价值对齐置于公司战略的核心位置 [4]。为了确保其长期承诺得到制度性保障，Anthropic 采用了公益公司（Public-Benefit Corporation, PBC）的结构 [6]。

Benjamin Mann 离开 OpenAI 并创立 Anthropic 的一个显著特点是，他并非孤身一人，而是与 OpenAI 的几乎整个安全团队一同离开 [2]。这一举动在当时引起了业界的广泛关注，并凸显了 OpenAI 内部在 AI 安全优先权问题上存在的深刻分歧。

这种集体出走的现象，反映了 Mann 及其同事对 OpenAI 在 AI 安全方向上偏离的严重不满，以及他们共同致力于解决 AI 对齐和安全挑战的决心。

Anthropic 在 AI 安全和对齐领域的核心理念是"宪法式 AI"（Constitutional AI, CAI） [6] [14]。这一理念旨在通过赋予 AI 模型一套明确的、类似宪法的指导原则（Constitutional Principles），来引导和约束其行为，使其与人类价值观和伦理准则保持一致。

与传统的基于人类反馈的强化学习（RLHF）相比，宪法式 AI 强调让 AI 模型根据预设的宪法原则进行自我批判和修正 [14]。

基于 AI 反馈的强化学习（Reinforcement Learning from AI Feedback, RLAIF）是宪法式 AI 实现过程中的一项关键技术 [14]，它构成了 Anthropic 在 AI 对齐方法上的重要创新。

模型上下文协议（Model Context Protocol, MCP）是 Anthropic 在提升 AI 模型实用性和安全性方面的一项重要创新实践 [12]，旨在解决当前 AI 助手在访问和处理外部数据时面临的挑战。

通过 MCP，开发者不再需要为每个数据源维护单独的连接器，而是可以针对一个标准协议进行开发。Anthropic 已经分享了针对 Google Drive、Slack、GitHub 等流行企业系统的预构建 MCP 服务器[12]。

Anthropic 在 AI 对齐方法上经历了一个从早期依赖人类反馈（RLHF）到更侧重于 AI 自我批判与纠正的演进过程 [6] [14]。

Anthropic 认为，CAI 和 RLAIF 的组合相较于纯粹的 RLHF，在效率、透明度和客观性方面具有优势 [14]。通过这种方式，Anthropic 试图构建一种更具可扩展性和可控性的 AI 对齐机制。

这一预测基于他对当前 AI 技术发展速度，特别是"扩展法则"（scaling laws）持续有效的观察和判断[4] [9]。Mann 认为，AI 的进步仍在加速，而非趋于平稳，并且大多数人错误地判断了指数级增长的真正含义。

为了更实际地界定 AGI 的到来，Benjamin Mann 提出了一个名为"经济图灵测试"（Economic Turing Test）的衡量标准 [4] [9]。

这个标准与传统图灵测试不同，它更侧重于 AI 系统在真实世界经济任务中的表现能力[10]。Mann 认为，真正的 AI 潜力不仅体现在对话的流畅性上，更重要的是其在不同经济领域的实际应用能力。

这一预测基于他对 AI 技术，特别是 AGI 潜力的判断，即 AI 系统将能够在越来越多的经济任务中取代人类劳动力。Mann 认为，随着 AI 能力的持续增强，大量依赖此类技能的工作岗位将面临被自动化替代的风险。

Benjamin Mann 对 AI 的未来发展抱有希望，但也对其潜在的安全挑战和"噩梦场景"（nightmare scenarios）表达了深切的担忧 [2] [4]。

面对 AI 技术飞速发展带来的机遇与挑战，Benjamin Mann 提出的核心应对策略是强调 AI 安全研究的重要性以及进行广泛的社会准备 [4] [9]。

在个人层面，Mann 建议人们积极拥抱 AI 工具，提升自身在 AI 时代的竞争力，并且他也在思考如何教育下一代，以更好地适应 AI 驱动的未来[4] [9]。

Anthropic 由 Benjamin Mann、Dario Amodei（CEO）和 Daniela Amodei（总裁）等前 OpenAI 核心成员于 2021 年创立 [6]。公司的创立背景是创始团队对 OpenAI 在 AI 安全优先权方面的担忧。

为了确保其长期承诺得到制度性保障，Anthropic 采用了公益公司（Public-Benefit Corporation, PBC）的结构 [6]，这在法律上要求公司在追求利润的同时，必须优先考虑公共福利。

Anthropic 的核心产品是其 Claude 系列大型语言模型（LLMs），该系列模型以信息论创始人克劳德·香农（Claude Shannon）的名字命名[19]。

Claude 系列模型通过 Amazon Bedrock 等平台向各类规模的企业客户提供服务，帮助它们重塑业务策略和改善用户体验[21]。

Anthropic 自成立以来，凭借其独特的技术路线和强大的团队背景，获得了资本市场的高度关注和巨额融资。

Anthropic 不仅在 AI 模型研发上取得了显著成就，还在推动整个 AI 行业向更安全、更负责任的方向发展方面发挥了积极作用。

通过推广 MCP 这样的开放标准，Anthropic 不仅提升了自身在行业中的影响力，也为构建一个更加协同和互操作的 AI 未来做出了贡献。

展望未来，Anthropic 明确表示将继续坚定不移地投入 AI 安全研究，并将其作为公司发展的核心驱动力。Ben Mann 多次强调，随着 AI 模型能力的不断增强，安全和对齐问题的重要性只会越来越突出[27] [58]。

在应用层面，Anthropic 致力于将其安全可靠的 AI 技术应用于更广泛的领域，以解决现实世界的问题并创造社会价值。通过技术研发、产品创新、行业合作和公共倡导等多方面的努力，Anthropic 旨在引领 AI 技术朝着对人类长远利益负责的方向发展。