OpenAI自2020年以来的安全策略经历了从早期探索、发展期体系化建设到近期强化治理与应对AGI风险的演进。其技术安全策略在模型层面、AI对齐研究和AGI长期规划上不断深化；应用安全策略则通过调整API政策、完善内容审核、加强滥用防范和隐私保护来适应变化；组织与治理结构也相应调整，包括内部安全团队的演变、组织架构的优化、与外部机构的合作博弈以及整体安全治理框架的完善。这一演进主要受到政策法规的推动、市场竞争的压力以及伦理考量的深化等多重因素的驱动。

OpenAI的安全策略自2020年以来经历了显著的演进，从早期的探索性尝试，逐步发展到构建体系化的安全框架，并最终聚焦于应对日益增长的AGI（通用人工智能）风险。这一演进过程不仅反映了AI技术本身的飞速发展，也体现了外部环境，如政策法规、市场竞争和公众伦理关切对OpenAI安全策略制定的深刻影响。OpenAI逐渐认识到，AI安全并非一蹴而就，而是一个需要持续投入、动态调整和多方协作的复杂系统工程。其安全策略的调整，往往伴随着对AI能力边界、潜在风险以及社会影响的认知深化。

在2020年至2021年期间，OpenAI的安全策略尚处于探索和初步建设阶段。这一时期，OpenAI的主要精力集中在提升模型能力，特别是GPT系列模型的迭代升级。尽管如此，安全问题已经开始受到关注。例如，在GPT-2发布时，OpenAI曾因其潜在的滥用风险而采取了谨慎的发布策略，最初并未完全开源模型。这反映了OpenAI早期对模型安全性的初步考量，即通过控制模型的传播范围来降低潜在风险。然而，这一时期的措施相对零散，缺乏系统性的安全框架。OpenAI开始意识到，仅仅依靠技术手段难以完全解决安全问题，需要结合社会层面的适应和调整。他们开始强调通过迭代部署（iterative deployment）的方式，让社会有时间适应AI技术带来的变化，并从实际应用中学习如何更好地管理风险。这种理念的提出，标志着OpenAI开始从被动应对安全挑战转向主动构建安全体系。同时，OpenAI也开始关注AI对齐（AI Alignment）的基础研究，即如何确保AI系统的目标与人类的价值观和意图保持一致，尽管此时的研究可能尚未形成完整的体系。例如，OpenAI在2020年7月发布的GPT-3技术论文中提及了训练数据来源，这些数据包含了从网络上抓取的个人信息，这为后续的隐私问题埋下了伏笔。

进入2022年至2023年，随着ChatGPT的发布及其引发的全球关注，OpenAI的安全策略进入了体系化建设和积极应对挑战的阶段。ChatGPT的广泛应用使得AI的安全、偏见、滥用等问题更加凸显，迫使OpenAI加速构建更为完善的安全保障体系。在这一时期，OpenAI开始系统性地阐述其安全理念和方法。例如，他们发布了《我们迈向人工智能安全的路径》（Our Path to AI Safety）报告，详细说明了其在AI安全方面的努力和规划。报告中强调了通过测试、外部专家反馈、政府安全监管等多种方式来建立AI安全系统。OpenAI还特别提到了在GPT-4发布前，内部花费了6个多月的时间进行安全工作，这表明其对模型发布前的安全评估给予了更高重视。此外，OpenAI开始加强与外部的合作，例如与非营利组织Khan Academy合作，构建AI辅助系统以保护未成年人，并建立“安全护栏”（safety guardrails）来减少模型生成有害内容的可能性。在组织层面，虽然具体的团队调整信息在当前资料中不突出，但可以推断，随着安全任务的加重，相关的安全团队和职能得到了加强。这一阶段，OpenAI更加清晰地认识到，AI安全是一个持续的过程，需要在实践中不断迭代和完善。例如，在2022年DALL-E 2发布时，OpenAI已经开始进行外部红队测试（red teaming）。2022年3月，OpenAI发布了关于语言模型安全与滥用的经验教训，总结了在模型部署过程中遇到的安全问题和应对措施。同时，OpenAI也面临着来自监管机构和公众的更大压力，例如，2023年3月，意大利数据监管机构因隐私问题对ChatGPT发出临时禁令，要求OpenAI停止使用数百万意大利人的个人数据。

进入2024年以来，OpenAI的安全策略更加侧重于强化内部治理机制和积极应对AGI可能带来的深远影响。这一时期的显著特征是OpenAI对AGI的认知从“一次性突破”转变为“持续演进的过程”，认为AGI将是“一系列日益有用的系统中的一个点”。这种观念的转变深刻影响了其安全策略的制定，从过去主要关注“为AGI时刻做准备”，转变为强调通过“迭代部署”（iterative deployment）从当前系统中学习，从而提升下一个系统的安全性和有益性。OpenAI认为，在AI能力持续提升的背景下，部署本身有助于而非阻碍安全目标的实现，因为它能够帮助积累真实世界的使用经验和安全认知。例如，ChatGPT的发布就被视为一个检验不同AI发展观念的“罗夏测试”，其支持者认为这是AGI安全的学习机会，而担忧者则视其为对安全的损害。

面对AGI可能带来的巨大变革，OpenAI将潜在风险归纳为三大类：人类滥用（如违反法律和民主价值观的应用，包括压制言论自由、网络钓鱼、恶意行为规模化）、AI错位（AI行为与人类价值观、指令、目标或意图不一致，例如产生 unintended negative consequences，或削弱人类控制），以及社会颠覆（AI带来的快速变化可能产生的不可预测的负面影响，如加剧社会紧张和不平等，或改变主导价值观和社会规范）。OpenAI强调，随着AI能力的增强，风险也在升级，因此必须努力减轻日益强大的AI系统的潜在危害，并根据人类价值观开发和运营这些系统，确保人类始终处于控制地位。为此，OpenAI制定了核心安全原则，包括将安全视为科学、通过冗余构建深度防御、寻求可扩展的安全方法、确保人类控制以及将安全视为集体努力。这些原则指导着OpenAI在模型评估、风险缓解、政策制定以及与外部合作等方面的具体行动。

近期，OpenAI对其“预备框架”（Preparedness Framework）进行了重要更新，明确了在特定条件下可能调整安全要求的可能性，这标志着其安全策略在应对市场动态方面展现出一定的灵活性。具体而言，如果其他前沿AI开发者发布了不具备同等安全措施的“高风险”系统，OpenAI表示可能会相应调整自身的安全标准。然而，公司也强调，任何此类调整都将在严格确认风险格局实际发生变化、公开承认调整、评估调整不会显著增加总体严重伤害风险，并且仍将保持比竞争对手更高级别的保护措施的前提下进行。这一政策调整的背景是AI领域日益激烈的竞争，以及外界对OpenAI可能为加速产品发布而牺牲安全性的担忧。例如，有报道称OpenAI在近期一次重要模型发布前，给予测试人员的安全检查时间不足一周，且许多安全测试是在早期模型版本而非公开发布版本上进行的。同时，公司内部对于安全文化的重视程度也受到了一些前员工的质疑，例如前政策研究主管Miles Brundage就曾批评公司“重写”GPT-2的发布历史，认为其试图将当时的谨慎态度描绘成基于对AGI发展的过时认知，从而为当前更激进的发布策略辩护。这些内部和外部的压力，共同推动了OpenAI在预备框架上的调整，试图在创新速度和安全保障之间找到新的平衡点。

OpenAI在技术安全方面的策略演进，紧密围绕着其AI模型的快速迭代和能力的不断增强。随着模型从GPT系列发展到更强大的o系列，OpenAI不断引入新的安全措施和对齐技术，以应对日益复杂的安全挑战。这不仅包括对模型行为的直接约束，如防止生成有害内容，也涉及到更深层次的AI对齐研究，旨在确保AI的目标与人类的意图和价值观保持一致。同时，面对AGI的远景，OpenAI也开始构建更为长远的、系统性的安全规划，以应对未来可能出现的颠覆性风险。

在模型层面，OpenAI持续投入研发，旨在提升模型的内在安全性和可控性。一个重要的进展是引入了“审慎对齐”（Deliberative Alignment）的训练方法，该方法旨在通过直接教授大型语言模型（LLMs）人类编写的、可解释的安全规范文本，并训练它们在回答之前明确地推理这些规范，从而提升模型的安全性。这一方法在o3等新模型中得到了应用，OpenAI期望它能帮助模型更紧密地遵循公司的安全规范。此外，OpenAI还彻底重建了模型的安全训练数据，增加了在生物威胁（biorisk）、恶意软件生成和越狱（jailbreaks）等领域的新的拒绝提示（refusal prompts）。这些更新使得o3和o4-mini等模型在内部拒绝基准测试（如指令层级、越狱）中表现出强大的性能。OpenAI在其《预备框架》（Preparedness Framework）中定义了四个主要的风险类别：说服（persuasion）、网络安全（cybersecurity）、CBRN（化学、生物、放射性和核威胁）以及模型自主性（model autonomy）。针对每个类别，框架进一步定义了从“低”到“关键”的不同风险级别。

除了模型本身的训练，OpenAI还开发了系统级的缓解措施来标记前沿风险领域的危险提示。例如，借鉴了在图像生成领域的早期工作，OpenAI训练了一个基于人类编写的、可解释的安全规范的推理LLM监控器。当应用于生物风险时，该监控器成功标记了约99%的人类红队测试对话。OpenAI强调，模型能力的每一次提升都需要相应提升安全措施。他们会对新模型进行严格的安全压力测试，例如，根据更新的准备框架（Preparedness Framework），对o3和o4-mini在生物和化学、网络安全以及AI自我改进这三个被追踪的能力领域进行了评估，并确定这些模型在所有三个类别中均低于框架的“高”风险阈值。这些评估的详细结果会在相应的系统卡（System Card）中公开发布。OpenAI还强调，安全措施贯穿模型生命周期的各个阶段，从预训练数据安全、系统级模型行为引导，到持续安全改进的数据飞轮和强大的监控基础设施。近期，OpenAI还引入了新的对齐技术，如“深思熟虑的对齐”（Deliberative Alignment），特别是在其o1和o3模型中。这种方法的核心思想是直接教导能够进行推理的大型语言模型理解人类编写的、可解释的安全规范文本，并训练它们在回答问题之前明确地就这些规范进行推理。OpenAI希望这种新方法能够帮助确保o3及后续模型更严格地遵守公司的安全规范。例如，o1模型通过一个三阶段的训练范式来强化安全性：首先关注帮助性，然后严格强化安全标准，最后通过强化学习来巩固对这些标准的遵守。

AI对齐研究是OpenAI安全策略的核心组成部分，其目标是确保AI系统的行为与人类的意图和价值观保持一致。OpenAI在这一领域持续探索，并取得了一系列进展。一个关键的进展是强化学习从人类反馈中学习（RLHF）的广泛应用。RLHF被用于OpenAI的InstructGPT和ChatGPT等模型中，通过人类偏好来微调AI行为，显著提高了AI输出的有用性和安全性，使其更不容易产生有毒或明显错误的回应。尽管RLHF取得了成功，但研究人员也认识到其局限性，例如人类标注者可能成为“偶然的哲学家”，需要为训练数据集建立初步的偏好框架，并确保研究人员不会无意中成为人类价值的仲裁者。

为了应对这些挑战，OpenAI探索了新的对齐方法。“审慎对齐”（Deliberative Alignment） 是一个重要的研究方向，它旨在直接教授LLMs人类编写的、可解释的安全规范，并训练它们在回答前明确推理这些规范。这种方法试图通过增强模型对安全原则的理解和推理能力来提升对齐效果。OpenAI还强调政策驱动的对齐（Policy driven alignment），通过将明确的政策和“判例”整合到模型训练过程中，创建透明、可审计和可引导的模型。他们通过发布模型规范（Model Spec）并邀请公众对未来版本提出意见，来促进透明度和民主参与政策制定。此外，OpenAI还关注通过人类价值观、意图和理解进行对齐，认识到并非所有人类价值观和偏好都能被明确编纂成政策或规则，因此致力于开发方法将这些复杂的、通常是隐含的元素编码到AI系统中，使模型不仅能遵循明确的指令，还能尊重人类意图的更广泛精神。

OpenAI还致力于可扩展的监督、主动学习、验证和人类-AI界面的研究。这包括开发新颖的人机界面，使个人和机构能够在开发中和部署后与AI交互、控制、可视化、验证、引导和审计AI行为。他们探索让AI系统主动识别不确定性领域（如不明确的风险）并向人类监督者寻求澄清的方法，从而完善对人类优先事项的理解，并持续调整其行为以更好地适应不断发展的规范和情境。OpenAI认为，随着模型能力的增强，对齐方法也应随之扩展，甚至利用AI自身的能力来提升对齐效果，例如使用GPT-4进行内容政策制定和审核决策，或利用o1的推理能力来改进自身的对齐。他们还强调，对齐研究是一个持续的过程，需要不断从真实世界的使用中学习，并通过迭代部署来丰富对安全和滥用的理解。可扩展监督（Scalable Oversight）是OpenAI对齐研究的另一个重要方向，旨在解决人类监督能力有限的问题，使得对强大AI系统的有效监督成为可能，例如训练一个模型来帮助人类监督员找出其他模型代码中的缺陷。可解释性（Interpretability）研究也备受关注，旨在使“黑箱”AI模型的内部运作更易于理解，长期目标是利用可解释性来检测安全关键问题，如偏见、欺骗或错位。

OpenAI对AGI的长期安全规划建立在其“确保AGI惠及全人类”的核心使命之上。随着对AGI认知的深化，OpenAI不再将其视为一个突发的、不连续的“奇点”时刻，而是将其看作一个沿着能力不断增强的系统序列演进的连续过程。这种观念的转变使得OpenAI更加注重通过“迭代部署”（iterative deployment）来学习和适应，认为部署当前系统有助于为下一个更强大的系统积累安全经验和理解，从而在AGI真正到来之前，逐步构建起有效的安全屏障。OpenAI强调，AGI的发展将带来巨大的积极影响，但也伴随着人类滥用、AI错位和社会颠覆等风险，因此必须努力减轻这些潜在危害，并根据人类价值观开发和运营AGI，确保人类始终处于控制地位。

在具体的长期规划方面，OpenAI提出了几个核心原则。首先是主动风险缓解，即在风险完全显现之前就采取行动，甚至在风险尚未完全发展、当前未造成伤害且距离部署尚远时，就着手推进缓解措施。这包括在安全环境中对模型进行经验性观察和测试。其次是深度防御，即通过叠加多层干预措施来构建冗余的安全保障，借鉴航空航天、核电和自动驾驶等安全关键领域的经验，确保所有防御层都失效才会发生安全事故。第三是寻求可扩展的安全方法，即开发那些随着模型能力增强而变得更有效的安全技术，例如利用AI自身的能力（如AI撰写的评论、GPT-4辅助内容审核）来提升安全水平，并探索通过增加计算资源来直接优化鲁棒性和可靠性。第四是确保人类控制，致力于开发能够提升人类能力并促进民主理想的AI，将关于AI行为和权限的广泛界限设定权交给社会，并随着人类价值观和情境的演变而发展，核心是保持人类控制和赋权。最后是将安全视为集体努力，认识到确保AGI安全和有益于所有人并非单一组织能够完成的任务，需要行业、学术界、政府和公众的广泛合作，OpenAI承诺公开分享安全相关的见解、技术和资源以推动整个领域的发展。这些原则共同构成了OpenAI应对AGI长期安全挑战的战略框架。OpenAI还成立了专门的“超级对齐”（Superalignment）团队，旨在解决AGI可能带来的“流氓行为”等风险。尽管该团队在运行不到一年后因联合负责人离职而解散，但其设立本身就表明了OpenAI对AGI长期安全问题的重视。

随着OpenAI的AI模型（如GPT系列和o系列）通过API和ChatGPT等产品广泛部署，应用安全成为其安全策略中日益重要的组成部分。OpenAI在API使用政策、内容审核机制、防止AI滥用以及用户隐私保护等方面不断调整和完善其策略，以适应不断变化的风险格局和用户期望。这些策略的演进旨在确保其技术在实际应用中以负责任和安全的方式被使用，同时平衡创新、用户需求和社会责任。

OpenAI对其API的使用政策进行了持续的更新和细化，以应对不断出现的新的应用场景和潜在风险。这些政策旨在明确允许和禁止的使用行为，并为开发者提供清晰的指导。例如，OpenAI明确禁止使用其API从事危害他人隐私的活动，包括在未遵守适用法律要求的情况下收集、处理、披露、推断或生成个人数据，使用生物识别系统进行身份识别或评估（包括面部识别），以及促进间谍软件、通信监控或对个人进行未经授权的监控。此外，API政策还禁止可能严重损害他人安全、福祉或权利的活动，例如在未经合格专业人士审查且未披露AI辅助使用及其潜在局限性的情况下提供量身定定的法律、医疗/健康或财务建议，在影响个人安全、权利或福祉的领域（如执法、移民、关键基础设施管理、产品安全组件、基本服务、信贷、就业、住房、教育、社会评分或保险）进行高风险的自动化决策，促进真钱赌博或发薪日贷款，以及从事政治竞选或游说活动，包括生成针对特定人群的个性化竞选材料。

OpenAI还强调不得滥用其平台通过故意欺骗或误导他人来造成伤害，例如生成或推广虚假信息、错误信息或虚假的在线互动（如评论、评价），未经同意或合法权利冒充其他个人或组织，从事或推广学术不端行为，以及未能确保自动化系统（如聊天机器人）向与其互动的人披露其AI身份（除非上下文已明确）。此外，政策还禁止构建可能不适合未成年人的工具，包括色情或暗示性内容（科学或教育目的除外）。这些政策的更新历史显示，OpenAI在2023年2月15日将其用例和内容政策合并为一套使用政策，并为高风险行业提供了更具体的指导；在2022年11月9日，OpenAI不再要求开发者注册其应用程序，转而使用自动和手动相结合的方法监控政策违规行为；在2022年10月25日，更新了应用程序审查流程，只要开发者遵守政策，提交后无需等待批准，转向了基于结果的方法并更新了安全最佳实践。这些调整反映了OpenAI在API治理方面从预先审查向持续监控和事后追责的转变，同时也加强了对高风险应用领域的管控。近期，OpenAI还推出了针对特定高风险能力的模型访问控制策略。例如，其“语音引擎”（Voice Engine）模型，虽然具有强大的语音克隆能力，但出于对潜在滥用的担忧，OpenAI并未广泛开放其API访问，而是与一小部分可信赖的合作伙伴进行测试，并制定了严格的使用政策，要求合作伙伴获得说话人的明确同意，并明确披露生成的声音是AI制作的。

OpenAI在内容审核机制方面投入了大量资源，旨在识别和处置违反其政策的内容，以促进其产品和服务的负责任使用。其审核机制采用了自动化技术与人工审核相结合的方式。在自动化方面，OpenAI利用分类器、推理模型、哈希匹配（hash-matching）、阻止列表（blocklists）和其他自动化系统来主动检测可能违反其条款或政策的内容。例如，为了防止GPT-4o的原生图像生成器创建儿童性虐待材料（CSAM），OpenAI使用了与o3和o4-mini类似的推理监控器。此外，OpenAI还利用自身的模型（如GPT-4）进行内容政策制定和内容审核决策，这有助于加快政策完善的反馈循环，并减少人工审核员接触滥用材料的风险。最新的“omni-moderation-latest”模型引入了先进的跨模态检测能力，能够同时处理文本和图像内容，并在超过40种语言中优于其前代模型。

除了主动检测，OpenAI还依赖用户报告和外部通知。他们承诺尽快审查这些报告，并会根据情况告知用户是否采取了强制措施。对于被标记的内容，OpenAI的团队可能会进行人工审查，以确定适当的处置方式。处置措施包括账户限制（终止或限制访问产品）、警告、内容共享限制、阻止特定搜索结果出现、限制特定GPT的可见性（包括其在GPT商店中的存在）以及论坛审核（删除帖子或限制访问OpenAI论坛）。在决定采取何种强制措施时，OpenAI会考虑法律要求、违规的严重程度以及过去或重复违规等因素。OpenAI还提供了申诉流程，如果用户认为处置有误，可以通过电子邮件或联系支持部门进行申诉，OpenAI可能会根据用户提供的额外信息重新评估并撤销处置。OpenAI强调其诚信与安全团队会持续监控和完善其政策、流程和工具，以随着产品的全球化发展而增强其审核方法。对于通过API构建的应用，微软Azure OpenAI服务也提供了内容过滤系统，当检测到有害内容时，API调用会返回错误或标记完成原因，开发者需要在其应用中处理这些情况。OpenAI的《模型规范》（Model Spec）为模型行为提供了详细的指导原则，例如，要求模型在风险情境下格外小心，不得协助或鼓励非法行为。

OpenAI将防止AI技术被滥用视为其安全策略的重中之重，并为此建立了一系列机制。这些机制贯穿于模型开发、部署和使用的各个阶段。首先，在模型开发层面，OpenAI通过改进模型训练数据和引入新的对齐技术来增强模型的内在安全性，使其更不容易响应恶意指令或生成有害内容。例如，通过“审慎对齐”方法，训练模型在回答前明确推理安全规范。其次，OpenAI实施了严格的部署前评估流程。根据其准备框架（Preparedness Framework），新模型在发布前会经过内部和外部的红队测试（red-teaming），以评估其潜在风险和滥用可能性。OpenAI表示，如果一个新模型在其准备框架下的风险评估超过了“中等”风险阈值，那么在实施足够的安全干预措施将缓解后的评分降低至“中等”之前，他们不会发布该模型。

在模型部署后，OpenAI利用一系列工具进行滥用监控，包括专门的审核模型和使用自身模型来监控安全风险和滥用行为。他们会公开分享一些关键的发现，例如与微软联合披露国家行为者滥用其技术的情况，以帮助其他机构更好地防范类似风险。OpenAI还强调通过“迭代部署”（iterative deployment）来学习真实世界的使用情况，从而改进安全措施，认为这有助于社会更好地理解和适应AI技术，同时为下一代安全措施、系统和实践的研究提供指导。他们谨慎而逐步地向更广泛的人群发布新的AI系统，并配备大量的安全措施，然后根据吸取的经验教训进行持续改进。OpenAI还积极与外部专家和组织合作，例如，超过70名外部专家帮助评估了与GPT-4o相关的风险，这些经验被用于构建基于早期模型检查点弱点的评估，以更好地理解后续检查点。此外，OpenAI还通过API访问控制和策略执行来限制恶意使用，例如禁止使用其服务从事间谍软件、未经授权的监控、生成虚假信息等活动。OpenAI还推出了“AI Preparedness Challenge”，提供API积分奖励，鼓励创新解决方案来预防AI滥用。

OpenAI在用户隐私保护方面的策略，特别是在2023年至2025年期间，经历了显著的演进，主要受到欧盟《通用数据保护条例》（GDPR）等法规的深刻影响，以及用户和监管机构对其数据处理实践的持续审查。这一时期的标志性事件是意大利数据保护机构（Garante）对OpenAI处以1500万欧元的罚款，原因是其ChatGPT服务在处理用户数据以训练模型时缺乏适当的法律依据，未能充分履行透明化义务，以及未能有效保护未成年人数据。这一处罚不仅凸显了OpenAI在早期数据实践中的不足，也成为了其后续加强隐私保护措施的重要催化剂。

在GDPR罚款事件之前，OpenAI的数据处理方式，特别是关于用户数据用于模型训练的透明度和同意机制，受到了广泛质疑。监管机构指出，OpenAI未能清晰告知用户其数据如何被收集和使用，收集的数据超出了必要范围，并且将个人数据用于了超出最初预期的目的。此外，AI模型生成不准确个人信息、数据存储时间过长以及2023年3月发生的数据泄露事件，都暴露了其在数据安全和个人信息保护方面的漏洞。这些事件促使OpenAI不得不重新审视并调整其隐私策略，以应对日益严格的监管环境和公众期望。

作为对监管压力和公众关切的回应，OpenAI在2025年进行了“用户同意机制精炼审计”（Consent Safeguards Refinement Audit）。这项审计旨在全面审查和优化其用户同意机制，确保其符合最新的全球隐私法规，并提升用户信任。审计的重点包括评估用户选择加入或退出的便捷性、政策更新的透明度和及时性、加密和访问协议等技术的保障措施是否符合全球标准，以及所有流程是否符合GDPR、CCPA等国际框架。OpenAI强调其致力于提升透明度和用户赋权，通过提供隐私门户（Privacy Portal）和服务设置中的选项，使用户能够管理其同意设置，例如禁用数据存储或选择不将其数据用于模型训练。对于企业用户，OpenAI默认不将其数据用于训练，并明确要求企业在特定情况下需明确选择加入。

在技术层面，OpenAI加强了数据安全措施，包括使用AES-256加密静态数据，采用TLS 1.2+协议保护传输中数据，并实施严格的访问控制策略，限制对用户数据的内部访问。此外，OpenAI还推出了数据保留控制功能，允许符合条件的组织配置数据保留期限，甚至可以选择API平台中的零数据保留策略。针对滥用监控日志，OpenAI默认保留最多30天，但也为符合条件的客户提供了修改后的滥用监控或零数据保留选项，以减少客户内容在日志中的存储。这些技术和管理上的改进，旨在弥补早期实践中存在的不足，例如未能充分进行数据最小化和存储限制等问题。尽管OpenAI采取了多项改进措施，但其隐私保护实践仍面临挑战。例如，有报道指出，截至2025年2月，ChatGPT在数据最小化和存储限制方面仍不符合GDPR要求，其无限期保留用户提示的做法与GDPR的“存储限制”原则相冲突，且其去标识化措施的有效性也受到质疑。此外，OpenAI因《纽约时报》的诉讼而被法院要求无限期保留消费者ChatGPT和API客户数据，这与其对用户的隐私承诺相悖，并引发了用户对隐私泄露的担忧。

OpenAI的组织与治理结构在其发展过程中经历了显著的调整，这些调整不仅反映了其从非营利研究实验室向兼具商业运营的实体转变，也体现了其在应对日益复杂的AI安全挑战和AGI远景方面的战略考量。安全相关的组织架构、内部团队的职责以及整体安全治理框架都在不断演变，以适应快速发展的技术和外部环境。

OpenAI内部安全团队的演变在过去几年中经历了显著的动荡和重组，这反映了公司在快速发展的AI领域平衡创新、商业压力与安全优先级的挑战。一个关键的事件是“超级对齐”（Superalignment）团队的解散。该团队成立于2023年7月，旨在专注于减轻AI的长期风险，特别是AGI可能带来的“流氓行为”。然而，在运行不到一年后，该团队的联合负责人Ilya Sutskever和Jan Leike于2024年5月相继离职，随后团队解散，成员被整合到其他项目和研究中。Jan Leike在离职后公开批评OpenAI，认为安全文化和流程已经“为光鲜的产品让路”，并强调OpenAI需要成为一家“安全第一的AGI公司”。这一事件引发了外界对OpenAI安全承诺的担忧。

作为回应，OpenAI在2024年5月宣布成立一个新的“安全与安全委员会”（Safety and Security Committee）。该委员会由CEO Sam Altman、董事会主席Bret Taylor、董事会成员Adam D’Angelo和Nicole Seligman领导，技术专家Aleksander Madry、Lilian Weng以及新任首席科学家Jakub Pachocki也是成员。该委员会的任务是评估公司当前的安全实践，并在90天内向董事会提出更新建议。然而，安全团队的变动并未就此停止。2024年8月，有报道称安全负责人Aleksander Madry被调任至一个专注于“AI推理”的新研究项目，这再次引发了关于OpenAI安全优先级的疑问。一些行业观察家认为，将关键人员从安全岗位调离，可能表明公司正在将优先事项转向创新，可能以牺牲伦理为代价。此外，2024年11月，研究与安全副总裁Lilian Weng宣布辞职，这又是一次高层安全领导人员的变动。这些频繁的人事变动和团队重组，凸显了OpenAI在构建稳定且权责明确的安全团队方面所面临的挑战，也反映了其内部在安全与商业化之间的持续张力。

OpenAI在安全相关的组织架构方面进行了多次调整，旨在加强对AI模型开发与部署过程中的安全监督和治理。一个显著的调整是“安全与安全委员会”（Safety and Security Committee）的成立和演变。该委员会最初于2024年5月成立，由CEO Sam Altman、董事会主席Bret Taylor、董事会成员Adam D’Angelo和Nicole Seligman领导，旨在就“关键的安全决策”向公司董事会提出建议，并负责在90天内更新公司的安全实践。然而，到了2024年9月，该委员会的性质和领导层发生了变化。Sam Altman和Bret Taylor退出了委员会的领导层，委员会转变为由卡内基梅隆大学机器学习系主任Zico Kolter担任主席的“独立董事会监督委员会”。其他成员包括Quora联合创始人兼CEO Adam D’Angelo、美国陆军退役将军Paul Nakasone以及索尼公司前执行副总裁兼总法律顾问Nicole Seligman。这一转变被解读为公司认识到AI治理中中立性的重要性，并可能更愿意公开其管理AI安全和风险的方式。

这个独立的“安全与安全委员会”将负责监督指导OpenAI模型开发与部署的安全流程，听取公司领导层关于主要模型发布的安全评估简报，并与全体董事会共同对模型发布进行监督，包括有权延迟发布直至安全问题得到解决。该委员会和董事会审查了o1模型发布的安全评估，并将持续接收关于当前和未来模型技术评估的定期报告，以及发布后监控的报告。此外，委员会还将定期与OpenAI安全和安全团队的代表进行交流，并向全体董事会定期通报安全和安全事项。这一系列调整，特别是引入外部专家并赋予委员会独立监督权，显示了OpenAI试图增强其安全治理的透明度和问责制。然而，这些调整也发生在公司内部关于安全优先级的争议以及向盈利性结构转变的背景下，其实际效果仍有待观察。OpenAI还从最初的纯粹非营利组织，转变为采用“有上限的利润”（capped-profit）模式，即OpenAI LP，以吸引投资并扩大研发规模，同时仍由非营利母公司OpenAI Inc.进行监督和控制。然而，这一结构也面临挑战和调整，例如在2025年5月宣布的新重组计划中，OpenAI的非营利性质将保持不变，并继续监督和控制转变为公益公司（PBC）的营利实体OpenAI Global LLC。

OpenAI高度重视与外部机构在AI安全领域的合作，并将其视为提升自身安全能力和推动行业安全标准发展的重要途径。公司积极与政府、学术界、行业伙伴以及民间社会组织建立合作关系，共同应对AI发展带来的挑战。例如，OpenAI参与了由行业领导者、政府官员和民间社会成员组成的首尔AI峰会，并与其他公司共同签署了《前沿AI安全承诺》，承诺安全地开发和部署前沿AI模型，并分享风险缓解措施的信息。这种跨部门、跨国界的合作有助于形成更广泛的共识，并共同探索有效的AI治理框架。此外，OpenAI还与微软等科技公司合作，联合披露国家行为者滥用AI技术的情况，以提高整个行业的安全防范意识。在儿童安全保护方面，OpenAI与Thorn、科技联盟（Tech Coalition）、All Tech is Human、Commonsense Media等组织合作，共同践行“安全设计”（Safety by Design）原则。在选举诚信方面，OpenAI也积极与政府和利益相关者合作，确保AI技术在政治领域的负责任应用。这些合作表明OpenAI认识到AI安全的复杂性和系统性，需要多方协同努力。

在与外部机构的博弈方面，主要体现在与监管机构的互动和政策游说上。例如，面对欧盟AI法案的出台，OpenAI一方面承诺遵守法规，另一方面也表达了其对法规可能扼杀创新的担忧。OpenAI CEO Sam Altman曾警告称，过于严格的欧盟法规可能会阻碍AI在欧洲的进步，并使欧洲在全球AI竞争中处于不利地位。尽管如此，OpenAI仍表示将致力于满足欧盟的数据本地化等要求，并在欧洲设立办事处以加强与当地监管机构的沟通和合作。这种既合作又博弈的关系，反映了科技公司在快速发展过程中，需要在创新、合规和市场竞争之间寻求平衡。OpenAI还通过发布其安全框架（如预备框架）和研究成果，试图影响AI治理的讨论方向，并展示其在AI安全领域的领导力和责任感。OpenAI在其“AI in America”经济蓝图中，建议与中东国家（如沙特阿拉伯和阿联酋）建立伙伴关系，以吸引投资并防止资金流向中国，同时提倡建立统一的联邦AI监管框架，反对可能分裂行业和削弱美国竞争力的州级规则。此外，OpenAI还强调与政府合作，分享经验，并支持政府在AI安全和安保方面的专业知识建设，例如与美国AI安全研究所和英国AI安全研究所的合作，以推进安全和能力评估的科学与实践。

OpenAI在整体安全治理框架方面进行了持续的完善，以应对日益增长的AI风险，特别是与AGI相关的风险。其核心框架是准备框架（Preparedness Framework），该框架旨在评估AI模型的安全性，并确定在整个开发和发布过程中所需的安全防护措施。该框架在2025年1月/4月进行了重要更新，引入了更清晰的风险分类和能力等级。更新后的框架将AI模型的能力分为两个明确的阈值：“高能力”（High capability），指可能放大现有严重伤害途径的能力（例如，深度伪造驱动的虚假信息），和“关键能力”（Critical capability），指可能引入前所未有的新严重伤害途径的能力（例如，自我复制代码或逃避人类控制）。达到“高能力”的系统在部署前必须拥有充分的安全防护措施以将相关严重伤害风险降至最低；达到“关键能力”的系统在开发阶段也需要安全防护措施以充分降低相关风险。

为了支持更频繁的模型测试和评估，OpenAI在准备框架中增加了对自动化评估的依赖，建立了一个不断增长的自动化评估套件，以跟上更快的发布节奏，同时也继续进行专家主导的“深度研究”以确保自动化评估的有效性。在安全决策机制方面，OpenAI建立了跨职能的安全咨询小组（Safety Advisory Group, SAG），负责审查模型能力报告，并在模型部署前提出建议。最终决策由公司领导层做出，并受到董事会的监督。这种结构旨在确保安全考量能够融入决策流程，并有高层领导的oversight。OpenAI还强调，随着模型能力的提升，其安全实践也将持续演进，特别是在提升安全测试的严格度和应对国家级攻击者的安全防护能力方面。此外，OpenAI积极参与并推动行业安全标准的建立，例如签署《前沿AI安全承诺》，承诺分享风险缓解措施并发布安全框架。这些举措共同构成了OpenAI日益完善的安全治理体系，旨在确保其AI技术的安全、可靠和有益发展。OpenAI还推出了“安全评估中心”（Safety Evaluations Hub），旨在提高模型测试的透明度和公众参与度。

OpenAI 自 2020 年以来，其安全策略的演进受到多方面因素的驱动，其中政策法规的日益完善、市场竞争的白热化以及伦理考量的不断深化是三个核心驱动力。这些因素相互交织，共同塑造了 OpenAI 在技术安全、应用安全和组织治理等方面的决策与调整。政策法规为 OpenAI 的安全实践提供了外部约束和指引，市场竞争则迫使其在创新速度与安全稳健之间寻求平衡，而日益增长的伦理关切则要求 OpenAI 承担起更大的社会责任，确保 AI 技术的发展符合人类整体利益。这些驱动因素不仅影响着 OpenAI 的内部安全框架和流程，也促使其积极与外部机构合作，共同应对 AI 发展带来的复杂挑战。

政策法规是驱动OpenAI安全策略演进的关键外部因素。全球范围内，特别是欧盟等主要经济体，正在加快制定和实施AI相关的法律法规，对AI的开发、部署和使用提出了明确的合规要求。欧盟AI法案（EU AI Act）是其中的典型代表，该法案基于风险等级对AI系统进行分类管理，并对高风险AI系统和通用人工智能（GPAI）模型（如OpenAI的ChatGPT）设定了严格的义务，包括透明度、数据治理、技术文档、人类 oversight 等方面。OpenAI作为全球领先的AI公司，其产品和服务广泛应用于欧盟市场，因此必须积极应对这些法规带来的挑战。OpenAI已公开表示致力于遵守欧盟AI法案，不仅因为这是法律义务，也因为该法案的目标与其“开发部署安全AI以造福全人类”的使命相符。为了满足合规要求，OpenAI需要调整其内部流程、技术架构和安全措施，例如，为欧洲客户提供数据本地化存储选项，并准备详细的技术文档和模型训练数据摘要。

除了欧盟AI法案，其他国家和地区的监管动态也对OpenAI的安全策略产生影响。例如，美国政府在AI安全方面的行政命令和政策导向，以及各国针对数据隐私、网络安全、内容审核等方面的现有法规，都要求OpenAI在全球运营中保持高度的合规性。OpenAI积极与各国政府合作，参与政策讨论，分享其经验教训，并为其产品（如ChatGPT）在特定领域的应用（如选举）制定符合当地法规的应对措施。政策法规的压力迫使OpenAI更加重视可解释性、问责制和风险管理，推动其建立更完善的安全治理框架，如“预备框架”。同时，OpenAI也会对过于严苛或可能阻碍创新的法规表达关切，并通过行业对话和游说，试图影响政策制定过程，以寻求更平衡的监管环境。这种与政策法规的互动，是OpenAI安全策略不断调整和深化的重要驱动力。例如，意大利数据保护机构Garante曾因OpenAI涉嫌非法使用消费者数据训练模型而提起GDPR投诉，并一度导致ChatGPT在意大利被短暂禁止。这一事件凸显了数据来源的合规性、用户同意的明确性以及数据处理目的的透明度对于AI公司运营的重要性。作为应对，OpenAI更新了其欧洲隐私政策，并为用户提供了更多控制权。

市场竞争是影响OpenAI安全策略演进的另一重要驱动因素。AI领域的竞争日趋激烈，众多科技巨头和初创企业都在积极投入研发，力图在模型能力、应用场景和市场份额上取得领先。这种竞争压力促使OpenAI在追求技术突破和产品迭代的同时，也必须高度重视安全问题，以维持用户信任和市场声誉。一方面，安全性能本身正在成为市场竞争的一个关键维度。用户和开发者越来越倾向于选择那些不仅功能强大，而且安全可靠、符合伦理规范的AI产品和服务。因此，OpenAI在安全方面的投入和成果，如发布安全框架、进行红队测试、加强内容审核等，可以视为其构建竞争优势的一部分。一个在安全方面声誉良好的公司更容易获得用户、合作伙伴和监管机构的认可。

另一方面，激烈的市场竞争也可能对OpenAI的安全决策带来潜在的挑战和权衡。有批评指出，OpenAI可能为了在竞争中保持领先地位，而缩短产品发布周期，从而压缩了安全测试和风险评估的时间。例如，有报道称GPT-5的测试人员在发布前仅有三天时间评估其安全协议。此外，前员工也曾批评公司为了追求“闪亮的产品”而牺牲安全，以及在竞争对手的压力下匆忙发布产品。OpenAI CEO Sam Altman也承认，来自如中国AI实验室DeepSeek等竞争对手的压力，使得OpenAI的技术领先优势减弱，并表示公司将“加快一些发布”以更好地竞争。这种在速度与安全之间的平衡，是OpenAI在激烈市场竞争中必须面对的持续挑战。为了应对这种压力，OpenAI可能会调整其安全策略，例如增加自动化评估的比例，但这又可能引发对评估充分性和 nuanced ethical dilemmas 处理能力的担忧。因此，市场竞争在推动OpenAI提升安全标准的同时，也可能在某些情况下对其安全实践的深度和广度构成压力。OpenAI在其《预备框架》中明确表示，如果其他前沿AI开发者发布了不具备同等安全保护措施的高风险系统，OpenAI可能会在严格评估后调整自身的安全要求。

伦理考量是OpenAI安全策略演进的内在驱动力，贯穿于其技术研发、产品部署和公司治理的各个方面。OpenAI自成立之初就将“确保通用人工智能造福全人类”作为其核心使命，这本身就蕴含着深刻的伦理承诺。随着AI技术的飞速发展及其社会影响的日益凸显，OpenAI对AI伦理问题的认识也在不断深化，并积极将其融入实际的安全实践中。这包括对AI潜在滥用风险的警惕，如生成虚假信息、侵犯隐私、加剧偏见与歧视、以及被用于恶意目的（如网络攻击、制造危险品等）。OpenAI通过其“预备框架”对CBRN（化学、生物、放射性和核）风险进行评估，并与外部专家合作评估语言模型对影响力行动的影响，都体现了其对AI潜在危害的严肃对待。

在具体的应用层面，OpenAI特别关注儿童保护、选举诚信等具有重大伦理意义的领域。公司投入资源开发内置的安全防护措施，防止其产品对儿童造成潜在伤害，并与专业组织合作打击儿童性虐待材料。在选举方面，OpenAI积极采取措施确保AI生成内容的透明度，防止其被用于误导选民，并引导用户获取准确的投票信息。此外，OpenAI在模型对齐方面的研究，致力于使AI系统的行为与人类的意图和价值观保持一致，这本身就是一个核心的伦理挑战。公司还关注AI发展可能带来的更广泛的社会影响，例如对就业市场的影响，并对此进行研究评估。OpenAI在制定使用政策时，也会明确禁止那些违反伦理规范的应用，例如禁止GPTs被设计用于培养浪漫伴侣关系，以防止用户对AI产生不健康的情感依赖。这些举措表明，伦理考量已不仅仅是口号，而是实实在在地影响着OpenAI的技术路线、产品设计和安全决策。然而，OpenAI内部对于安全与伦理的重视程度并非一成不变，也经历了内部的讨论和博弈。例如，其“超级对齐”（Superalignment）团队的动荡，包括核心研究人员的离职，暴露了公司内部在核心优先事项上的分歧。前员工指责OpenAI领导层在追求AGI的过程中，未能将安全放在首位。