速递｜Meta限制员工使用Claude Code和Codex，避免无意识蒸馏竞争对手

图片来源：ChatGPT

随着 Meta Platforms 试图摆脱来自 Anthropic 和 OpenAI 的昂贵 AI 编码应用，它正面临一项艰难挑战：防止员工过度依赖那些外部工具来构建内部替代方案。

《The Information》审阅的内部指南显示，Meta 正对其应用型AI工程部的工程师使用 Anthropic 的 Claude Code 和 OpenAI 的 Codex 施加严格限制。一份内部备忘录甚至指出团队暂停使用这些模型的部分任务，理由是担心它们的输出可能渗入 Meta 的训练数据——该文件警告这可能会引发“与合作公司之间的严重升级”。

Meta（一直是 Claude Code 的最大客户之一）今年早些时候成立了应用 AI 工程团队，任务是改进 Meta 自家的编码助手 MetaCode。这里的一大重点是构建高质量的数据集和编程挑战，工程师用这些来训练和测试其用于编码工作的模型。虽然 Meta 允许该团队在某些情况下使用外部 AI 工具，但要求工程师自行设计这些挑战，并依靠自身的技术专长，而不是 AI 生成的概念。

这些内部指南——据一位知情人士称起草于五月并仍在生效——显示 Meta 担心无意中进行蒸馏（distillation），即基于竞争对手模型输出来开发公司自己的 AI 模型的做法。此类行为可能违反对 Claude 和 Codex 的使用协议。

蒸馏本质上让开发者能从他人在构建模型所需的数据、计算能力和研究专长上的巨大投入中受益，这一做法在持续引发争议。

埃隆·马斯克在四月针对他对 OpenAI 的诉讼审判中被迫承认，隶属于其火箭公司 SpaceX 的 xAI“部分”对 OpenAI 的模型进行了蒸馏 。

OpenAI、Anthropic 和 Google 的 AI 模型服务条款明确禁止使用模型输出来构建竞争系统。

Meta 的内部沟通记录中并未记载任何员工具体违反这些规定的情况。Meta 的一位发言人表示：“我们有明确的政策来规范团队如何使用人工智能工具，确保他们能够以负责任的方式专注于高影响力的工作。”

尽管如此，近期的指南显示，随着 Meta 加速改进其 AI 产品并为其在 AI 设施和装备上的巨大开支找理由，管理层觉得有必要为员工明确更多具体的限制。

大力削减 AI 成本的推动

减少对外部 AI 工具的依赖并将更多开发工作转移到此前名为 DevMate 的 MetaCode，对于面临迅速膨胀的 AI 账单的 Meta 而言变得越来越重要。根据公司最近的一份备忘录，Meta 今年仅在内部 AI 使用上的支出就将达到数十亿美元。并且在公司大力推动 AI 采用之后，公司现在正试图通过对员工的代币使用引入限制来遏制不断上升的成本。

Meta 允许应用 AI 工程团队的成员将 AI 工具用于一些例行工作，例如设置工作流、整理代码和文件，以及为他们正在开发的内部 AI 工具（如自动化检查）构建测试基础设施。这是指南中所称的“测试支架”和“解决方案校准”的一部分，基本上就是构建和调试用于评估模型表现的系统。

即便在这些情况下，人类也必须在使用任何由 AI 产生的内容之前进行仔细审查。指南严格禁止使用外部 AI 模型的输出创建用于测试其模型的编程挑战，指出“这明确属于工程师不再掌控局面的情况”，并且“我们不希望任务来源于模型”。

另一个限制是工程师不得使用人工智能来查找源代码中的错误，或基于代码分析生成任务想法。换句话说，不允许人工智能帮助决定首先应该测试哪些问题。

此外，指南指出，如果正在测试的内部模型能够访问这些材料，则不能将任何 AI 生成的材料放入基础设施容器中——这些容器包含一个应用程序及其运行所需的一切，包括代码和库。

走钢丝

Meta 的文件显示，专家称，那些在开发过程中使用竞争对手 AI 模型的科技公司实际上是在走一场钢丝，努力从这些模型中获得好处，同时又避免这些贡献被纳入自己的系统。

“Meta 的内部文件几乎就是那条钢丝的地图，”学者兼科技法律顾问马克·莱泽说。

去年，Anthropic 切断了 OpenAI 对 Claude 的应用程序编程接口访问 。OpenAI 表示其使用该 API 来评估 Claude 的能力及其在安全测试中的表现。发言人当时表示，测试其他 AI 系统以基准进展是“行业标准”。

Meta 上个月的备忘录暗示，有人使用 AI 来创建或编辑评估任务，导致无法明确判断是人类还是模型应对此负责。

Meta 决定限制对 Claude 和 Codex 的使用，部分原因是担心第三方模型的输出可能会间接进入训练数据，从而削弱质量并对外部合作伙伴造成问题。公司还引入了暂停措施，以加强治理，并允许 Meta 人工智能部门的研究人员和应用人工智能组织的负责人确保这些方法符合合规标准。

参考资料：

https://www.theinformation.com/articles/internal-docs-show-meta-putting-limits-claude-codex-fearing-distillation?rc=ji9vez