默克如何通过Langfuse在全球服务80多个AI项目团队
Felix Krauth约 6 分钟本文字数：3287；估计阅读时间：9 分钟
作者：Felix Krauth
来源：https://langfuse.com/users/merckgroup
了解 Merck 如何利用 Langfuse 将黑盒模型转变为可审计、可优化的资产，为全球 80 多个项目团队提供支持。
衷心感谢 Merck 团队！没有他们，这个故事将无从谈起：Harsha Gurulingappa（AI 与机器学习实践全球负责人）、Shikhar Bhardwaj（AI-ML 服务产品负责人）、Shashi Kumar（高级 AI-ML 架构师）以及 Geoffrey Dominic Lobo（AI-ML 工程师）。
Merck Group 成立于 1668 年，总部位于德国达姆施塔特，是全球历史最悠久的化工和制药公司，业务遍及 60 多个国家，拥有约 66,000 名员工。Merck 拥有三大核心业务板块——医疗保健、生命科学和电子科技——提供处方药、生物制药创新、实验室解决方案以及面向高科技行业的先进材料。
在 Merck，由 Harsha Gurulingappa 领导的 AI 与机器学习团队，集中管理并协调各类平台和工具，服务于所有三大业务板块以及研发、制造、商业、安全等所有职能部门。全球任何 Merck 团队在构建 AI 应用时，只要需要 LLM 可观测性 (LLM Observability)，便可获得 Langfuse 访问权限并在此进行开发。
为了在全球范围内预置（provision）各类平台和工具，Merck 自主构建了一个“用例门户”。组织内的开发者可以在该门户中记录其正在开发的解决方案，并申请访问 Langfuse 等平台。
一旦获得批准，自动化流水线便会自动预置所有工具，并启动适合该项目的计算资源。这得益于 Langfuse 的 API 优先理念 (API-first philosophy)，甚至在用户管理和 API 密钥编排方面亦是如此。
目前，Merck 拥有 300 多个由生成式 AI (GenAI) 驱动的用例，涵盖概念验证 (POC)、开发和生产等不同成熟度级别。其中约 80 个用例正在 Langfuse 上运行，这意味着 Merck 有超过 200 名员工定期使用 Langfuse 进行构建和协作。
“只有当我们能够了解其底层运行机制时，生成式 AI (Generative AI) 才能赢得企业的信任。Langfuse 使我们能够实时追踪每一个提示、响应、成本和延迟，将黑盒模型转化为可审计、可优化的资产。”
——Walid Mehanna, Merck 首席数据与 AI 官
以下是 Merck 平台团队青睐的用例和实现：
• 电子实验室助手 (Electronics Lab Assistant)： 这是一款聊天机器人代理，旨在为 Merck Electronics 的研发知识提供无缝、安全的访问。通过连接 SharePoint 和电子实验笔记本上超过 8 万份多样化文档和实验数据，研发科学家可以利用内部历史经验高效设计未来材料并规划新实验。通过采用测试驱动开发方法并直接整合用户反馈，该助手实现了以用户为中心、在大规模场景下稳定高效的生产性应用。
• 生成式医疗洞察 (Generative Medical Insights)： 这是一款多代理的 Web 应用，充当 AI 协同创作者，协助医疗信息团队起草并更新针对医疗专业人员 (HCPs) 就 Merck 产品提出的非主动询问的回应文件 (RD)。通过加速内容创建和更新，它缩短了周转时间，简化了医疗信息工作流程，并提高了与 HCPs 的沟通效率。
• myGPT Suite： 这是 Merck 内部的企业 AI 助手，为组织内 27,000 名常规用户提供服务。它提供集中式的 AI 能力，以支持 Merck 全球运营中的各类业务职能和工作流程。
• 随着众多团队积极构建 AI 用例，平台团队对哪些方案奏效以及哪些模式正在浮现有了清晰的认识。
• 迄今为止，绝大多数用例是 RAG 应用 ，它们通常会整合不同的数据源。
• 紧随其后的是 专用编码助手 、 SQL 分析工具 和 翻译与内容改进工具 。
为 Merck 这样的全球性企业选择可观测性 (Observability) 提供商，需要一套高度结构化、多步骤的流程来评估市场上的所有解决方案。
Langfuse 入选有以下几个原因：
• 在单一平台上支持数百种用例的灵活性 ，避免平台冗余和技术孤岛。
• 深度集成能力： Merck 的可观测性 (Observability) 平台需要能够从任何类型的应用和开发平台访问（ 查看集成 ）。
• 编程编排和管理能力： 自动化管理和配置数百个可能基于 Langfuse 构建的团队，需要深度编程访问能力。
• 清晰详尽的文档： 所有功能、边缘情况和代码示例都必须有最新的、详尽的文档，这一点至关重要。
• 开发者体验与业务用户友好性的平衡： 用户可根据其角色和经验深入探索。Langfuse 既能满足开发者的需求，也能满足单元经理的需求。
• 自托管与安全性： Langfuse 使 Merck 能够将敏感的制药数据保留在其自有基础设施内，符合严格的企业和制药行业安全标准以及数据主权要求。
• 公开 Roadmap 和快速迭代能力： Harsha Gurulingappa 及其团队对 Langfuse 如何管理公开的 Roadmap 以及其快速的发布迭代（shipping velocity）印象深刻。
在 Merck 内部，AI (Artificial Intelligence) 的采用率正在急剧上升，每月都有越来越多的用例被投入生产环境。Harsha Gurulingappa 表示：“我们预计短期内不会出现任何饱和现象。”
鉴于可观测性 (Observability) 已在全球范围内得到广泛采用，该团队将转向更复杂的企业级 LLM (Large Language Model) 评估系统，该系统也将由 Langfuse 提供支持。其目标是创建一个 Merck 基准数据集。每个处于生产环境中的 AI 用例都可以生成经过验证的、包含预期结果与实际结果对比的数据点，以便添加到 Langfuse 的数据集 (Datasets) 中。
“Langfuse 让我们的团队能够并排对比模型，定义评估标准，在幻觉（hallucinations）进入生产环境之前将其发现，并为每个结果关联质量和成本指标——所有这些操作，都无需将敏感数据暴露给第三方云平台。”
——Walid Mehanna，Merck 首席数据与人工智能官
01 迭代速度
Langfuse 的实时追踪与调试能力使开发者能够迅速识别并修复问题，将开发周期从数周缩短到数天。
02 合规性证据
Langfuse 为每一次 AI 交互提供了全面的审计追踪和详细文档，确保 Merck 满足监管要求，并维护 AI 治理的透明度。
03 降低总拥有成本
通过将可观测性集中至单一平台并消除冗余工具，Langfuse 降低了 Merck 在 300 多个 AI 用例中的基础设施成本和运营开销。
/END/
征稿启示
面向社区长期正文，文章内容包括但不限于关于 ClickHouse 的技术研究、项目实践和创新做法等。建议行文风格干货输出&图文并茂。质量合格的文章将会发布在本公众号，优秀者也有机会推荐到 ClickHouse 官网。请将文章稿件的 WORD 版本发邮件至：[email protected]
关于我们
ClickHouse（clickhouse.com) 是面向 AI 时代打造的高性能实时分析数据库，能够以极致性能处理海量数据分析任务。凭借高并发、低延迟和云原生架构，ClickHouse 广泛应用于可观测性、数据仓库、实时分析及 AI 数据基础设施等场景。我们致力于帮助企业在公有云平台上构建安全、弹性且高性价比的实时分析与 AI 数据平台，加速释放数据价值，推动智能化创新与数字化转型。目前，Trip.com、DiDi、Meta、Sony、Netflix、Deutsche Bank、Sierra、Cloudflare 等全球领先企业均在使用 ClickHouse 支撑其关键业务和数据分析平台。