ReaderMX.
京东零售技术

xLLM社区重磅首秀，揭秘大模型推理全景图与开源AI Infra生态

京京东零售技术约 3 分钟
成立三个月的xLLM社区，计划于12月6日在北京氪空间（学院8号）创新中心举办以“共建开源AI Infra生态”为主题的线下Meetup。本次活动将首次对外介绍xLLM社区，并系统分享其在技术愿景、核心规划、阶段进展以及社区生态方面的实践与思考，希望为业界提供大模型推理引擎的一种可行路径。

xLLM：超越单一场景的下一代推理引擎框架

过去，AI Infra基础设施的核心技术长期依赖国外开源框架（如vLLM、SGLang、TensorRT-LLM等）。随着xLLM等推理引擎的开源，将大大加速国产全栈AI Infra生态建设。
区别于当前行业广泛采用的vLLM（主要聚焦大语言模型与多模态场景），xLLM定位为更强大的推理引擎框架。其设计之初便着眼于支持多元化、复杂化的生成式AI场景，核心能力覆盖：大语言模型(LLM)、多模态理解与生成、生成式推荐系统、文生图(Text-to-Image)和文生视频(Text-to-Video)等前沿领域。本次Meetup将首次系统阐述xLLM如何通过其创新架构，为这些丰富场景提供统一、高效、可扩展的推理支持，以及未来的技术演进规划。据悉，该成果已应用于11.11京东大促等核心零售业务场景，助力业务效率提升5倍以上，机器成本降低90%，有力保障了关键业务在洪峰流量下的平稳流畅运行。

开放生态：模型与硬件的交响曲

此次活动将首次全景式展示xLLM框架背后的核心技术。目前，xLLM框架集成了业界领先的开源KV Cache存储解决方案——Mooncake。本次meetup上，清华大学副教授，Mooncake发起人章明星将揭秘Mooncake如何为大规模、低延迟的推理任务提供关键的存储加速。
此外，还特别邀请到北京智源人工智能研究院研发经理门春雷，分享在计算单元与算子优化、特别是编译优化方面的前沿经验，探讨如何榨干硬件潜力，实现推理速度的飞跃。
成立之初，xLLM秉持开放理念，致力于构建繁荣生态。在模型层，xLLM推理框架具备强大的模型接入能力，可灵活对接多种主流大模型。目前，xLLM已在GitHub等平台开源，全球开发者都可以下载使用。
硬件层方面，xLLM框架设计兼顾通用性与适配性，为未来更广泛的硬件支持奠定基础。本次Meetup将重点介绍与国产算力领跑者昇腾在统一内存池化方案上的应用实践，展示其在高性能、低成本推理上的潜力。未来，还会和清华、北大、中科大、北航、硬件厂商等产学研生态伙伴一起，推动AI技术生态的协同创新和行业智能化升级。

诚邀参与，共绘全景

xLLM社区是一个专注于打造下一代高性能、通用化大模型推理引擎的开源技术社区。成立三个月以来，汇聚了众多来自顶尖科技公司与研究机构的开发者与专家，致力于突破大模型落地应用在性能、成本、场景多样性上的瓶颈，推动AI技术的普惠化发展。
此次Meetup，是一次技术实力的集中展示，更是一张面向未来的“大模型推理全景图”的绘制起点。我们诚挚邀请关注大模型技术发展、AI基础设施、高性能计算、推荐系统以及国产化AI解决方案的开发者、研究者、企业技术决策者与行业伙伴莅临现场，共同探讨交流。
Image

KEEP THE THREAD GOING

更多来源文章

CVPR 2026｜Oxygen XR 团队在原生鱼眼高斯泼溅技术上带来新突破

京东Oxygen XR团队联合清华大学提出DirectFisheye-GS框架，创新性地将鱼眼模型原生嵌入到3D高斯泼溅管线中，实现了对鱼眼图像的直接、无损处理。此外，该框架引入了跨视角联合优化策略，解决了单视角随机优化引起的高斯形状畸变及视角间几何/光度不一致问题。

阅读全文

Oxygen AIIC：京东首发面向百亿商品的工业级大模型商品中心全解析

目前，Oxygen AIIC已覆盖京东万级类目，支撑单日亿级数据更新，沉淀千亿级商品知识资产，商品信息丰富度提升至原有的3.35倍。Oxygen AIIC 已在搜索、推荐、运营、品类规划等核心业务中全面落地，并取得了显著的规模化正向收益。

阅读全文