2023“技术融合 前端无界”京东&百度前端技术沙龙圆满落幕
2023年7月18日,京东&百度前端技术沙龙 (技术融合·前端无界) 在北京圆满落幕。本届沙龙由京东零售技术委员会前端开发通道主办,大会特邀百度技术专家,围绕大语言模型应用、端智能、低代码以及跨端技术等主题开展分享与技术实践交流,并就开发者如何运用新技术、新应用为业务带来增长等话题展开了广泛探讨。
前端技术专家云集,共话融合与无界
沙龙活动中,京东零售前端技术通道会长谭丁强对各位技术专家的到来表达了热烈欢迎和衷心感谢。他表示,京东和百度一直以来有着非常好的技术合作基础,在大语言模型高速进化的当下,大家非常有必要一起交流和学习。希望本次沙龙搭建起行业沟通的桥梁,开拓大家的视野,培养更强的技术 Sense。
百度文心一言 App 技术负责人樊中恺发表致辞。他分享了最近半年自己的一个心得,大语言模型时代暴发户心理状态的起起伏伏。他认为很多事情一路做来,需要找很多理由驱动,但大语言模型时代完全不同,"惶惶不可终日"下的高度竞争和迭代,更让我们坚定这条路!同时带给程序员很大的一个变化是,需要具备更强的产品思维,在可预期的将来,很多的人的工作会从实现一个功能变成指导大语言模型实现一个功能!今天我们的分享都是能跟大语言模型工作契合的,有一个很好的主体背景,各个子方向也都非常不错。希望各个子方向的技术专家尽情地展示自己,给大家带来一场知识的盛宴。也感谢京东的邀请,能够有一个这么好的机会,各位专家能够分享自己的所知所学!
本次京东&百度前端技术沙龙围绕以下主题展开:
【京东自研跨端引擎方案介绍】
沙龙活动中,与会嘉宾首先围绕跨端渲染展开了交流,并对浏览器渲染、原生渲染、Flutter 类渲染各自的优势进行了对比分析。其中,京东展示的自研跨端引擎方案,其技术方案设计、流程设计收获了一众嘉宾的认可。多位嘉宾表示,期待着未来其在业务场景下的落地。
廖焕宇介绍了解决首屏抖动问题,实现快渲染、快速上线、简单交互,其团队自研了TalosLite动态化跨端框架。TalosLite在百度业务场景应用广泛,如抗疫,惠生活商城,数字人项目等。同时讲解了TalosLite的构建思路,基于Talos框架做减法,去除了JS引擎。在模板描述上,使用JSON作为DSL,SDK内置基本UI组件和原子事件,并配合表达式引擎,再经由服务端的预热处理,提升客户端的渲染速度,目前该框架在百度内部主要用于搭建各种卡片业务。
袁晗光首先抛出了目前双端同步开发相同业务逻辑所面临的种种问题,其高昂的编码成本,逻辑差异,后期的升级维护、测试的高成本都令人烦恼。面对这个问题他们在 KMM 的领域做了深度的研究和实践。为什么选择 KMM,与同类跨平台框架对比KMM 的优势有哪些,分享人解答相关问题,如包体积更小,门槛低,强互操作性等。为了让大家能够快速认识这些优势,也介绍了 KMM 的开发过程,特定的 API 怎么实现,如果利用好现有 iOS、Android 底层 API、现有组件,在已有的工程中如何集成 KMM 等。更深入的重点技术,如多线程 - 模型、状态共享、可变性、Atomic 类,网络、数据库等基础库建设也做了介绍。最开始 KMM 主要在百度矩阵 App 上试验,充分验证后,目前已经在百度 App 中应用,有 10 多 W 行代码的应用。
ChatGPT 后边的 GPT 是什么意思?估计很多人都没思考过这个问题。其实,GPT是 Generative,Pretrained,Transform 的简写。沙龙中,京东方面就如何利用 ChatGPT 来为工作提效,结合自身实践分享了其在提升编码体验,IDE 编码辅助的强大能力。
IDE 编码辅助重点介绍了内部自研的 VSCode 插件 HiBox,利用数据流实现流式输出,具有提示词沉淀,前端知识问答,沉浸式辅助编码等强大能力。验证效果惊人,在小程序重构为 Taro 的项目中提效约 30%。在此基础上,怎么让 ChatGPT 与前端知识库更好的结合,响应性能更快,也做了详细的介绍,训练模型路径的选择对比,如何优化 embedding 效果等,并演示了知识库的效果。最后大语言模型爆发的当下,其未来和展望的思考,总结升华:替代你的可能不是 AI,而是会用 AI 的人。
首先,樊中恺今之视昔,从产品角度思考目前我们所处的时代,对比今天和过去在用户产品关系,需求来源,输入变化,服务提供方式,交互,迭代等方面的差异。引申出对于 AI Native 的定义,视角一:做任何需求,任何功能的时候,都要想到 AI 的存在;视角二:AI Native 应用对于用户来说是无感知的;如何走在时代的前沿,打造一款 AI 原生的 C 端产品,其从马斯洛的需求层次理论引申,提出了 AI 如何满足各层次需求。AI Native 的产品思路,内容如何生产、内容质量判断、内容如何分发、内容如何展现。最后如何成为一名合格的 Native AI 工程师,给出了自己的经验和建议:选择并使用合适的模型,合理并充分使用上下文,Prompt Engineer。
聚焦端智能的发展,京东方面表示,端智能目前已经在京东 App 中多个场景得到了应用,包括推荐、搜索重排和结算风控等。沙龙中,京东方面还分享了端智能系统的架构和其运行流程,大体分为云、边、端。其中,云主要负责模型的训练,生产和转化;边主要负责模型的管理和分发;端上则主要以 SDK 的形式内嵌 App 中,进行模型的实际推理。在端智能 SDK 的建设过程中,在遇到的挑战中,如计算性能、灵活性、稳定性、安全性等方面,分享人均做了解答。
端侧模型计算是目前 AI 领域的前沿热点方向,国内外 AI 团队,都在投入大量精力打造端云协同的 AI 技术体系。端计算在零售业务有大量应用前景,目前已在多个核心场景落地,取得了显著的业务收益。沙龙中,京东方面重点介绍了两大业务场景下的应用,一是在搜推场景下的重排;二是风控场景下的时效性控制在毫秒级别,并就重点的模型调试及校验、特征计算、模型推理等内容进行了深入分享。
活动中,京东方面还向与会嘉宾们介绍了京东活动、频道页面可视化搭建平台“通天塔”,从全代码开发到开启搭建,到目前的开放搭建状态,进行了详细解析。
现在一次用户搭建,即可输出 H5、原生、PC 等多端页面。其背后支撑的平台架构和技术实现细节介绍。如何提升页面搭建效率和体验,其过程积累了非常多宝贵的经验,分享人介绍了灵活搭建与个性化开发之间的平衡。通过搭建楼层应用案例的分享,也带我们切实感受到了通天塔强大的搭建能力,像互动小游戏、抽奖页面的搭建,也阐明了搭建思路和实践。未来通天塔发展方向展望,涵盖设计前端一体化,及智能生成等,让我们一起期待!
京东前端技术沙龙已陪伴大家走过三年,未来,沙龙还将推出更多的优质内容,帮助前端研发开展行业交流,加速技术创新,也希望通过搭建技术沙龙平台,各大厂商可以互相学习、开拓思路、碰撞技术灵感,建立行业标准和规范,促进前端领域推动行业发展。