2023-10-27 17:40:35
,
, , 辽宁
,
, , 辽宁
KEEP THE THREAD GOING
百万 token 输入,首字还要等多久?小红书 DoSA 保持原始评分函数下的精确 Top-K,在三款模型上将首字等待缩短约 37%~48%。
阅读全文 ↗:提速不降智,小红书DoSA将首token延迟无损减少近一半从自己生成的经验中学习,已成为大语言模型后训练的重要方式。 强化学习与 on-policy 蒸馏都依赖模型在训练中生成的 rollout。
阅读全文 ↗:训练中自己生成的 Rollout,模型还能学到什么?小红书 AllSpark 提出 ROSS球员动作连贯、画面细节清楚,精彩瞬间更有临场感。结合世界杯实践,拆解音画质增强、编码转码与多端播放的技术突破。
阅读全文 ↗:【世界杯专题03】让 4K 抵达每一块屏幕:世界杯音画质保障实战一份 Skill 能告诉 Agent 如何使用工具,但怎样把它变成有挑战、能执行、可评估的训练任务?小红书 AllSpark 提出 Skill2Env,从能力需求出发合成环境,再根据执行反馈逐步增加挑战。使用 1.5K 条轨迹微调,模型在七项 Agent 基准上均获提升。
阅读全文 ↗:如何把 Skills 变成 Agent 的训练场?小红书 AllSpark 提出 Skill2Env从数据库检索信息,到阅读文档、更新记录和发送通知,Agent 如何学会完成跨应用业务流程任务?小红书 AllSpark 提出 CompoWorld,在组合层面扩展环境,将 448 个可复用服务组合成训练环境,在八项 Agent 基准上较基座模型平均提升 9.17 分。
阅读全文 ↗:从单服务到跨应用工作流:小红书 AllSpark 提出 CompoWorld,探索组合式环境扩展AllSpark 团队联合商业算法提出 Vela,探索将经过匿名化、脱敏处理的行为数据转化为更有挑战性的训练任务。实验中,35B 模型在用户理解主基准上提升 11.5 分,五项通用基准平均提升 4.0 分,并为后续强化学习提供了更强的能力基础。
阅读全文 ↗:从海量用户行为中挖掘 LLM 智能,十项基准全线提升