如何让 35B 模型做好财报分析与复杂办公?小红书 AllSpark 提出 Navalia
Cowork Agent要在文件与工具构成的工作环境中自主规划、获取信息并持续执行。如何规模化构造可靠的训练任务,并让模型从长程交互中学习,是其中的关键挑战。
小红书AllSpark团队提出Navalia,以企业财报构造证据可追溯、答案可验证、具有真实多步依赖的分析任务,结合轨迹采集与长程后训练,形成从数据到训练的完整配方。
基于Qwen3.6-35B-A3B,Navalia在涵盖企业级文档推理、金融检索与研究分析、长程专业任务执行的五项基准上均优于基座模型,各项得分提升13.07–23.06个百分点。
论文题目:
Navalia: Advancing Cowork Agents through Verifiable Task Synthesis and Long-Horizon Post-Training
论文链接:
https://arxiv.org/abs/2610.26887
图 1:Navalia 与基座模型在五项基准上的表现。各基准采用各自的评分指标,数值均为百分数。
///
写在前面
训练Cowork Agent,首先要给它一个能够开展工作的环境:有文件可查,有工具可用,也有需要连续操作才能完成的任务。随着训练规模扩大,这些环境还要持续覆盖不同的材料、业务约束和工作流程。
难点也随之出现。一个环境可以精心搭建,成千上万个训练实例如何持续产生?生成出来的任务,是否有充分的材料支撑,又能否提供可靠的训练反馈?
环境如何扩展。真实办公资料往往不公开,不同岗位的文件组织和工作流程也差异很大。人工逐个搭建环境,难以满足规模化训练对环境数量与多样性的需求,因此需要自动构建可供Agent反复交互、可靠执行任务的工作环境。
任务如何验证。 在构建的环境中,合成任务需要有充分的证据支撑,参考答案需要经过核验,评分机制也需准确判断模型回答的正确性,从而为轨迹筛选和强化学习提供可靠反馈。
交互如何用于训练。Agent在环境中积累的经验,需要转化为有效的模型更新。高质量示范要经过筛选,长轨迹要适配有限的上下文窗口,最终结果也要反馈到前面的检索、分析和工具选择。环境、任务与训练因此需要一起设计。
Navalia 以跨文档金融分析为切入点,基于企业财报自动构建文档环境与可验证的分析任务,结合轨迹采集与长程后训练,提供一套从数据到模型的完整配方。
01
把财报组织成可扩展的训练环境
Navalia首先为同一份报告建立文档与事实两种视图。文档视图保留正文、标题和表格,供Agent通过工具检索;事实视图则将报告中的财务数据整理为结构化记录,明确每个数值对应的指标定义、单位、报告期间、报告口径及原文出处。系统利用事实视图选择证据、构造任务并核验答案,Agent则通过文档视图自主查找资料、完成分析。
Navalia 可以基于同一批财报构造不同的分析任务。系统先选择跨期聚合、趋势比较、统计分析或回归等分析方法,再确定公司、报告期间和财务指标,并检查相关文档是否满足任务的数据需求。跨期分析要求覆盖指定的报告期间,跨公司分析则要求不同公司在同一期间的数据具有可比性;不满足要求时,系统会重新采样任务配置。
通过检查后,候选文档与同公司其他年份或季度、同行公司的干扰文档共同组成任务环境。每项任务平均包含5.85份支撑文档和208.69份干扰文档,模型需要从中辨别并找齐有效材料。通过改变公司、期间、文档组合和分析方法,系统可以继续构造新的任务环境。
02
先把证据和计算理清楚,再生成问题
环境确定后,下一步是选出这道题真正需要的证据。证据选择不能只看名称。 同一个财务概念,在不同报告里可能有不同叫法;名称相近的指标,口径又未必一致。
Navalia从候选文档的完整事实集合出发,让LLM结合语义与上下文判断哪些记录满足计算要求,不使用关键词或固定指标规则预筛。事实较多时,先在每份文档内部做语义预选,再跨文档联合判断,减少遗漏。多步题还需要真实的计算依赖。比如,先根据多年数据拟合趋势,再用拟合结果预测下一期数值,最后与最近一期实际值比较。后面的计算必须使用前面的结果。Navalia将这些关系写进可执行计算链,并由预先实现的数值程序完成回归、预测等复杂运算,保存中间结果与证据来源。
有了证据和参考答案,系统才生成题面。 公司、期间、指标口径和计算要求等条件都会保留在问题中。独立复核模型随后重新求解,检查问题、证据与答案能否对应;程序化检查再核对报告期间、单位和步骤依赖等条件。只有同时通过复核与检查的任务,才进入后续训练。
图2:Navalia的环境构建、任务合成与后训练流程。
03
长程后训练:SFT与RL
Navalia首先利用强教师模型,在任务对应的文档环境中自主检索、分析和作答,采集完整交互轨迹。轨迹经过答案正确性、工具调用有效性和最低交互轮数筛选后,再按分析算子或组合模板分组,均衡采样,用于冷启动监督微调(SFT)。各轮回复还会接受质量评估:低质量回复保留在后续交互的上下文中,但不计算对应的监督损失。
长程交互中,模型回复与工具返回不断累积,需要通过上下文管理控制可见历史。Navalia在教师轨迹采集与RL在线采样中采用轻量化 ReAct Harness,并统一使用FIFO 上下文管理:窗口最多保留30轮交互,以 10轮为步长更新,较早的交互依次退出窗口。
在论文的对照设置中,相较于逐轮滑动窗口,FIFO将每条轨迹的平均样本数从40.52降至3.90,减少90.4%;OfficeQA Pro准确率由 49.96%提升至51.56%。这一结果表明,FIFO在减少训练样本数量的同时,保持了下游任务表现。
完成 SFT 后,Navalia进入强化学习(RL)阶段。训练前,根据冷启动模型的采样成功率筛选任务,将训练集中于“确实可解、但当前模型还不能稳定完成”的任务,再通过在线交互继续优化策略。
长轨迹被划分为多个片段后,早期行动如何获得反馈?Navalia根据完整轨迹的最终任务奖励计算组相对优势,并在同一轨迹的所有片段间共享。这样,前面的证据检索、工具选择和分析行为,也能获得基于最终任务结果的训练信号。对于因单次回复达到生成长度上限而终止的轨迹,Navalia仍将其最终奖励纳入优势计算与动态采样统计,但屏蔽整条轨迹的策略损失,减少截断失败对前期有效探索的不当惩罚。
04
五项基准,检验能力能否迁移
团队在五项基准上检验这套配方的效果。OfficeQA Pro考察大规模文档库中的证据检索与数值推理;FinSearchComp 和 Finance Agent Benchmark 面向金融检索与研究分析;APEX-Agents-AA 和 Workspace-Bench-Lite 则进一步考察跨应用专业任务与文件工作空间中的长程执行。
图3:Navalia在五大基准上的主结果。
与同配置评测的较大模型相比,Navalia五项成绩均超过Qwen3.5-397B-A17B;在Finance Agent Benchmark上超过Kimi-K2.6 2.61 个百分点,在Workspace-Bench-Lite上超过DeepSeek-V4-Flash 1.19个百分点。针对性的任务构造与后训练,让35B模型在这些任务上具备了更强的竞争力。
性能提升从何而来?对OfficeQA Pro交互轨迹的进一步分析显示,训练后,找齐全部支撑文档的任务比例从45.4%升至 69.8%,支撑文档召回率从50.8%升至74.7%。这表明Navalia能够更完整地获取任务所需的关键证据,为后续分析与正确作答提供更充分的依据。
图4:Navalia与基座模型在OfficeQA Pro上的工具使用、证据检索与任务准确率对比。
训练任务来自企业财报,提升则延伸到了更广泛的专业工作与通用办公场景。在采用与训练阶段不同Harness的APEX-Agents-AA和 Workspace-Bench-Lite上,Navalia较基座模型分别提升13.20和13.07个百分点。这种跨任务、跨Harness的泛化表现,体现了模型在文档检索、证据整合与长程工具使用方面的能力提升。
///
作者简介
刘恒齐,AllSpark Pevek组算法实习生,北京邮电大学人工智能学院在读硕士生,主要研究方向为Agentic后训练与Search/Cowork Agents。
沐川,AllSpark Pevek组负责人。