ThinkingBox不只用数据库结果给智能体打分,也开始将这类检查结果用于训练奖励。微软与Hugging Face于2026年10月22日在Hugging Face Blog联合发文介绍这一方法,并宣布ThinkingBox-Training已在GitHub开放。
它检查的是智能体究竟做成了什么,而不是是否声称完成。ThinkingBox-Bench包含507项任务,每项都提供真实后端和一组工具,随后将数据库最终状态与预期结果比较。文章举例说,一个模型曾把客户工单标为已解决,但相关的承运商异常仍未关闭:看起来像样的九次工具调用,最终留下了一行错误的数据库记录。
对大多数任务,这种可执行检查能直接根据数据库最终状态返回1或0。团队据此构建训练奖励,但训练任务取自ThinkingBox-Bench之外、采用ThinkingBox格式的任务池,并非直接拿这507项基准任务训练。
任务筛选采用团队所称的“离线策略相对难度”:训练前先用基础策略估计每项任务的成功概率,选定后,整个训练过程保持任务池不变。团队认为,当前模型已经会做或几乎无望完成的任务,都难以提供有效的学习信号,因此筛选要围绕当前模型的能力展开。
在这一训练池上,Qwen3.8-27B经过50步GRPO微调,平均成功率由51.70%升至60.78%;每次都完成正确的任务数由38项升至107项。这里的评估范围是507项基准任务,每项尝试20次:平均成功率统计全部10,140次尝试,而后一指标要求某项任务在记录的20次尝试中全部通过。
原始来源:Turning Database Grading into RL Rewards: Post-Training Agents with ThinkingBox
