ICLR 2026 | 用少量标注构造多步推理数据:COGS 用合成数据和过程奖励增强多模态大模型
在图表问答、网页理解这类任务里图像资源通常并不稀缺稀缺的是高质量的多步推理数据。模型要先识别图中的数值或对象再完成比较、计数、计算甚至趋势推断其中任意一步出错最终答案就会偏离。人工标注这样的训练数据成本很高而只在测试时让模型临时拆解问题又容易造成中间步骤误差累积。ICLR 2026 的 COGS 正是针对这个问题它提出从少量种子问题中分解出基础推理能力再生成带中间步骤的合成数据并通过过程奖励进行强化学习训练。论文题目Composition-Grounded Data Synthesis for Visual Reasoning作者Xinyi Gu、Jiayuan Mao、Zhang-Wei Hong 等机构MIT、University of Wisconsin-Madison、MIT-IBM Watson AI Lab会议ICLR 2026项目页与代码数据地址cogsynthesis.github.io推荐理由这篇论文最值得推荐的地方是它把数据生成单位从“完整问题”换成了“推理因子”。比如一道“两个国家某项指标相差多少”的图表题背后其实有几步先读国家 A 的数值再读国家 B 的数值最后计算差值。传统数据增强往往围绕整道题改写COGS 则先把这些步骤拆出来再换图重组。图 1 是 COGS 的架构图。它从少量需要复杂推理的初始问题开始将这些问题分解为基本的感知和推理要素。随后这些要素会与新的图像信息相结合从而生成新的问答对。这一过程能够显著增加推理的类型和数量使其超越最初的初始问题。核心方法图 2 展示了一个具体的示例。COGS 的框架包含三个阶段初始问题分解、因素重组以及模型微调。1 初始问题分解COGS把复杂问题拆成一组factors因子。这些因子既包括视觉感知也包括后续推理。常见因子包括Identification识别或读取图里的数值、对象、文本Comparison比较Counting计数Calculation计算Extrapolation趋势外推Fact Checking事实判断Spatial Relation空间关系。具体来说作者让一个 MLLM 看图和问题再输出“这道题需要哪些步骤”。例如一个差值问题可能被拆成读取对象 A 的数值读取对象 B 的数值计算两者的绝对差。这些结果会汇总成一个factor pool因子池。它可以理解为一盒零件每个零件带着能力标签也带着一些示例子问题。这里有个细节很重要论文并不鼓励把每道题硬拆得很碎。对于只需要简单识别的问题prompt 会要求不要做多余分解。目标是找出真正必要的步骤而不是制造看起来很长的推理链。2 因素重组有了因子池之后COGS 会拿一张新图从池里抽取若干 factors让生成模型围绕这张图重新出题。它不是只生成一个“问题-答案”对而是生成整套结构其中是图像是最终复杂问题是最终答案是涉及的因子是每个子问题的中间答案。简单说模型要先生成并回答子问题再把子问题拼成最终问题。后面的推理还必须依赖前面已经找出的信息不能跳步直接猜答案。在图表场景中作者还会使用底层表格等 metadata 来提高答案精度。这意味着 COGS 在图表数据生成时并不完全依赖纯视觉读取结构化数据也参与了合成过程。3 模型微调兼顾答案和过程传统 RL 微调常常只问一件事最终答案对不对但视觉推理题里模型答错可能有很多原因数字读错了、对象找错了、比较方向错了或者算错了。只看最终答案训练信号太粗。COGS 因为保存了子问题和子答案所以可以给中间步骤打分。论文定义子问题命中率其中 是子问题数 表示第 个子问题是否答对。作者比较了三种奖励StandardRM只看最终答案ProcessRM-sum最终答案奖励和过程奖励直接相加ProcessRM-max取最终答案奖励和过程奖励中的较大值。论文最终更推荐ProcessRM-max直觉很简单最终答案正确奖励就是最高最终答案错误即使过程部分正确也只能拿到有限奖励。这样可以避免“过程写得像对的但最后答案错了”的输出得到太高回报。实验结果主实验ChartQAPro在 ChartQAPro 上Qwen2.5-VL-7B 的基础准确率是47.36%COGS 提升到52.02%绝对提升4.66 个百分点。多数据集混合因子层混合更稳在 ChartQAPro 和 MMC-Bench 上作者比较了两种做法先各自生成数据再拼起来先合并因子池再重新生成数据。合并因子池在两个数据集上都超过了直接拼数据的方式。不过在 MMC 上单独训练 MMC 的结果是 88.10%仍略高于 factor-level mix 的 87.55%。哪类题提升最明显论文的分析显示问题包含的 factor 越多COGS 的收益通常越明显。按因子类型看提升包括Count4.25Compare4.47Calculation3.04Extrapolation7.62Fact Check1.44。这和方法逻辑一致COGS 最擅长的不是单次读图而是让模型更稳定地把多个步骤串起来。奖励消融过程奖励确实有用但不能乱加从这组结果看直接相加的过程奖励没有带来提升反而略降ProcessRM-max最好。这至少说明过程监督不是越多越好怎样避免中间步骤的噪声误导训练是这类方法的关键。网页任务初步证明能跨出图表领域在 VisualWebBench 的 WebQA 上COGS 比基础模型高 2.39 个点也是表中最好的开源模型。这说明它不只适合图表数值推理也有能力处理网页里的文本、位置和结构关系。但目前只测了 chart 和 webpage 两类场景能否泛化到文档、多页 UI 或长上下文视觉任务还需要更多证据。4. 这篇论文真正带来的启示第一做视觉推理数据不该只看样本量也要看“能力组合量”。一堆单步读图题未必能训练出多步推理能力。后续做数据集时更值得统计的是覆盖了哪些感知动作、推理操作以及这些操作有没有真正组合起来。第二多数据集混合不能只靠把样本拼在一起。图表、网页、文档表面不同但底层可能共享识别、比较、计数、定位等能力。先在能力层对齐再生成新组合可能比直接混数据更有效。第三过程监督的目标不是奖励“会写推理过程”而是帮助模型更可靠地走到正确答案。COGS 的ProcessRM-max提醒我们中间步骤应该提供辅助信号但最终答案仍然必须是最高优先级。5. 总结COGS 解决的是一个很现实的问题模型不缺视觉数据但缺少复杂推理标注。它的做法可以浓缩成三步先把少量种子题拆成感知和推理因子再拿这些因子去新图像上组合出新题最后把中间步骤变成强化学习中的过程奖励。COGS 最有价值的地方不是简单的数据生成而是拆解了数据生成的思路。

相关新闻

TPS61170高压升压转换器与MKV44F微控制器的电源设计

TPS61170高压升压转换器与MKV44F微控制器的电源设计

1. TPS61170高压升压转换器核心特性解析 TPS61170是德州仪器(TI)推出的一款高性能DC-DC升压转换芯片,采用2x2mm QFN封装,在紧凑尺寸内集成了1.2A开关电流能力的40V功率MOSFET。这款器件特别适合需要从低电压输入生成高电压输出的应用场景,如工…

2026/7/8 10:37:28 阅读更多 →
如何学习AI Agent?

如何学习AI Agent?

1. 引言AI Agent(人工智能代理)正成为推动人工智能从感知走向决策、从工具走向伙伴的关键技术。无论是自动化工作流、智能客服,还是复杂的游戏AI,AI Agent都展现出强大的潜力。然而,面对这个快速发展的领域&#xff0c…

2026/7/8 10:37:28 阅读更多 →
TLP241A光耦与MKV46F微控制器的电气隔离方案设计

TLP241A光耦与MKV46F微控制器的电气隔离方案设计

1. 项目概述:TLP241A与MKV46F256VLH16的电气隔离方案在工业控制和电力电子系统中,电气隔离是确保系统可靠性和安全性的关键技术。本项目采用东芝TLP241A光耦和恩智浦MKV46F256VLH16微控制器构建了一套高性能的电气隔离解决方案。TLP241A作为信号隔离器件…

2026/7/8 10:37:28 阅读更多 →

最新新闻

中国大模型领跑全球调用热潮

中国大模型领跑全球调用热潮

📰 每日AI科技资讯速递 日期:2026年7月7日 | 近24小时热点精选 🤖 一、AI大模型与大模型应用 腾讯正式发布新一代AI大模型混元Hy3 7月6日,腾讯发布混元Hy3大模型,智能水平比肩更大尺寸旗舰模型,已在多个…

2026/7/8 11:28:36 阅读更多 →
STM32G474RE与TPA3138D2高保真音频系统设计指南

STM32G474RE与TPA3138D2高保真音频系统设计指南

1. 音频系统升级方案概述在嵌入式音频系统设计中,TPA3138D2与STM32G474RE的组合堪称黄金搭档。这个方案特别适合需要高保真音频输出的便携式设备、智能家居音响系统和车载音频设备。TPA3138D2作为德州仪器推出的高效D类音频放大器,能够在3.5V至14.4V的宽…

2026/7/8 11:26:31 阅读更多 →
IIM-20670工业级IMU与PIC24EP512GU810的硬件适配与运动跟踪算法

IIM-20670工业级IMU与PIC24EP512GU810的硬件适配与运动跟踪算法

1. IIM-20670运动跟踪模块的核心特性解析 IIM-20670是TDK InvenSense推出的一款工业级6轴惯性测量单元(IMU),集成了3轴加速度计和3轴陀螺仪。这款器件最突出的特点是其卓越的环境适应性——加速度计温度稳定性达到1.7g/C,零偏重复性为1mg,在-…

2026/7/8 11:26:31 阅读更多 →
TPIS1S1385红外传感器与PIC18LF46K42微控制器的智能人体检测方案

TPIS1S1385红外传感器与PIC18LF46K42微控制器的智能人体检测方案

1. 项目背景与核心需求 在智能家居和安防领域,人体存在感应和运动检测技术正经历着从简单触发到精准感知的进化。传统PIR(被动红外)传感器只能检测移动的热源,当人体静止时就会失去响应——这导致在智能照明、安防监控等场景中频繁…

2026/7/8 11:26:31 阅读更多 →
人生宏观无解问题的最小单位是什么?

人生宏观无解问题的最小单位是什么?

第一层:什么叫宏观无解问题? 很多人每天都在思考: 我以后会不会成功?人生到底有没有意义?我是不是选错路了?十年以后会怎样?AI会不会取代我?我到底适合什么?这些问题都有…

2026/7/8 11:24:30 阅读更多 →
如何选择一个稳定可靠的住宅代理IP?

如何选择一个稳定可靠的住宅代理IP?

在跨境电商、社媒运营、数据采集、广告验证等业务中,代理IP已经成为不可或缺的工具。然而,面对市场上众多代理IP服务商,很多人不知道应该如何选择。一、IP质量决定使用体验一个优质的住宅代理应该具备:IP来源真实高匿名性稳定在线…

2026/7/8 11:22:28 阅读更多 →

日新闻

3大核心能力重塑《明日方舟》游戏体验:MAA自动化助手的革命性突破

3大核心能力重塑《明日方舟》游戏体验:MAA自动化助手的革命性突破

3大核心能力重塑《明日方舟》游戏体验:MAA自动化助手的革命性突破 【免费下载链接】MaaAssistantArknights 《明日方舟》小助手,全日常一键长草!| A one-click tool for the daily tasks of Arknights, supporting all clients. 项目地址: …

2026/7/8 0:00:48 阅读更多 →
MyBatis 批量操作深度优化——从 N+1 到批处理的全路径

MyBatis 批量操作深度优化——从 N+1 到批处理的全路径

MyBatis 批量操作深度优化——从 N1 到批处理的全路径 一、从"功能正确"到"性能可接受"——MyBatis 批量操作的三段式进化 MyBatis 在日常增删改查场景中几乎是无感的——实体映射直观、SQL 控制灵活。但当数据量从千级上升到十万级、百万级,许…

2026/7/8 0:00:48 阅读更多 →
工业负载控制方案:TPD2015FN与PIC18F45K22应用解析

工业负载控制方案:TPD2015FN与PIC18F45K22应用解析

1. 工业负载控制方案概述在工业自动化、电机驱动和照明控制等高需求场景中,可靠地控制电感和电阻负载是核心挑战之一。TPD2015FN作为东芝的8通道高端智能功率开关IC,配合PIC18F45K22微控制器,能够构建一套稳定、高效的负载控制系统。这套组合…

2026/7/8 0:02:48 阅读更多 →

周新闻

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱,支持下载视频、番剧等等各类资源 项目地址: https://gitcode.com/GitHub_Trending/bilit/BiliTools …

2026/7/7 14:24:45 阅读更多 →
威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型的陌生现状在忙碌疲惫的一天里,参与了关于混合后量子密码学的讨论,应付端点攻击找茬的人,还参与留言板讨论后,发现“威胁模型”对多数人仍是陌生概念,且多被当作时髦用语。有趣的相关画作有一幅由 Embyr 创作的…

2026/7/7 12:34:47 阅读更多 →
渗透测试入门指南:从零基础到实战环境搭建

渗透测试入门指南:从零基础到实战环境搭建

1. 从“看热闹”到“入门”:我理解的渗透测试到底是什么?每次看到新闻里说某个大公司的数据被“黑”了,或者某个网站被攻击导致服务瘫痪,你是不是和我一样,心里会冒出两个念头:一是“这黑客真厉害”&#x…

2026/7/7 15:59:06 阅读更多 →

月新闻