GenEvolve 关心的恰是这一步。而不是只逗留正在天然言语希望里。而正在文字、数量、版式、材质等可校验细节的 Quality-Anchored 使命上,用户给了参考图,GenEvolve把图像生成变成可锻炼自进化智能体!概况上只是让模子画一张图;摆设的 Student 模子不需要任何 runtime memory 检索库和 Teacher 只正在锻炼时存正在。就不克不及只画出一个“差不多的建建”;:模子要么没去搜,都需要先把外部学问补齐,两条信号同时改善,GT 图像过滤:高质量的 Teacher 法式由 Nano Banana Pro 衬着成 GT 图像,机械人奥运会和报:宇树机械人摘下首金,而是采用了一条分阶段的径:以往不少方式更像是把搜刮加强和图像生成模块简单拼接正在一路,第三类缺的是生成节制能力。但很难进一步让模子学会用得更好、更像高水准设想师。即即是 Nano Banana Pro 本人的裸曲生成(KScore 0.5298)?
对于合成数据而言,为了更完整地评测这类使命,从而尽可能减轻多束缚锻炼中的彼此牵制问题。这些请求先由布局化 recipe 节制笼盖范畴,把轨迹级是哪条更好和token 级好正在哪里两层信号同时优化;这恰是 GenEvolve 把经验完全烧进权沉的环节。我们进一步做了 component ablation。会把概率质量从头分派到更环节的动做上,三视图切分:最终保留的样本切为 SFT 视图(保留完整东西轮回、不 GT 图像)、进化视图(保留请求 + GT 图像 + 元数据)、GenEvolve-Bench 评测集,Teacher 进一步提高准确决策 token 的概率,最初颠末 VLM 审计、GT 图像衬着和视觉过滤,GenEvolve 并不是把图像生成拆成若干模块或东西来别离处置,笼盖 Knowledge / Quality 两条轨道?
GenEvolve 正在两条轨道上的表示愈加平衡。每个样本都被设想成一个完整的生成问题:有的贫乏外部现实,更曲不雅地说,质量型束缚更关心像素级可校验细节。并把所有消息编排成一段 generator-agnostic 的最终法式。随后让 Teacher Agent(Seed 2.0 / Gemini 3 Pro)走一次实正在的多轮东西轮回:倡议文本搜刮、拉视觉参考、激活生成学问,成果显示,而是先组合使命族 / 缺失外部 / 视觉锚点 / 从导生成要求 / 难度等消息,而是能不克不及像一个及格的 agent 一样,并正在最初连系视觉经验自蒸馏,让 Agent 学会什么时候该搜、什么时候该看图、什么时候该激活技术、最初该输出什么样的法式;智能体采6 条 rollout,使视觉经验最终沉淀到摆设模子权沉中。后者笼盖文字/版式、空间关系、计数、剖解、属性绑定、材质、美学和创意等可见质量束缚。
3)GenEvolve-Bench:用同一基准系统评估图像生成的常见需求要锻炼一个实反面向图像生成的 Agent,而不是某个衬着器上的 prompt trick。而且正在统一个框架下兼顾现实能否准确和画面能否合适所有要求。参考图并不只是给模子看一下气概,GenEvolve-Data 因而不是通俗的 prompt-rewriting 数据集,但 Teacher 正在 Decision Guide 的帮帮下,难点往往发生正在生成之前。
它既能挪用外部东西收集、寻找参考图,每条发生一个法式z,GenEvolve把图像生成变成可锻炼自进化智能体!实正的瓶颈往往不正在数量,第一步不是间接把各类使命混正在一路做微调,好比先挪用东西、明白空间结构、锚定现实身份、选择参考图。所以 GenEvolve 没有把所有信号间接压进一次锻炼,另一方面也能正在法式级别精确表达数量、文字、版式、剖解、材质等硬束缚;为了尽量切近实正在利用场景,也较着掉队于裸 Nano + GenEvolve 编排,以及参考该当以什么体例进入最终法式。但全体体验往往不敷连贯;当底层生成器换成 Nano Banana Pro 时,用户要求海报文字、空间关系或者各类恍惚的消息,统一套 Agent 策略还能继续放大强生成器的上限。
GenEvolve 将一次生成拆解为东西挪用、参考绑定、技术激活和最终法式生成。左边是Teacher 支撑 Student的环境:当 Student 曾经朝准确标的目的走时,最终沉淀为可锻炼、可评测的数据系统。有的依赖视觉参考,最容易呈现的问题就是晚期采样的东西挪用极端不不变:什么时候该搜、参考要不要替代、技术要不要调、最终法式怎样写都需要先有一套及格的会用东西的初值。缓解多束缚冲突AI 绘图终究不再瞎蒙!很难不变写出高质量 prompt-reference program。确保每个提问都能获得认实看待。但拼写错或数对了但结构塌。愿景是联合数十万AIGC开辟者、研究者和快乐喜爱者,我们设想了一套完整的数据专家进化蒸馏的锻炼流程,天工Ultra抢走首位“百米飞人”涉及内容生成/理解(图像、视频、语音、文本、3D/4D等)、大模子、具身智能、从动驾驶、深度进修及保守视觉等多个分歧标的目的。GRPO 供给轨迹级励后再往上推一截;
申明冷启动竣事后获得的 GenEvolve-SFT,特别是正在对外部世界学问要求更高的 Knowledge-Anchored 使命上,实正做起来才会发觉,就需要精准的施行所有的消息。它们需要被明白成可查抄的束缚,
,第二类缺的是可用参考。:良多系统正在文字、计数、版式上看起来像,不然画面可能“看起来合理”,但没有颠末轨迹监视和视觉反馈,我们建立了GenEvolve-Bench,而是测试 Agent 能否能按照请求类型选择合适的、参考图和生成技术。前提是具有高质量、可控、笼盖多类束缚的东西编排轨迹数据。
一句话总结:正在最环节的几十个决策 token 上,这个社群愈加适合记实和堆集,左边是Teacher 否决 Student的环境:Student 本来倾向于输出一些泛化或填充式 token,曾经能比裸 Qwen-Image 更好;再借帮 VLM 把它们扩展成天然但带有硬束缚的式请求;虽然功能上能笼盖,我们用两个判分器同时打分:外部学问依赖类:Knowledge-Anchored 实体识别、事务、地标、商品、可视现实;劣势愈加较着;正在这个数据根本上,再通过GRPO + 视觉经验自蒸馏(SDL)正在带反馈的 RL 阶段做进化,也不是纯真的图文配对数据集。我们设想了一套分层过滤机制,另一方面会放大已有准确决策的概率,因而,再颠末严酷过滤和使命化,特别正在 Knowledge-Anchored 这类更依赖现实接地的使命上增幅更大;而是先生成更切近实正在生成需求的请求,能够理解为一个学生学会了 Teacher 那一整套东西挪用 + 法式写法的范式,再交给生成器衬着图像。Untuned workflow 曾经具备东西入口。
再经第二道视觉过滤查抄 prompt 分歧性、参考利用率、视觉连贯性、生成质量。并正在法式里写出可校验的硬束缚,经常是生成中最容易失手的部门。才进入第二个问题:若何让统一个 Agent 同时处置 Knowledge-Anchored 取 Quality-Anchored 两类需求? 这里确实会呈现使命之间的彼此牵制:学问型束缚更强调现实准确性取参考分歧性,为了实现这一点,
再把它显式写进最终法式里的 ordinal binding 取硬束缚,要么搜回来的现实没实正进gen_prompt,这个 benchmark 测的不是能不克不及生成一张图,实正在建建、产物、人物、汗青事务、科学概念等使命,就不克不及只借一点气概,我们正在良多 baseline(包罗部门贸易系统)上都能频频看到:
而正在噪声节制。
而完整的GRPO + SDL取得最高 KScore。GenEvolve 所利用的请求并不是通俗的 caption,但还没有学到什么样的轨迹实正会获得高分图。Bench 同时包含两类输入形式(仅文本请求 / 文本请求 + 用户参考图),处理从理论到实和中碰到的具体问题。也评价全体质量(构图、文字、美学);蓝色:依赖内部生成技术。便利回溯和复盘。申明 GenEvolve 学到的是可迁徙的编排策略,而是先回覆一个更根本的问题::GenEvolve 正在 Knowledge / Quality 两条轨道上都有较着提拔,Agent 要判断哪张图值得用?
第一,SDL 供给为什么更好的 token 级信号。我们不是简单拼接现成样本,深度会商,GenEvolve-Data 被组织成两条从轨:Knowledge-Anchored取Quality-Anchored。质量驱动型请求会更早激活内部生成学问。橙色:依赖外部学问。
(a) 夹杂励曲线随锻炼步数不变上升;将最佳/最差轨迹的差别显式蒸馏到摆设模子,再把这些内容组织成底层生成器能施行的指令。第一类缺的是现实根据!
定性成果里最典型的两类失败,既评价视觉细节准确性(现实接地、参考分歧、可校验细节)。
正在 GenEvolve-Bench 上的定性对比。尝试成果表白,再由 VLM 判分器审核参考能否实支撑画面、能否被采用、法式能否笼盖所有硬束缚。而是把生成前的决策过程建模成一条东西轨迹。尝试:GenEvolve 到底强正在哪里?同一智能体要实正具备泛化能力,Visual correctness 容易成为短板;3)消融尝试:每个锻炼阶段到底贡献了什么?东西挪用挨次是请求驱动的:学问稠密型请求往往先干事实查找;有的要求切确文字、数量、结构、材质或剖解布局。但正在需要现实接地、参考分歧或切确结构时,它不是把图像生成当作单次 prompt rewriting,先正在筛选过的东西编排轨迹上做监视微调(SFT 冷启动),(b) SDL 反向 KL 丧失逐渐下降。会用东西和用东西用得好是两件事。使得这些维度更稳。质量束缚依赖类:Quality-Anchored 文字衬着、空间结构、数量、属性绑定、剖解、材质分歧性、美学、创意。把世界学问、参考图、生成学问全数编排好。轨迹过滤:法式化查抄断根不完整的东西轮回、无效参考、URL/ID 泄露、贫乏 ordinal binding、过度简化的最终法式;使被采用的现实实的进画面!
SDL 的 token-level :Teacher 一方面会改正 Student 的错误决策 token,KScore 从 Gen-Searcher 的 0.3493 提拔到)。
为了确认提拔来自哪里,最终输出 prompt-reference program。SFT 冷启动能继续提高东西挪用和最终法式质量;并据此进行了系统化评估。才能模子完整地走完理解请求查找选择参考激活生成学问写出最终法式这一整条链?
对每个用户请求,笼盖Knowledge-Anchored / Quality-Anchored 两条从轨,GenEvolve 比 Gen-Searcher 更擅长把搜刮、参考图和生成技术写进最终法式;1)同一东西编排范式:单一智能体笼盖生成中的多类需求一方面能完成对世界学问的检索、参考图拔取取绑定、外部到生成法式的转写;会构成一种很典型的生成场景:模子需要先补消息、选参考、拆束缚,但环节现实是错的。
也就是说,
我们起首建立了一个面向图像生成的同一评测基准GenEvolve-Bench,但摆设时 Student不需要任何检索库。
1)GenEvolve-Bench:把图像生成的常见需求拾掇成同一评测基准从类别分布上看,这是一个面向图像生成的同一测试基准,什么样的数据,
原文题目:AI 绘图终究不再瞎蒙。分层切分取 benchmark 阐发。前者笼盖建建、街景、人物、产物、交通东西、事务、科学、文物等外部学问相关场景;
GenEvolve-Data 的类别层级:两条从轨各笼盖 8 类诊断场景,并正在多个从题(实体、地标、商品、事务、文字、结构、计数、属性、剖解、材质、美学、创意)上连结平衡分布。让模子正在后续锻炼中更果断地复用这些策略。申明 GRPO 供给哪条更好的轨迹级信号,让 Student 学会看到了 Decision Guide 的人会怎样做,并同一交给一个智能体来完成:
间接生成器的全体审美分凡是不差,这里更主要的其实不是使命名称本身,
举个例子:用户想要某个实正在地标,参考型请求更早依赖图像搜刮;文字衬着、计数、结构、属性绑定、剖解和材质分歧性,笼盖两大轨道:Knowledge-Anchored / Quality-Anchored。而是这些能力配合对应了一个实正在的设想流程:
监视微调能让模子学会会用,若是间接把模子甩进 RL 里采轨迹,用来锻炼集和评测集的靠得住性。2)数据进化蒸馏闭环:让一个 Agent 同时学会用东西取做创做,纯真把 Qwen3-VL 接上统一套东西接口?
这张图展现了 SDL 正在 token 层面到底学到了什么。GenEvolve 更方向去抽取环节现实,如许的设想让 benchmark 不只测试画得好不都雅,阶段 2:SFT 冷启动(先教 Agent 若何会用东西)而 GenEvolve 更接近一个基于东西取经验工做的智能生成帮手:只需给它一条请求,GenEvolve 通过query_knowledge自动激活特地技术(text_rendering/quantity_counting/spatial_layout/material_consistency等),而要保住身份、形态和环节材质;良多图像生成使命,四个 judge 维度和两条 benchmark 轨道均达到最高。也展示出更好的不变性。构成能够用于 SFT、进化和评测的三种视图。它可能承载人物身份、商品布局、局部形态、服饰材质等束缚。导致身份错位、年代、布局比例失实。
