Open-H3-Regenerate-2K-IC:草稿留在上下文里,2K 与 4K 重绘仍对着原来的脸、口型和字

SoL-Engine2026年11月9日

SoL-Engine 公开 Open-H3-Regenerate-2K-IC:H3 低清草稿升到 2K 或 4K,参考一直留在生成里。

视频生成MiniMax H3高清重绘开源模型

一分钟看懂

  1. 它把 H3 的 768P 草稿升到 1080P、2K 或 4K,补细节时草稿仍留在上下文里当参考。
  2. 默认三步从放大后的草稿接着画,八步从纯噪声走起,两条路旁边都留着同一份草稿。
  3. 成片接回草稿原音轨,5 秒窗口、卡数能整除 56 个头;许可把欧美韩英列在范围外。

高清一补,已经定稿的脸和字会先走样

2026年11月9日,SoL-Engine 公开了 Open-H3-Regenerate-2K-IC 的代码和权重,用来把 MiniMax-H3 已经生成好的低清草稿做成更高清的成片。常见输入是 768P(1344×768),输出可以到 1080P、2K(2560×1440)或 4K。上一版开源方案会先把放大后的草稿重新加噪,再用三步把纹理画细。皮肤和头发清楚了,眼睛、皱纹、嘴形和画面上的字却容易离开原来的样子。IC 把这份草稿留在生成模型的上下文里,让高清画面在旁边重新画,每一步都还能读到原来的脸、口型和构图。

MiniMax 开源的是能出 768P 的 H3 Base,官方高清阶段 H3-Regenerate-2K 走的是 API,Open-H3-Regenerate-2K 把这一步放到自有 GPU 上,IC 是其中把一致性收紧的新版。作者里 Sensen Gao 与 Haozhe Liu 并列一作,Enze Xie 也在名单上。项目说明的原话是:Open-H3-Regenerate-2K-IC is not an official MiniMax product,它不是 MiniMax 官方产品。

草稿留在同一次生成里,每一步都能对照

这里的 IC,指的是把参考留在上下文中。H3 自带的参考视频模型 Ref2VA 会把参考片和正在生成的片段放进同一条序列。草稿先经 H3 的 VAE 编成潜在表示,也就是画面在模型内部的压缩形式。这份表示一直放在序列前部,用来记住原来的脸、文字和构图;后部才是正在画的高清目标。

附加的 IC LoRA 加在 Ref2VA 的 312 个线性层上,秩是 384,H3 主体保持冻结,这组参数学习的是怎样利用旁边的参考。草稿的帧,连同生成这条草稿时的原始提示词,会交给 Qwen3-VL,在序列里作为一段视频上下文,提示词记下原本要拍什么,草稿记下嘴形和招牌实际长成什么样。项目页把这件事收成一句:The draft stays in context at every step,意思是每一步,草稿都留在上下文中。

IC 推理流程:草稿进参考轨,高清目标从噪声或放大结果起步
项目原推理图。左侧草稿经 VAE 编成潜在表示后一直作为干净参考;中间是两种起点,hf8 从纯噪声、up3 与 up4 从放大后的草稿;下方 Ref2VA 里并着 IC LoRA、HyperFlow 与 LMS Sharp。

三步接着放大的草稿画,八步从噪声重画

三条路线共用 HyperFlow 的八步噪声表,video shift 为 12,引导强度 CFG 设为 1,所以每一步只调用一次生成模型,默认三步就是三次调用。三次调用只说明步骤少,一段片子实际要等多久,还要看分辨率、显卡和解码。

默认的 up3 先用三维卷积把草稿的潜在表示直接放大到 2K 或 4K 的网格,中间不解码成普通画面,再把放大结果混到噪声强度 σ 0.835。起点是 (1−σ) 乘放大结果,加上 σ 乘噪声,然后接八步流程的最后三步;up4 混到 σ 0.923,比三步多走一步,hf8 则从 σ 1 的纯噪声走完八步。放大后的草稿负责布局和颜色,余下的步数把更细的内容画出来,参考那一路在三条路线里都还在。

推理时,参考行会混进极少的噪声,99.9% 来自草稿,0.1% 来自噪声,时间步贴在接近干净的一端,被一步步减掉噪声的是高清目标。HyperFlow 和 LMS Sharp 在加载模型时并进去,Sharp 的默认强度是 1.0,填 0 就关闭;这两项留在推理阶段,训练只更新对照草稿的那组 LoRA。

同一窗口的 768P 草稿局部与 2K 输出局部
同一窗口的局部。左是 768P 草稿,右是 2K 输出:皮肤和唇部更清楚,五官仍对着左边。

训练时参考保持干净,误差只算在高清目标上

训练素材取自 768P 到 4K 的真实视频。团队先把片子缩小成像草稿一样的低清副本,再给其中一部分额外加模糊,让模型也见过更软、更糊的输入。

两者按各自分辨率用 H3 的 VAE 编码,低清潜在表示放在序列前面并保持干净,高清潜在表示放在后面,再按流匹配的路径混入高斯噪声。噪声强度 σ 按 shift 12 抽样:多数落在纯噪声附近,整条路径仍覆盖到接近干净的一端。

损失只落在目标那一段。用预测速度对照 x₀ 减 ε 的均方误差,参考段不参与,模型学到的就是目标处在不同噪声阶段时,怎样利用旁边那份低清参考。HyperFlow 和 LMS Sharp 留到推理再加入。

低清副本与同一镜头的高清原片
训练用的一对画面。左是缩小并加模糊后的低清副本,右是同一镜头的高清原片。低清侧当参考,高清侧当学习目标。

同一批草稿上,上一版和官方接口各自偏了哪里

项目用 H3 Base 生成的同一批 1344×768 草稿,把上一版开源方案和 IC 都输出成 2560×1440,同步播放,并在下方放大同一窗口。棚拍肖像、邮筒、夜市和祖母这四条里,上一版画出的纹理更多,眼睛、皱纹和嘴形也更容易偏离草稿,IC 把这些部位留在草稿附近。棚拍这一帧里,上一版把嘴张得更大,IC 仍接近草稿的抿嘴。

同一批草稿再交给官方 H3-Regenerate-2K API,两边输出仍是 2560×1440。停车场标牌上,官方结果把字画成读不出的笔画,IC 结果保留 PRIVATE CAR PARK;翠鸟的水花和玻璃蘑菇的苔藓,则是 IC 画得更清楚的地方。招牌看的是原来的内容还在不在,水花和苔藓看的是画面有没有变丰富,这些新增纹理都是模型按草稿重新画出来的,验收时要和原来的表情、口型放在一起看。

停车场招牌同一帧:草稿、官方 2K、IC 2K
停车场招牌的同一帧局部。草稿和 IC 仍是 PRIVATE CAR PARK,官方 2K 把字画成读不出的笔画。

演示里的 4K 和预设里的 4K,像素并不相同

项目另外放了三段原生 4K,把 768P 草稿重绘到 4096×2304,分别是自行车与猫、海边码头和奔向大海。看这三段时,既要看清晰度,也要看人物动作和场景布局有没有跟着细节一起变。

命令里的 4k 预设是 3840×2160,代码先在 2176 行上计算,再保留中间的 2160 行;和这三段演示一致的 4096×2304,对应参数 4k-dci。1080P 预设是 1920×1080,同样先算到 1088 行再裁回 1080,默认 2K 则正好是 2560×1440。

更低的草稿也能进这条流程,384P 是 672×384,512P 和 576P 也可以,目标都是 1344×768。页面上的五段 384P 演示走八步 HyperFlow,左右并排时,左边把低清原片放大到同一显示尺寸,右边是 IC 结果。雨夜那一帧里,伞上的雨珠、脸上的胡茬和皮肤更清楚,人和霓虹的位置仍对着左边;玻璃蘑菇那一帧里,苔藓和半透明的菌柄更细,上方的手指还停在原处。旗袍、画家、自行车与猫这三段,看的也是绣花、颜料和线条有没有在原位变清楚。

成片里听到的声音来自草稿。模型序列里的音频行使用一段固定的静音潜在表示,写成文件时草稿音轨会被原样拷回,片长也与草稿相同,高清嘴形要对上的就是这条原音轨。项目页称之为 The draft's audio track is copied unchanged。

雨夜霓虹的 384P 草稿放大图与 768P IC 结果并排
雨夜霓虹的一帧。左是 384P 草稿放大到同一显示尺寸,右是八步 IC 得到的 768P:雨珠、胡茬和皮肤更清楚,脸和背景光斑仍对着左边。

跑起来先对上五秒窗口、卡数和许可

要跑起来,得先备齐 H3 的 Ref2VA、IC LoRA、HyperFlow、LMS Sharp、潜在表示放大器和解码器。仓库给出的环境是 Linux、Python 3.11、带 CUDA 的 PyTorch,以及包含 MiniMax-H3 管线的 Diffusers 开发版,系统路径上还要有 ffmpeg。示例命令用 8 张 GPU,卡数必须能整除模型的 56 个注意力头,所以是 1、2、4、7 或 8 张。

使用顺序是准备符合五秒窗口的 H3 草稿、保存生成这条草稿时的提示词、下载对应组件,再选输出分辨率和生成步数。提示词原样传入即可,留空也可以。IC 代码目录的 README 给出的最小命令只有三条,装依赖、下载权重,再用 torchrun 跑一条草稿,完整命令放在文末。

默认输出 2K,默认采样是 up3 三步。加 sampler up4 选四步,加 sampler hf8 选从纯噪声起步的八步,resolution 4k 对应 README 里的 3840×2160 预设。要复现页面上 384P 到 768P 的演示,得同时给出 resolution 768p、低清档 384 和 sampler hf8;README 里那行简短低清示例没有显式指定八步,直接照抄会落到三步。

多段片子可以写成 jobs.jsonl,每行放 input、output 和 caption,模型每轮只加载一次。解码器有快速和标准两种,项目说明 2K 用快速解码、4K 用 H3 VAE,实际走哪条还取决于硬件与片段大小;快速解码放不下的片段,会改用已发布的 H3 VAE。

权重跟随 MiniMax H3 Community License,适用地域定在全球,欧盟、英国、韩国和美国列在范围外。潜在表示放大器的节点文件另行使用 MIT,其余第三方组件保留各自许可。已经满意的镜头,值得保住的是原来的表演和内容,出高清版时把草稿放在旁边核对三件事:脸保持原样,嘴对上原来的声音,招牌按原样能读出来。这三件过了,再看多出来的细节。

pip install -r requirements.txt
python download.py --out ./weights

torchrun --nproc_per_node 8 infer.py --weights ./weights \
  --input draft.mp4 --output draft_2k.mp4 \
  --caption "生成这条草稿时的原始 H3 提示词"