← Lixing Tan / 实习工作
English

MEITU · MT LAB

宠物创作与
生成效率

在美图 MT Lab 人体组实习期间,我参与了宠物个性化创作的探索与验证,将生成与编辑作为同一条业务线,同时开展 AIGC 推理加速预研。

计算机视觉工程师(实习生) · 2025.06–2025.09

戴着巫师帽、手持发光魔法棒的个性化猫咪形象
让熟悉的宠物成为故事中的角色。
01

业务实践

宠物个性化创作

生成与编辑服务于同一条宠物创作业务线:先从宠物照片出发,探索拟人化角色与场景生成,再围绕已有图像进行编辑。关注点是宠物辨识特征、造型表现与场景协调性。

业务目标让宠物进入富有想象力的场景,同时保留可辨识的外观特征。

工作内容参与个性化生成与图像编辑的探索和效果验证,对比不同宠物、主题及编辑结果。

从宠物照片到拟人角色

以下是生成实验中的输入与结果配对,可对照观察毛色、面部特征,以及不同宠物在同一主题下的拟人化表现。

长毛猫参考照片
宠物原图
长毛猫的巫师角色生成结果
生成结果
白色小狗参考照片
宠物原图
白色小狗的巫师角色生成结果
生成结果
狸花猫参考照片
宠物原图
狸花猫的巫师角色生成结果
生成结果

同一宠物,不同造型

围绕同一只黑白猫,探索节日场景中的不同服饰与造型。

同一条创作业务线

对已有角色进行编辑

除了从参考照片生成新形象,我也探索了对已有角色图像进行编辑。此例以将猫科角色调整为犬类外观为目标,观察角色变化与服饰、道具、场景延续之间的关系。

宠物创作业务线中的编辑探索示例。

编辑前的猫科巫师角色
编辑前
编辑后更接近犬类外观的巫师角色
编辑结果
02

预研探索

AIGC 效率探索

围绕图像与视频生成的推理效率开展探索,通过对比实验评估计算开销与视觉质量之间的取舍,并整理为内部技术分享。

预研目标探索降低生成开销的路径,同时关注图像细节与视频视觉表现的变化。

工作内容参与加速方法探索与生成效果对比,并整理实验观察和方法调研,进行内部分享。

以下数据来自实习期间的实验记录。加速比均相对于本组基线,不同组的实验设置不同,应在组内比较。

Wan2.1 T2V · 多种加速手段的组合探索

在单张 NVIDIA L20 上,依次叠加 SageAttention、FP8 与 torch.compile、TeaCache、SpargeAttention。记录中的 DiT 阶段耗时从 1120 秒降至 328 秒,最高加速比为 3.41×。各列表示逐步叠加方案,加速比均相对于 BF16 基线。

横向滑动可查看全部方案 →

BF16

1.00×

1120 秒 · DiT

+ SageAttention

1.25×

893 秒 · DiT

+ FP8 + torch.compile

1.98×

564 秒 · DiT

+ TeaCache

3.09×

361 秒 · DiT

+ SpargeAttention

3.41×

328 秒 · DiT

视频按原始速度播放,播放时长不代表推理耗时。

计时范围为 DiT 阶段,并非端到端生成耗时。耗时与加速比沿用原始实验记录。

TeaCache · 缓存复用与视觉质量

探索不同 TeaCache 阈值下的速度与视觉效果。TeaCache 通过估计扩散步之间的变化,决定何时复用缓存输出。下面分别展示写实场景与插画在三档加速水平下的对比。方法论文 ↗

横向滑动可查看全部方案 →

不使用 TeaCache

1.00×

相对无缓存基线

写实场景结果,不使用 TeaCache插画结果,不使用 TeaCache

TeaCache · 方案 1

1.55×

相对无缓存基线

写实场景结果,TeaCache · 方案 1插画结果,TeaCache · 方案 1

TeaCache · 方案 2

1.86×

相对无缓存基线

写实场景结果,TeaCache · 方案 2插画结果,TeaCache · 方案 2

TeaCache · 方案 3

2.15×

相对无缓存基线

写实场景结果,TeaCache · 方案 3插画结果,TeaCache · 方案 3

PipeFusion · 多卡推理探索

对比单卡、双卡序列并行(SP)与双卡 PipeFusion。PipeFusion 通过图像块级的流水线并行组织计算与通信。本组实验中,双卡 PipeFusion 将记录耗时从 22.95 秒降至 13.51 秒,相对单卡达到 1.70× 加速。方法论文 ↗

横向滑动可查看全部方案 →

单卡

1.00×

22.95 秒

小狗图像生成结果:单卡

双卡 · SP

1.33×

17.21 秒

小狗图像生成结果:双卡 · SP

双卡 · PipeFusion

1.70×

13.51 秒

小狗图像生成结果:双卡 · PipeFusion

采样优化 · 区域自适应采样

探索区域自适应采样(RAS),按图像区域分配更新,并在其他区域复用缓存噪声。记录中的两档设置将耗时从 26.9 秒降至 23.1 秒和 18.8 秒,下面对比场景构图与文字呈现效果。方法论文 ↗

横向滑动可查看全部方案 →

未加速基线

1.00×

26.9 秒

心形云朵场景,未加速基线举着 hello world 标牌的猫,未加速基线

RAS · 0.75

≈ 1.16×

23.1 秒

心形云朵场景,RAS · 0.75举着 hello world 标牌的猫,RAS · 0.75

RAS · 0.50

≈ 1.43×

18.8 秒

心形云朵场景,RAS · 0.50举着 hello world 标牌的猫,RAS · 0.50

RAS 加速比根据记录耗时换算:26.9 ÷ 23.1 ≈ 1.16×;26.9 ÷ 18.8 ≈ 1.43×。0.75 和 0.50 为 PPT 中的实验设置标记。

补充实验:Wan2.1 VACE · 2.05×

Wan2.1 VACE · 补充视频对比

本组实验相对未加速基线实现了 2.05× 推理加速。以下展示对应的视频结果,可对照观察角色外观、羽毛细节、光照与运动表现。

优化前 · 基线 1.00×
优化后 · 加速比 2.05×

两段视频均按原始速度播放,用于对比生成效果,不代表推理耗时。