Qwen-Image（阿里通义千问）技术浅析（二）

一、视觉编码器深度优化

1. 改进的视觉Transformer架构

• Patch嵌入层增强：

  • 采用重叠分块（Overlapped Patch Embedding）（参考SwinV2），使用16x16窗口+4像素重叠，提升局部特征连续性

  • 公式表示：

    # 标准ViT分块： 
    x = rearrange(img, 'b c (h p1) (w p2) -> b (h w) (p1 p2 c)', p1=16, p2=16)# 重叠分块实现（伪代码）：
    unfold = nn.Unfold(kernel_size=20, stride=16, padding=2)  # 20x20窗口，16步长，2像素填充
    x = unfold(img)  # 输出维度 [B, C*20*20, num_patches]

• 位置编码改进：

  • 使用相对位置偏置（Relative Position Bias）替代绝对位置编码，增强对不同分辨率适应性

  • 每层注意力头可学习偏置矩阵

2. 多尺度特征融合

• 特征金字塔输出：