资讯
8月28日消息，智谱AI宣布开源其升级版视频生成模型CogVideoX-5B，相较于早前的CogVideoX-2B，此次发布的模型在视频生成的质量与视觉表现上实现了显著提升，标志着AI视频生成技术的又一重要进步，为内容创作者和研究人员提供了更加强大的工具，进一步拓宽了AI技术在多媒体内容创作领域的应用前景。
官方表示大幅度优化了模型的推理性能，推理门槛大幅降低，可以在 GTX 1080Ti 等早期显卡运行 CogVideoX-2B ，在 RTX 3060 等桌面端“甜品卡”运行 CogVideoX-5B 模型。
CogVideoX 是一个大规模 DiT（diffusion transformer）模型，用于文本生成视频任务，主要采用了以下技术：
3D causal VAE：通过压缩视频数据到 latent space，并在时间维度上进行解码来实现高效的视频重建。
专家 Transformer：将文本 embedding 和视频 embedding 相结合，使用 3D-RoPE 作为位置编码，采用专家自适应层归一化处理两个模态的数据，以及使用 3D 全注意力机制来进行时空联合建模。
文明上网，理性发言，共同做网络文明传播者