我们介绍了 Phenaki,这是一种能够在给定一系列文本提示的情况下进行逼真的视频合成的模型。由于计算成本、高质量文本视频数据的数量有限以及视频长度可变,从文本生成视频尤其具有挑战性。为了解决这些问题,我们引入了一种用于学习视频表示的新因果模型,该模型将视频压缩为离散标记的小型表示。这个分词器及时使用因果注意力,这使得它可以处理可变长度的视频。为了从文本生成视频标记,我们使用了一个以预先计算的文本标记为条件的双向屏蔽转换器。生成的视频令牌随后被去令牌化以创建实际视频。为了解决数据问题,我们展示了对大量图像文本对以及较少数量的视频文本示例的联合训练如何产生超出视频数据集中可用内容的泛化。与之前的视频生成方法相比,Phenaki 可以在开放域中以一系列提示(即时间可变文本或故事)为条件生成任意长视频。据我们所知,这是第一次有论文研究从时间变量提示生成视频。此外,所提出的视频编码器-解码器在时空质量和每个视频的令牌数量方面优于文献中当前使用的所有每帧基线。Phenaki 可以根据开放域中的一系列提示(即时间可变文本或故事)生成任意长视频。据我们所知,这是第一次有论文研究从时间变量提示生成视频。此外,所提出的视频编码器-解码器在时空质量和每个视频的令牌数量方面优于文献中当前使用的所有每帧基线。Phenaki 可以根据开放域中的一系列提示(即时间可变文本或故事)生成任意长视频。据我们所知,这是第一次有论文研究从时间变量提示生成视频。此外,所提出的视频编码器-解码器在时空质量和每个视频的令牌数量方面优于文献中当前使用的所有每帧基线。
类似的工具

闪剪_AI智能剪辑_数字人营销
零基础、零门槛,轻松生成IP视频~限时领取会员大礼包

Decoherence
创建AI动画并将其与你的音乐...

pollinations
我们结合并微调算法以匹配任...

PixelForge
制作一个更短的视频版本

Quinvio AI
用人工智能建议来涂鸦你的内...

WowTo
创建操作视频,并在几分钟内...
其他人也看的工具

触手AI绘画-4090极速出图
可以免费使用的AI绘画工具!

Leonardo.ai
使用 AI 创建令人惊叹的游戏资产。我们正在构建市场领先的功能,让您更好地控制您的后代

Turbo logo
在几分钟内制作令人惊叹的徽标

Slidesgo
AI Presentation Maker是解决PPT制作难题的理想选择

Coursera学习课
Coursera学习课

BAAI北京智源人工智能研究院
北京智源人工智能研究院(简称:智源研究院 Beijing Academy of Artificial Intelligence,BAAI)是人工智能领域的新型研发机构。2018年11月14日,在科技部和北京市支持下,联合北京人工智能领域优势单位共建。