什么？大模型也许很快就能生成《黑神话·悟空》这种3A大作了？！

《西游记》这就上桌，搭配BGM，有内味儿了（doge）。

这就是腾讯近日推出的GameGen-O，一个专门生成开放世界视频游戏的Transformer模型。

简单说，这个模型能够模拟各种游戏引擎功能，生成游戏角色、动态环境、复杂动作等等。

当然也支持交互控制，用户可以通过文本、操作信号和视频提示来控制游戏内容。

消息一公布就在（前推特）开启了刷屏模式，网友们开始列队尖叫：

游戏工作室Azra Games的联创兼CTO更是直言：

GameGen-O将成为游戏工作室的ChatGPT时刻。

“游戏工作室迎来ChatGPT时刻”

具体来说，这个项目由腾讯联合港科大、中国科大推出。

推测想要做的事儿，是用AI模型替代一些游戏开发环节。比如目前公布的游戏角色创建、游戏环境生成、动作生成、事件生成以及各种交互控制。

下面我们挨个预览一波~

现在，用GameGen-O就能直接生成各种角色了，西部牛仔、太空人、魔法师、警卫……一键生成。

经费不足造成真实取景困难，也有plan B了！

给队友展示骚操作，各种人称视角的动作生成也能轻松拿捏。

游戏必备环节——给玩家偶尔上亿点难度，海啸、龙卷风、火灾事件这就安排（doge）。

与此同时，GameGen-O也支持开放域生成，即不限风格、环境、场景那种。

最后，用文本、操作信号和视频提示就能实现交互，向左、向右、走向黎明……

好家伙，谁都知道游戏开发有多烧钱，这下，普通玩家也能用GameGen-O制作游戏了。

一位AI架构师网友更是断言：

用GPT-4o标注数据

为了开发这个模型，团队自述主要进行了两项工作：

构建专有数据集OGameData，采用GPT-4o标注数据

经历两个阶段的训练过程

具体来说，团队首先提出了一个数据集构建管道。

团队从互联网上收集了32,000个原始视频，这些视频来自数百款开放世界游戏，时长从几分钟到几小时不等，类型包括角色扮演、第一人称射击、赛车、动作益智游戏等。

然后由人类专家对这些视频进行识别和筛选，最终得到大约15,000个可用视频。

下一步，将筛选后的视频通过场景检测技术切割成片段，并对这些视频片段进行基于美学、光流和语义内容的严格排序和过滤。

接下来使用GPT-4o对超过4,000小时的高质量视频片段进行细致的注释，这些片段的分辨率从720p到4k不等。

为了实现交互控制性，团队从注释后的数据集中选择最高质量的片段，并进行解耦标签（decoupled labeling）。

这种标签设计用于描述片段内容状态的变化，确保训练模型的数据集更加精细和互动。

对于这种人类专家和GPT-4o一起工作的形式，有网友认为：

这是递归自我改进（recursive self-improvement）的一种形式。（人类专家确保了注释的准确性，并通过反馈机制帮助GPT-4o进行自我改进）

完成数据准备工作后，团队经过基础预训练+指令调整两个过程来训练GameGen-O。

在基础训练阶段，GameGen-O模型使用了一个2+1D VAE（变分自编码器，如Magvit-v2）来压缩视频片段。

为了使VAE适应游戏领域，团队对VAE解码器进行了特定领域的调整。

团队采用了不同帧速率和分辨率的混合训练策略，以增强跨帧率和跨分辨率的泛化能力。

另外，模型的整体架构遵循了Latte和OpenSora V1.2框架的原则。

通过使用掩码注意力机制，让GameGen-O具备了文本到视频生成和视频续集的双重能力。

团队介绍称：

这种训练方法，结合OGameData数据集，使得模型能够稳定且高质量地生成开放领域的视频游戏内容，并为后续的交互控制能力奠定了基础。

在这之后，预训练的模型被固定，然后使用可训练的InstructNet进行微调，这使得模型能够根据多模态结构指令生成后续帧。

InstructNet主要用于接受各种多模态输入，包括结构化文本、操作信号和视频提示。

在InstructNet分支的调整过程中，当前内容被用作条件，从而在当前片段内容和未来片段内容之间建立了映射关系，这在多模态控制信号下进行。

造成的结果是，在推理时，GameGen-O允许用户基于当前片段不断生成和控制下一个生成的片段。

目前，GameGen-O已创建GitHub官方仓库，只不过还没来得及上传代码。

感兴趣的童鞋可以先收藏一波了~