虚假AI《堡垒之夜》视频误导粉丝
谷歌已推出一款功能强大的AI视频生成工具,其生成的《堡垒之夜》游戏片段逼真到几乎无法与真实影像区分开来。
本周发布的Veo 3已引发广泛关注,因其具备从简单文本提示生成逼真视频并附带真实音效的能力,展现出极具未来感甚至令人不安的技术突破。
尽管其他生成式AI工具(如OpenAI的Sora)也具备类似功能,但Veo 3首次将高度拟真的音效集成其中,标志着人工智能在媒体生成领域实现了一次显著却令人不安的飞跃。
用户仍在探索Veo 3的边界,但仅在两天内,已有人开始创作带有虚构主播解说的《堡垒之夜》游戏视频。这些输出效果如此逼真,社交平台上浏览内容的观众极有可能误以为这是来自YouTube或Twitch的合法剪辑。从技术角度看,Veo 3本不应侵犯任何版权内容——可以肯定的是,《堡垒之夜》开发商Epic Games并未授权此类使用。然而,该AI工具显然已基于网络上海量的《堡垒之夜》游戏录像进行训练,如今能够按需复现极具说服力的仿制品。
一段广为流传的视频中,一名主播仅用一把铁镐便赢得胜利,据称仅通过一个九词文本提示生成:“主播仅用铁镐获得胜利大逃杀”。
呃……我觉得Veo 3不该生成《堡垒之夜》的游戏画面吧。twitter.com/bWKruQ5Nox
—— Matt Shumer (@mattshumer_) 2025年5月21日
值得注意的是,该提示中并未明确提及《堡垒之夜》。AI通过“胜利大逃杀”这一术语自行推断出上下文,准确识别出其所属的游戏类型及具体作品。
Veo 3的强大能力所引发的,远不止版权争议。此类高度逼真的合成媒体极易被用于传播虚假信息,从而严重削弱公众对真实视频证据的信任。
社交媒体上的反应也反映出普遍的焦虑。“我分不清这是真是假,”有人留言。“我们完了。”
“唯一可能的解释是,Veo 3接受了海量《堡垒之夜》内容的训练,”另一位用户指出,“我一点都不惊讶,如今上传到YouTube的每一段内容,可能都在未经许可的情况下被用于训练模型。”
IGN已就此事联系Epic Games寻求回应。
为更深入理解Veo 3在游戏之外的潜力,以下是一个AI生成的虚假新闻报道示例:虚构一场并不存在的汽车展销会,包括虚假采访对象,他们正在回答由AI构想出的问题。
在你提问之前:是的,这里的一切都是AI生成的。视频与音效均来自单一文本提示,使用#Veo3 由 @GoogleDeepMind。谁在训练这个模型,就让他继续做吧!祝贺 @Totemko 及其团队在Google I/O现场直播和全新Veo网站发布!pic.twitter.com/sxZuvFU49s
—— László Gaál (@laszlogaal_) 2025年5月21日
微软也对AI生成的游戏画面表现出浓厚兴趣。该公司最近展示了其Muse项目早期成果,该模型基于《Xbox射击游戏<血之边缘>》的海量游戏录像训练而成。微软游戏部门首席执行官菲尔·斯宾塞表示,Muse未来或可协助构思新游戏,甚至参与游戏遗产保存工作。
然而,Muse的发布紧随其后,便出现其生成《雷神之锤2》经典射击游戏虚假玩法片段的例子,进一步加剧了争议。批评者质疑此类工具是否将削弱就业机会,或贬低游戏开发过程中的人类创造力。
《堡垒之夜》本身也早已涉足AI应用。上周,该游戏推出新功能,允许玩家与《星球大战》中的达斯·维达对话,后者通过基于已故詹姆斯·厄尔·琼斯声音训练的生成式AI进行回应。尽管该声音已获官方授权,并曾获得琼斯本人及其遗产管理方对《迪士尼欧比旺》系列等项目的认可,但这一举措仍迅速引发强烈谴责,并遭到演员工会SAG-AFTRA指控为不公平劳动行为。


