虛假AI《終極動員》影片誤導粉絲

Apr 02,26

Google 已揭曉一款功能強大的 AI 影片生成工具,其精細程度足以產製令人信服的《要塞戰士》(Fortnite)遊戲片段,幾乎無法與真實畫面區分。

本週推出的 Veo 3 已因具備令人憂慮的生成能力而引發廣泛關注——僅憑簡單的文字提示,即可生成逼真的影像,並搭配真實感十足的音訊。

儘管其他生成式 AI 程式,如 OpenAI 的 Sora,也曾提供類似功能,但 Veo 3 將栩栩如生的音訊整合進生成流程,無疑是一項令人震撼、卻也令人不安的重大技術突破。

播放使用者仍在探索 Veo 3 的極限,但僅僅兩天內,已有人開始製作《要塞戰士》遊戲影片,內容包括虛構的實況主提供即時解說。生成結果逼真到讓人難以分辨,社交媒體上的觀眾很可能誤以為這是來自 YouTube 或 Twitch 的真實影片。

從技術層面來看,Veo 3 應不會侵犯版權內容——且可合理推斷,《要塞戰士》開發商 Epic Games 並未授權此用途。然而,這項 AI 工具明顯是基於網路上無數小時的《要塞戰士》遊戲畫面進行訓練,如今能隨時產製極具說服力的仿製內容。

一段廣為流傳的影片,描繪一位實況主僅憑一把鐵鎬便贏得「勝利 Royale」,據稱僅使用九個字的文字提示生成:「實況主僅憑鐵鎬獲勝 Royale」。

呃……我覺得 Veo 3 應該不會是用來生成《要塞戰士》遊戲畫面的吧。twitter.com/bWKruQ5Nox
— Matt Shumer (@mattshumer_) 2025 年 5 月 21 日

值得注意的是,該提示並未明確提及《要塞戰士》。AI 卻自行推斷出上下文,並從「勝利 Royale」一詞中辨識出屬於大逃殺類型遊戲、且專屬《要塞戰士》的特定語境。

Veo 3 的能力所引發的問題,早已超越版權爭議。能輕易製作如此逼真的合成媒體,勢必為意圖傳播假訊息之人提供助力,進而動搖公眾對真實影像證據的信任。

社交媒體上的反應顯露出深切不安。「我無法判斷這是否真實,」有人留言。另有人直言:「我們完了。」

「這唯一可能的原因是,Veo 3 是經過大量《要塞戰士》內容訓練而成,」第三位網友指出,「我一點也不會感到驚訝——如今每當有人上傳影片到 YouTube,恐怕都已被用來訓練模型,即使違反版權法。」

IGN 已向 Epic Games 檢討其立場。

為更深入了解 Veo 3 在遊戲以外的潛力,以下為 AI 生成一段虛構的新聞報導,內容關於一場並不存在的汽車展覽,並包含虛構受訪者回答虛構提問的片段。

在你問之前:是的,這裡一切都是 AI 所為。影片與音訊皆來自單一文字提示,使用 #Veo3 由 @GoogleDeepMind 所開發。無論是誰在操縱模型,就讓他繼續發揮吧!恭喜 @Totemko 與團隊成功在 Google I/O 現場直播,並推出新的 Veo 官方網站!pic.twitter.com/sxZuvFU49s
— László Gaál (@laszlogaal_) 2025 年 5 月 21 日

微軟亦對 AI 生成遊戲畫面表現出濃厚興趣。近期,微軟展示其 Muse 計畫的早期成果,該計畫曾耗費無數小時的遊戲畫面,訓練對象為 Xbox 射擊遊戲《流血邊緣》(Bleeding Edge)。微軟遊戲部門總裁 Phil Spencer 表示,Muse 未來有望協助構思新遊戲,甚至參與遊戲保存工作。

然而,Muse 的公開隨即引來相關生成假遊戲畫面的案例,例如為經典射擊遊戲《雷神之錘 2》(Quake 2)製作的仿製片段,進一步加劇爭議。批評者質疑,此類工具是否將削弱就業機會,或貶損遊戲開發過程中的人類創作價值。

《要塞戰士》本身也並非首度引入 AI 技術。上周,遊戲新增一項功能,讓玩家能與《星際大戰》中的達斯·維達對話,而對方的回應則是基於已故 James Earl Jones 的聲音所訓練的生成式 AI。雖然此聲音已取得官方授權,且先前曾獲 Jones 及其遺產管理單位批准,用於迪士尼《歐比王·肯諾比》系列等項目,但此舉仍引來演員工會 SAG-AFTRA 的強烈譴責,並控訴其構成不公平勞動行為。

Copyright © 2024 wangye1.com All rights reserved.