俄罗斯正在制作逼真的AI合成假视频,展示乌克兰士兵抱怨前线恶劣条件、指责指挥失误和士气低落,试图制造乌军内部混乱和崩溃的印象 [1, 2, 3]。这些视频多以TikTok为首发平台,随后通过俄罗斯和乌克兰流行的Telegram频道扩散,进而进入Facebook、X(推特)、Instagram和YouTube等社交媒体 [1, 2, 3]。
位于阿姆斯特丹的AI视频安全公司Sensity AI监测到此类视频的拍摄风格、用词和情境高度相似,表明背后有集中协调,且可能来自俄罗斯官方渠道 [1, 2, 3]。视频中士兵的话语通常针对乌军高层进行指责,旨在动摇乌军士气以及乌克兰平民和国际支持者的信心 [1, 2, 3]。
随着完全AI生成视频的技术提升,此类假视频越来越难以识别。传统深度伪造中的异常眼动等缺陷减少。目前,专家建议通过观察士兵头盔和制服细节、火焰和流水动画变化,以及动作连贯性等细节来鉴别真伪 [1, 2, 3]。Sensity AI创始人弗朗切斯科·卡瓦利指出,“TikTok是首发站,因为其内容审核较为宽松,更容易快速积累观看量。视频一旦广泛转发,平台即使删除部分内容,也难以阻止其后续传播” [1]。
卡瓦利还警告,随着生成式AI工具普及、制作成本大幅降低,其他国家和政治势力可能效仿俄方的AI宣传战争手法。他呼吁社交媒体平台必须强制标注AI生成内容,并推动全球范围内加强数字监管,防止人工智能被恶意利用 [1, 2, 3]。
Sensity AI自约2024年7月起持续追踪此类AI假战视频的传播趋势,表明此类认知战已有多年演变 [1, 2, 3]。