谷歌AI工具Veo 3生成的种族主义视频在TikTok浏览量达数百万

近日，非营利监督机构Media Matters发现，利用谷歌AI视频工具Veo 3制作的短片段在TikTok上大量传播，尽管明显违反平台规则，仍累积数百万浏览量。这些时长8秒或更短的视频包含种族主义和反犹太主义图像，大多聚焦于对黑人、移民及犹太和亚裔群体的非人化刻画，许多视频带有“Veo”水印，相关标签和用户名直接提及AI或Veo。谷歌5月推出的Veo 3本应阻止宣扬暴力、虐待或歧视的内容，但其安全过滤机制未能有效拦截恶意内容。此类有害内容还出现在YouTube、Instagram和X等平台。谷歌计划将Veo 3集成到YouTube Shorts，可能加剧风险。尽管谷歌和TikTok均有禁止仇恨内容的政策，但AI工具难辨种族意象背后的细微差别。