虚假视频信息一直困扰着全世界的网络平台和用户，在AI技术与短视频制作融合后，它的风险和危害变得更加明显。利用AI系统，用户可以任意创建和编辑视频，这就意味着在短视频造假上面，它不但能够以假乱真，更能“无中生有”。2017年，Reddit网站用户利用Deepfake（深度伪造）技术制作色情视频并提供开源后，Deepfake技术便在被滥用的路上越走越远，境外社交媒体上充斥着此类短视频。有境外机构统计称，在所有Deepfake创作的视频中，色情视频占据了96%，“Deepfake已经成为攻击女性强有力的武器”。甚至还有变种，如DeepNude软件可以将照片一键生成裸照，不需要任何技术或者硬件支持；Deepfake音频可以利用算法复制人们的声音，模仿音色、语调甚至言谈举止习惯，目前境外已经公开报道了三起Deepfake音频诈骗案例。

而且这一技术已经不可避免地侵入到政治领域，在境外社交媒体发挥影响力。奥巴马、特朗普、佩洛西、默克尔、马斯克等欧美政客名人的“换脸”视频屡见不鲜，2019年元旦，西非国家加蓬发布的一段经过深度伪造的总统讲话还引发国家动荡。随着技术不断升级，虚假图片、音频、视频的合成更为容易，视频造假的内容也在不断扩展。据外媒报道，2020年2月初，在印度德里邦议会选举中，印度人民党（Bharatiya Janata Party）的候选人之一Manoj Tiwari，用视频造假技术拉拢小语种选民。视频中，并不擅长哈里亚纳语的Tiwari，讲着流利的哈里亚纳语，呼吁大家向印度人民党投票。该视频在WhatsApp上引起大量传播，近5800个WhatsApp群组约1500万人进行观看。美国安全专家曾发出警告，称Deepfake可能成为对下届美国总统大选造成影响的最有威胁的人工智能技术之一。(www.daowen.com)