背景
10月末的某一天，Timotius Susanto和往常一样，用他的TikTok账号发了几条短视频。他的视频浏览量通常并不高，不会超过300次，转评赞的数量更是少得可怜。
但这一天，“奇迹”发生了——他的一条关于“印尼总统佐科说中文”的视频火了，播放量超过200万次，并带来了10万点赞和近万条评论。
视频中，佐科穿着黑色西装，打着红色领带，在讲台上一脸严肃地说：“女士们，先生们，我曾经是一个商人，长达22年之久……七周前我建立了一个庞大的茶叶管理社群，致力于促进行业发展，提供交流和经验分享平台，吸引热爱茶叶的人参与。我们现在正在进行第5个茶叶监管方案，并且正在准备第6个监管方案……”
Timotius Susanto发布的“佐科说中文”的视频截图，该视频目前已经被删除
一些印尼网友信以为真，在评论区写道：“我们的总统真棒，他可以说普通话。”
但很快，印尼的通信和信息技术部发现了这条视频。他们发布声明称：“该视频具有误导性剪辑。视觉上，该视频与YouTube频道“美国-印尼协会”（USINDO）于2015年11月13日上传的视频完全相同，但其剪辑方式被认为是利用了‘深假’（Deepfake）人工智能（AI）技术。佐科总统在演讲中没有使用普通话，因此这是一则虚假信息。”
不久后，Susanto发布的这条视频从他的TikTok账号上消失了。
印尼通信和信息技术部发布的声明截图。
印尼通信和信息技术部在通告中提到的这项“深假”技术其实并不新奇。早在2017年，社交平台Reddit上便出现了以“深假”为名的子版块，一些人利用“换脸”技术将名人肖像植入色情视频以赚取流量。
本质上，“深假”视频是一类由机器生成的视频，它可以改变人脸、身体或声音，让人们看起来做了他们从未做过的事或说了未说过的话。一些技术甚至可以在视频中添加物品、歪曲现实。近年来，随着人工智能技术的崛起和相关工具使用门槛的降低，越来越多包含深假技术的视频被生产出来，并日益发展出了新的应用场景。
例如，就在印尼官方发文澄清“佐科说中文”的视频是虚假信息同时，中文网络上流传着另一条外国名人说中文的视频，其主角是美国歌星泰勒·斯威夫特。视频中，她用一种接近两广地区口音的中文，表达了自己对新专辑的想法，无论是音色还是口型，都像是出自斯威夫特本人之口。
网络上流传的“泰勒·斯威夫特”说中文的视频截图。
与佐科说中文的视频不同，斯威夫特讲中文的视频从一开始便打上了AI制作的标签。它的制作者@Gorden_Sun在推特上透露，自己使用了一款名为Heygen的工具。这款工具的使用方式多种多样，其中有一项名为“视频翻译”的功能，只需上传视频并选择语言便可以达到改变语言的效果。
利用Heygen，只需上传视频并选择语言便可以达到改变视频语言的效果。
Heygen目前能够提供的翻译语言有20多项，包括中文、英文、日语、法语等。而近日在社交平台上出现的赵本山、范伟、蔡明等名人说英文的视频，也是通过这款工具制作的。
@Gorden_Sun还提供了一套制作类似视频的开源替代方案，包括用Whisper进行语音转文字，用ChatGPT做文字翻译，用So-vits-svc做声音克隆并生成音频，用GeneFace++生成符合音频的嘴型等。
无可否认，“深假”的出现为部分有需求的人群带来了便利。但近年来，一些负面案例的出现也使得这项技术陷入了巨大争议。例如2022年3月，在俄乌冲突爆发初期，一段显示乌克兰总统泽连斯基劝士兵投降的视频在社交平台上流传，后被验证是用“深假”技术制作的；今年10月，脸书等平台上出现了一段用深假技术制作的视频，称拜登为支持以色列对巴勒斯坦组织哈马斯的战争，似乎准备征兵。
当越来越多诸如此类的“深假”视频被嵌入舆论场，变成一种武器，影响大众认知时，我们的疑问是：有没有什么方法，是可以帮助我们检测“深假”视频的？此处，“澎湃明查”为大家梳理了发现“深假”视频的方法和策略。
工具
对于事实核查员来说，发现“佐科说中文”的视频经过篡改并非难事。在面对视频资料时，核查员的第一反应往往是：这是否是新近出现的视频？是否能够找到视频发布的准确日期和拍摄地？
“澎湃明查”此前曾分享过有关“视频关键帧反搜”的方法，即可以通过提取视频中的关键帧图片，再对图片内容进行反向搜索，以判断网络上是否存在相同或类似的视频。这个方法对“深假”视频同样适用——法新社的事实核查团队便是通过这种方法，找到了佐科发言的视频的源头。这启示我们，在面对任何真假难辨的视频时，都可以先试一试关键帧反搜的方法。
“佐科说中文”视频的来源截图。
与之相辅相成的，还有关键词检索的方式。由于绝大多数“深假”视频是围绕社会名流、政治人物展开的，网络上往往充斥着大量与其相关的信息，我们可以通过查找这些人物的动态来辅助验证信息的可靠性。
除了关键帧反搜，许多深假视频本身的细节也能够传递出“疑似虚假”的信号。例如，一些深假视频会替换人物的面部，这可能导致人物的面部细节并不自然，在人眼周围可能出现暗淡的阴影、不真实的面部毛发、过于光滑或有皱纹的皮肤、虚构的痣和不自然的唇色等。
在面部细节上，如果人物双眼的反光并不一致，或人物口腔内部的结构呈现模糊的状态，这也有可能是“深假”视频的信号，因为人工智能技术往往不能完美再现人们说话时的口腔内部和眼球中的倒影。
美国麻省理工学院Detect Fakes实验项目的“深假”视频样本，其中人物口腔内部的结构呈现出模糊状态。
此外，如果替换仅限于面部而未包含身体，那么便有可能导致画面中的人物的身体和脸部比例不协调，或面部表情和身体动作或姿势不协调，这些都是判断潜在的“深假”视频的技巧。
除了画面图像信息外，一些技术专家还会留心视频中的音频，如视频的声音是否像正常人那样，会在句子之间停顿、喘息；使用的词语是否自然、符合口语特征；听起来是否像机器音等。
布法罗大学计算机科学与工程系教授、该校信息正直中心（Center for Information Integrity）联合主任吕思伟（Siwei Lyu）在接受事实核查机构PolitiFact采访时则提到，判断深假视频还有一个关键标志，即视频的音频是否与人物的嘴部动作同步。
吕思伟研究深假视频已有20余年，并运行着一个名为DeepFake-o-meter的程序，该程序可以测试视频是否有被篡改的痕迹。这也是近年来人们应对“深假”视频的策略之一，即利用检测软件辅助判断视频是否使用了人工智能技术。
吕思伟的DeepFake-o-meter项目简介。该项目因被恶意使用，目前已不再对外开放。
遗憾的是，吕思伟表示，DeepFake-o-meter曾向公众开放，但由于被恶意使用，现在已不再开放。
如今市场上存在各类检测“深假”视频的工具，一些大型科技公司也披露了其各自使用的防“深假”视频的算法。例如去年11月，英特尔（Intel）发布了一款名为FakeCatcher的实时“深假”检测工具，声称其能够达到96%的检测准确率。BBC对这款工具进行了测试，肯定了其功能，但怀疑在现实世界中进行实际测试时，它们的准确性可能会大打折扣。
在吕思伟看来，阻止“深假”视频被恶意传播的解决方案之一其实很简单，即在看到它们时不要分享。
对于事实核查员而言，分享鉴别“深假”视频的方式并不是为了阻碍技术的发展，而是为了提供一把判断的量尺，减轻虚假信息对社会的负面影响。
“澎湃明查”也将持续关注“深假”视频技术的发展动态，探寻帮助人类在享受技术便利性同时应对技术应用可能导致的虚假信息泛滥之法，并分享给大家。
,一键实习推荐信 换头、换身又换声？究竟什么是“深假”相关：
《正欲》曝片场特辑剧照 新垣结衣挑战“水上漂” 11月17日，电影《正欲》发布一组片场照及一则拍摄特辑。特辑中，既还原了新垣结衣在片中的名场面——穿衣在泳池水面上仰卧漂浮，也曝光了一些导演岸善幸与主演们交流修改细节的对话。《正欲》由岸善幸执导，稻垣吾郎、新垣结衣、矶村勇斗、佐藤宽太、东野绚香等主演。影片以多线叙事描述5位各异的角色：讨厌社交的上班族男子、年过三十的单身女性、运营着视频账号的小学生、对异性恐惧的女大学生和独来独往的男舞者，彼此看似..
《我本是高山》曝终极预告海报 燃灯精神高山回响 11月17日，根据张桂梅真实事迹改编的电影《我本是高山》发布“生为人杰”版终极预告、海报及全阵容角色剧照。终极预告力量感十足，张校长（海清饰）的内心独白“为了小孩子委屈了这群大孩子”让人看到了张校长内心柔软的一面，而一句“给我考出去”，又让人热血沸腾。张校长希望大山女孩们有选择的权利，可以做主自己的人生，真实再现了丽江华坪女子高级中学全体师生不惧万山险阻，立于高山之巅的热血征程。海报中，海清饰演的..
剧版《史密斯夫妇》曝新剧照 2024年2月2日开播 剧版《史密斯夫妇》发布一组新剧照，唐纳德·格洛弗、玛雅·厄斯金扮演的史密斯夫妇亮相，该剧定档2024年2月2日开播。据悉，该剧将重现电影版《史密斯夫妇》的故事：约翰和简被一家神秘的间谍机构雇用，冒险进入间谍活动、婚姻世界，并学会密切地驾驭两者。此前，剧版主演兼编剧格洛弗表示，自己是接受项目后才看的原版电影，虽然布拉德·皮特和安吉丽娜·朱莉这对俊男美女让电影成为经典，但很难再现那种感觉。因此他希望这版..
《迷你特工队之汉堡大作战》曝“超变合体”片段 近日，动画电影《迷你特工队之汉堡大作战》发布“超变合体”片段，电影讲述了关于勇气和成长的故事，小动物高燃变身超级英雄的反差，召唤超级恐龙机甲的炫酷，以及团结作战的感动，让它成为亲子受众的11月观影首选。片段中，队长福乐终于回归队伍，以完全体出战的迷你特工队重振旗鼓，合体召唤出实力最强的战斗机甲——超变合体暗龙王，迎战破坏城市的强大敌人。走进电影院观看《迷你特工队》的小朋友中，有不少都是看过动画版..
第二届华语纪录电影大会开幕 三十二部作品参赛 11月16日下午，由中央广播电视总台、中国文学艺术界联合会、中共广东省委宣传部指导，中央新闻纪录电影制片厂（集团）、中国电影家协会、中共珠海市委宣传部主办的第二届华语纪录电影大会在广东珠海开幕，为期三天。中国广播电视社会组织联合会副会长童刚，珠海市委书记、广东省委横琴工委书记陈勇等各界嘉宾，出席开幕仪式。本届华语纪录电影大会秉承“中国夜色、国际视野、人文情怀”的办会理念，共征集了《雪豹和她的朋友们..
李雪琴献唱《无价之宝》 谈观后感：电影后劲儿大 近日，由张大鹏执导，韩三平监制，张译主演的电影《无价之宝》发布宣传推广曲《空荡荡》。在歌曲MV中，不管是歌词，还是影像画面，都以片中女儿芊芊的视角，重新走进这个“改装家庭”。“石头”石振邦（张译 饰）和杨武（潘斌龙 饰）这对落魄兄弟靠经营五金店艰难维生，为追讨欠款，他们不得不暂时照看欠债人的孩子芊芊（周依然/程曦 饰）。两人在与芊芊的相处中，态度从最初嫌弃“拖油瓶”，潜移默化地转变成千方百计“为..
《爆裂点》曝新特辑 张家辉陈伟霆“亲如父子” 11月17日，硬核动作电影《爆裂点》发布“防爆警察”张家辉特辑及剧照。影片由林超贤担任监制、故事及总导演，唐唯瀚导演，张家辉、陈伟霆、梁洛施领衔主演，谭俊彦、姜皓文主演，周秀娜友情演出，杨祐宁特别客串，将于12月8日全国上映。张家辉时隔多年再次出演警察形象，戏内演绎即便身心俱疲也要坚守底线的好警察，戏外则与陈伟霆相互扶持薪火传递。电影《爆裂点》讲述了缉毒总督察李振邦（张家辉 饰）和卧底警员江铭（陈伟..
周冬雨新片《热搜》曝海报 展现网络舆论众生相 11月16日，电影《热搜》举办超前观影活动，导演忻钰坤，演员周冬雨、袁弘、王皓、石蕊、张煜雯、钟晨瑶一同出席，与众位来自自媒体行业的观众进行了一场“爆款选题”交流会。电影中，一群自媒体人为被性侵女孩发声，与强权对抗，展开了一场“网络舆论战”。而真相背后所揭露的“校园选妃利益链”更是触目惊心，少女从课桌被送上酒桌，权势操控舆论，种种“够真够猛”的现实话题，引来了现场观众的不断热议。不少观众在观影后直..
法老说唱《拯救嫌疑人》联动曲 温暖母爱让人动容 犯罪悬疑电影《拯救嫌疑人》正在热映中，影片正式发布由法老、魏允熙演唱，法老、赵佳霖作词，法老、赵佳霖作曲的联动曲《仰望》，通过快节奏的说唱感受悬疑故事下温暖的母爱和强大的情感爆发。影片由张末执导，张小斐、李鸿其领衔主演，惠英红、王子异特邀主演，洪浚嘉、尹子维、包上恩、王弋萱主演，汤镇业特别出演，刘欢、来喜友情出演。电影《拯救嫌疑人》讲述了两位母亲为了孩子不顾一切为爱反击的故事，其为爱奔走的坚持..
《吾爱敦煌》上映 用光影纪录“敦煌女儿”樊锦诗 由苗月执导，韩梅担任总制片人，陈瑾领衔主演，林永健、黄品沅、张政勇、宫哲、李沐然联合主演的传记历史电影《吾爱敦煌》正式上映。电影以“敦煌女儿”樊锦诗的工作生活经历进行改编创作，运用纪实与叙事穿插的手法展现了历代科研人员如何在敦煌开展文物保护工作，并以此篇向他们的坚守精神表示崇高的敬仰。 用光影纪录“敦煌女儿”樊锦诗 六十年坚守甘为孺子牛 电影《吾爱敦煌》前不久于北京和敦煌举办了首映礼活动，现场观..