背景
10月末的某一天，Timotius Susanto和往常一样，用他的TikTok账号发了几条短视频。他的视频浏览量通常并不高，不会超过300次，转评赞的数量更是少得可怜。
但这一天，“奇迹”发生了——他的一条关于“印尼总统佐科说中文”的视频火了，播放量超过200万次，并带来了10万点赞和近万条评论。
视频中，佐科穿着黑色西装，打着红色领带，在讲台上一脸严肃地说：“女士们，先生们，我曾经是一个商人，长达22年之久……七周前我建立了一个庞大的茶叶管理社群，致力于促进行业发展，提供交流和经验分享平台，吸引热爱茶叶的人参与。我们现在正在进行第5个茶叶监管方案，并且正在准备第6个监管方案……”
Timotius Susanto发布的“佐科说中文”的视频截图，该视频目前已经被删除
一些印尼网友信以为真，在评论区写道：“我们的总统真棒，他可以说普通话。”
但很快，印尼的通信和信息技术部发现了这条视频。他们发布声明称：“该视频具有误导性剪辑。视觉上，该视频与YouTube频道“美国-印尼协会”（USINDO）于2015年11月13日上传的视频完全相同，但其剪辑方式被认为是利用了‘深假’（Deepfake）人工智能（AI）技术。佐科总统在演讲中没有使用普通话，因此这是一则虚假信息。”
不久后，Susanto发布的这条视频从他的TikTok账号上消失了。
印尼通信和信息技术部发布的声明截图。
印尼通信和信息技术部在通告中提到的这项“深假”技术其实并不新奇。早在2017年，社交平台Reddit上便出现了以“深假”为名的子版块，一些人利用“换脸”技术将名人肖像植入色情视频以赚取流量。
本质上，“深假”视频是一类由机器生成的视频，它可以改变人脸、身体或声音，让人们看起来做了他们从未做过的事或说了未说过的话。一些技术甚至可以在视频中添加物品、歪曲现实。近年来，随着人工智能技术的崛起和相关工具使用门槛的降低，越来越多包含深假技术的视频被生产出来，并日益发展出了新的应用场景。
例如，就在印尼官方发文澄清“佐科说中文”的视频是虚假信息同时，中文网络上流传着另一条外国名人说中文的视频，其主角是美国歌星泰勒·斯威夫特。视频中，她用一种接近两广地区口音的中文，表达了自己对新专辑的想法，无论是音色还是口型，都像是出自斯威夫特本人之口。
网络上流传的“泰勒·斯威夫特”说中文的视频截图。
与佐科说中文的视频不同，斯威夫特讲中文的视频从一开始便打上了AI制作的标签。它的制作者@Gorden_Sun在推特上透露，自己使用了一款名为Heygen的工具。这款工具的使用方式多种多样，其中有一项名为“视频翻译”的功能，只需上传视频并选择语言便可以达到改变语言的效果。
利用Heygen，只需上传视频并选择语言便可以达到改变视频语言的效果。
Heygen目前能够提供的翻译语言有20多项，包括中文、英文、日语、法语等。而近日在社交平台上出现的赵本山、范伟、蔡明等名人说英文的视频，也是通过这款工具制作的。
@Gorden_Sun还提供了一套制作类似视频的开源替代方案，包括用Whisper进行语音转文字，用ChatGPT做文字翻译，用So-vits-svc做声音克隆并生成音频，用GeneFace++生成符合音频的嘴型等。
无可否认，“深假”的出现为部分有需求的人群带来了便利。但近年来，一些负面案例的出现也使得这项技术陷入了巨大争议。例如2022年3月，在俄乌冲突爆发初期，一段显示乌克兰总统泽连斯基劝士兵投降的视频在社交平台上流传，后被验证是用“深假”技术制作的；今年10月，脸书等平台上出现了一段用深假技术制作的视频，称拜登为支持以色列对巴勒斯坦组织哈马斯的战争，似乎准备征兵。
当越来越多诸如此类的“深假”视频被嵌入舆论场，变成一种武器，影响大众认知时，我们的疑问是：有没有什么方法，是可以帮助我们检测“深假”视频的？此处，“澎湃明查”为大家梳理了发现“深假”视频的方法和策略。
工具
对于事实核查员来说，发现“佐科说中文”的视频经过篡改并非难事。在面对视频资料时，核查员的第一反应往往是：这是否是新近出现的视频？是否能够找到视频发布的准确日期和拍摄地？
“澎湃明查”此前曾分享过有关“视频关键帧反搜”的方法，即可以通过提取视频中的关键帧图片，再对图片内容进行反向搜索，以判断网络上是否存在相同或类似的视频。这个方法对“深假”视频同样适用——法新社的事实核查团队便是通过这种方法，找到了佐科发言的视频的源头。这启示我们，在面对任何真假难辨的视频时，都可以先试一试关键帧反搜的方法。
“佐科说中文”视频的来源截图。
与之相辅相成的，还有关键词检索的方式。由于绝大多数“深假”视频是围绕社会名流、政治人物展开的，网络上往往充斥着大量与其相关的信息，我们可以通过查找这些人物的动态来辅助验证信息的可靠性。
除了关键帧反搜，许多深假视频本身的细节也能够传递出“疑似虚假”的信号。例如，一些深假视频会替换人物的面部，这可能导致人物的面部细节并不自然，在人眼周围可能出现暗淡的阴影、不真实的面部毛发、过于光滑或有皱纹的皮肤、虚构的痣和不自然的唇色等。
在面部细节上，如果人物双眼的反光并不一致，或人物口腔内部的结构呈现模糊的状态，这也有可能是“深假”视频的信号，因为人工智能技术往往不能完美再现人们说话时的口腔内部和眼球中的倒影。
美国麻省理工学院Detect Fakes实验项目的“深假”视频样本，其中人物口腔内部的结构呈现出模糊状态。
此外，如果替换仅限于面部而未包含身体，那么便有可能导致画面中的人物的身体和脸部比例不协调，或面部表情和身体动作或姿势不协调，这些都是判断潜在的“深假”视频的技巧。
除了画面图像信息外，一些技术专家还会留心视频中的音频，如视频的声音是否像正常人那样，会在句子之间停顿、喘息；使用的词语是否自然、符合口语特征；听起来是否像机器音等。
布法罗大学计算机科学与工程系教授、该校信息正直中心（Center for Information Integrity）联合主任吕思伟（Siwei Lyu）在接受事实核查机构PolitiFact采访时则提到，判断深假视频还有一个关键标志，即视频的音频是否与人物的嘴部动作同步。
吕思伟研究深假视频已有20余年，并运行着一个名为DeepFake-o-meter的程序，该程序可以测试视频是否有被篡改的痕迹。这也是近年来人们应对“深假”视频的策略之一，即利用检测软件辅助判断视频是否使用了人工智能技术。
吕思伟的DeepFake-o-meter项目简介。该项目因被恶意使用，目前已不再对外开放。
遗憾的是，吕思伟表示，DeepFake-o-meter曾向公众开放，但由于被恶意使用，现在已不再开放。
如今市场上存在各类检测“深假”视频的工具，一些大型科技公司也披露了其各自使用的防“深假”视频的算法。例如去年11月，英特尔（Intel）发布了一款名为FakeCatcher的实时“深假”检测工具，声称其能够达到96%的检测准确率。BBC对这款工具进行了测试，肯定了其功能，但怀疑在现实世界中进行实际测试时，它们的准确性可能会大打折扣。
在吕思伟看来，阻止“深假”视频被恶意传播的解决方案之一其实很简单，即在看到它们时不要分享。
对于事实核查员而言，分享鉴别“深假”视频的方式并不是为了阻碍技术的发展，而是为了提供一把判断的量尺，减轻虚假信息对社会的负面影响。
“澎湃明查”也将持续关注“深假”视频技术的发展动态，探寻帮助人类在享受技术便利性同时应对技术应用可能导致的虚假信息泛滥之法，并分享给大家。
,核查：一键食品工业 换头、换身又换声？究竟什么是“深假”相关：
30多名中国籍人员丧生火灾事故？缅甸佤邦政府回应近日在网络上流传一则“佤邦勐波城内一铁皮瓦房发生30多名中国籍人员在11·08 火灾事故中丧生”的消息，11月17日，缅甸佤邦司法工作委员会官方微信公众号发布辟谣声明。声明称，此消息引起佤邦政府高层的高度重视，立即责成佤邦司法委到勐波县实地彻查此事。经调查核实，2023年11月8日当天确有火灾事故发生，火灾导致数人受伤，但未出现任何人员死亡的情况。据了解，此次网传火灾事故造成30多名中国籍人员死亡的消息不属实，网..
湖南博物院藏扇面展开展 扇里扇外意韵悠长 中新网长沙11月17日电 (邓霞 唐婉)色墨盈尺，书画入扇。11月17日，《扇里·扇外——湖南博物院藏扇面展》在湖南博物院开展。展览从该院收藏的千余件扇面中遴选出百余件作品，从扇画意境和扇外情谊两方面，带领观众品味扇画艺术的情与景，重拾扇面雅趣。 11月17日，《扇里·扇外——湖南博物院藏扇面展》在湖南博物院开展。邓霞 摄 扇面是中国书画独具特色的艺术形式，文人雅士将诗、书、画、印等融入其中，方..
深化产教融合 南京航空航天大学成立国家卓越工程师学院 中新网南京11月17日电 (王伟 徐珊珊)南京航空航天大学国家卓越工程师学院16日成立，旨在汇聚校企优势资源，面向工程实践组建联合导师团队，让优秀的教师教学生、卓越的工程师带学生，形成高水平校企联合的“双导师”队伍。 卓越工程师的教育培养，已被列为高等教育高质量发展的重点。9月，第二批国家卓越工程师学院建设高校名单公布。南京航空航天大学、南京理工大学两所江苏高校名列其中。 11月16日下午，南京航..
陕西第一次全国自然灾害综合风险普查获取相关数据近亿条 中新网西安11月17日电 (记者 梅镱泷)“三年多来，组织全省3万多名专业技术人员开展普查工作，共获取全省灾害风险要素数据近亿条，全面完成了普查调查、数据质检和汇交、评估与区划等任务，目前正在试点普查成果应用工作。”陕西省第一次全国自然灾害综合风险普查领导小组办公室常务副主任、陕西省应急管理厅副厅长李虎平17日表示。 图为介绍陕西省第一次全国自然灾害综合风险普查工作情况。 梅镱泷 摄 当日，陕..
重庆首次开展市级普法责任单位普法履职报告评议 中新网重庆11月17日电 (记者 刘相琳)重庆市司法局、市普法办17日组织召开普法责任单位普法履职报告评议会，这是重庆首次以“开门”评议的方式开展普法履职报告评议，旨在严格落实“谁执法谁普法”“谁管理谁普法”“谁服务谁普法”普法责任制，推动“八五”普法广泛开展。 全面推行普法履职报告评议制度，是“八五”普法规划明确的重要任务和落实普法责任制的内在要求，也是促进普法责任单位自觉接受社会监督、切实..
媒体：治理戾气，网络绝不是肮脏的“人性厕所”治理网络戾气！11月17日，中央网信办发布《关于开展“清朗·网络戾气整治”专项行动的通知》，即日起在全国范围内启动为期1个月的“清朗·网络戾气整治”专项行动，将重点坚决打击7方面问题，包括：“网络厕所”“开盒挂人”行为；借社会热点事件恶意诋毁、造谣攻击；污名化特定群体、煽动地域对立等等。《通知》特别要求，坚决取缔以“网络厕所”“开盒挂人”“拉踩引战”等为主题的账号、群组，严肃查处组织斗狠PK、直播约架的..
村民称种植11亩药材被他人铲除，警方通报此前报道残疾村民租地种药材，收割前遭铲毁绝收，预计损失10多万元极目新闻记者 舒隆焕近日，西安临潼区残疾村民魏秦川向极目新闻（报料邮箱：jimu1701@163.com）记者反映，他今年在高陵区租荒地，开荒种植了几十亩中药材（沙苑子），预计11月底成熟收割变卖。然而，在今年10月底，药材地里约11亩药材遭人莫名铲毁，几乎绝收。11月13日，记者实地走访发现，药材地疑似遭到大型机械推平，现场留下密密麻麻宽约30厘米的车辙印，被..
长江三峡库区首次开展深水搜寻打捞演练新华社重庆11月17日电（记者刘潺）11月16日，由长江航道局主办的长江三峡库区首次深水搜寻打捞演练在重庆奉节县关庙沱水域顺利举行。此次演练成功开展，标志着长江航道应急救助力量在长江三峡库区已基本具备深水搜寻打捞能力。长江三峡库区是地质灾害重点防范区，危岩地灾点多面广且隐蔽性强、突发性强，威胁长江黄金水道的航行安全和人民群众的生命财产安全。本次演练模拟三峡库区危岩崩塌导致航行船舶受损后搭载的国家重要物品..
山西吕梁永聚煤业办公楼重大火灾建筑过火面积约900平方米11月17日下午三点，山西省人民政府新闻办公室在吕梁市举行吕梁市离石区永聚煤业办公楼“11·16”重大火灾事故情况通报会。会上，山西省消防救援总队总工程师朱江介绍，发生火灾的办公楼经初步测算，建筑过火面积约900平方米，该区域内放置更衣柜200余组，将室内空间分割成多个隔间；同时，该区域顶部还安装放有矿工棉衣裤、靴子等个人物品的吊篮1700余组，因受火灾高温炙烤，吊篮的支架、网架以及存放物品散落地面、层层堆积。（..
格力报案，事情闹大了：金星和傅盛会不会被抓11月17日，财联社从格力电器方面获悉，就近期多个自媒体为了获取流量，恶意剪辑相关视频、使用低俗污秽言辞侮辱诽谤公司高管，格力电器已就多个侮辱诽谤事件向公安机关报案。当前，公安机关均已受理并立案。格力电器方面表示，网络不是法外之地。公司将采取法律措施坚决维护企业及员工的合法权益，对任何恶意中伤和造谣行为保持零容忍的态度。近期，格力电器董事长董明珠与格力电器渠道改革项目负责人王自如共同参加一档广东卫视..