您好,欢迎来到智汇教育!
智汇工业

治理AI“深度伪造”,中国正在与美欧并跑

编辑:intern-edu时间:2022.02.24 浏览:2606

作为人工智能领域的新实践,近年来,利用深度学习、虚拟现实等生成合成类算法制作图像、音频、视频、虚拟场景等信息的深度合成技术,已在多个领域大量应用,伴随着不断涌现的使用需求,深度合成内容数量和关注度呈现快速增长态势。


另一方面,每一次技术变革,在造福社会的同时,也不可避免地会带来安全风险。恶意使用该技术生成的音视频,也显现出了巨大的破坏力,给个人、企业造成了声誉损害和财产损失,也对社会、国家安全造成威胁。

为了对人工智能和深度合成技术的健康发展提供参考和指引,清华大学人工智能研究院、北京瑞莱智慧科技有限公司、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心近日联合发布《深度合成十大趋势报告(2022)》(以下简称“《报告》”),从技术研究、领域应用、发展趋势等多个方面,全面深入地介绍和研判深度合成技术及应用带来的机遇与挑战,并就其发展与治理给出切实可行的建议和措施。


《报告》截图


深度合成爆发式增长

深度合成的图像、视频、音频、文本等内容,例如热门影视剧片段、话题明星的换脸视频等等,具有极强的娱乐性与传播性,伴随着技术的发展成熟,越来越多的创作者在互联网上发布和分享深度合成内容,数量逐年高速增长。以视频为例,《报告》显示,在国内外主流音视频网站、社交媒体平台上,2021年新发布的深度合成视频的数量较2017年已增长10倍以上。

深度合成在影视制作、广告营销、社交娱乐等领域发展出多元化的商业应用,例如AI合成主播、虚拟偶像、修复历史老照片、影视剧本地化配音、“数字复活”已过世演员等。


《报告》截图


一些面向公众开发的合成类产品也陆续推出,《报告》显示,视频、语音和文本形式的服务最为普遍,例如支持风格定制的特效视频制作软件等风靡网络;语音方向衍生出了语音导航、有声读物、自动新闻播报等应用;文本合成则在新闻报道、诗文创作、聊天问答等方面发挥着重要作用。

“元宇宙”等新商业思维的提出,也为深度合成提供了更广阔的应用场景。阿里巴巴安全感知与认知智能部负责人薛辉表示,比如虚拟人、数字人即是深度合成的主要应用,也是“元宇宙”的重要组成部分。

清华大学新闻与传播学院常务副院长陈昌凤认为,深度合成将重新定义虚拟数字化空间,从传播社会学意义上看,一个新的人类生存场景将以深度合成技术为基石展开。

瑞莱智慧CEO田天表示,技术不断成熟是深度合成内容迎来爆发式增长的重要原因。研究论文的持续增加、开源技术工具和大量代表性方法的涌现,令深度合成内容的效果更加逼真、制作也更加高效,尤其是生成对抗网络等算法的出现,让合成内容达到了 “真假难辨”的程度。


“深度伪造”风险加剧,亟需治理

正因如此,深度合成激发了新内容创造力的同时,也带来了新的威胁。

随着技术逐步“平民化”,不法分子可轻易伪造音频、视频,实施诬陷、诽谤、诈骗、勒索等违法行为,甚至捏造国家政要言论扰乱社会与政治秩序。

2021年10月,安徽合肥警方曾查获一起非法利用深度合成技术伪造手机用户人脸动态视频破解身份核验,为黑灰产业提供注册虚拟手机卡等技术支撑的案件。近年来,类似事件开始更多的进入公众视野。

深度合成内容模糊了真实和虚假的边界,将对社会信任、媒体信任、政治信任产生巨大的影响。陈昌凤表示,虚假内容的高难度甄别影响了事实核查的有效性,在社会重大事件或政治事件节点上,深度合成技术可能被用于操作舆论意见,借助社交媒体,使虚假信息短时间内引发产生病毒式扩散,激化社会矛盾。

负面风险不断加剧,如何有效甄别深度合成内容就成为了关键,但随着合成质量的不断提升,传统基于生物特征的鉴别方式越来越难以发挥作用。

浙江大学网络空间安全学院院长任奎表示,目前对深度合成的检测主要依赖于人工智能模型,依赖于训练数据的完备性,包括检测器泛用性相低、公开数据集适用性、数据敏感等,这些都将带来诸多挑战。

田天也表示,新型伪造方法层出不穷、网络传播环境的日趋复杂,加上基于检测算法存在漏洞缺陷等,反深伪检测技术面临“强对抗性”,需要持续更新与迭代。

《报告》显示,目前学术界和产业界均已对反深伪检测投入了大量研究,Meta(原Facebook)、谷歌、微软等机构均推出了深度合成视频认证的方法或产品。在国内,清华大学、中科大等高校在深度伪造内容检测方面取得显著成果,清华大学孵化团队瑞莱智慧推出的深度伪造内容检测平台DeepReal拥有工业级的检测性能和应对实网环境对抗变化的检测能力。清华大学人工智能研究院基础理论研究中心主任朱军认为,深度合成检测面临持续的攻防和博弈,未来还需融合多模态内容的取证分析、基于数字水印的溯源技术等多方面能力,实现精准识别。

同时,我们不能因为技术风险就因噎废食。

中国工程院院士邬贺铨认为,第一,任何新技术的出现和应用,都会带来社会问题,其中当然也有伦理问题;第二,伦理问题需要从道德和法律的层面来解决;第三,对于技术失控和技术滥用的问题,需要通过发展技术来解决,当前深度合成的技术发展得还不够,所谓“道高一尺魔高一丈”,发展永远在路上。


往期推荐

● 预计总投入3074亿元!职业教育提质培优
● 学以致用,贝加莱橙色平台助您成就智造人生
● 全梳理!人工智能专业狂增180所高校!
● 国家自然科学基金委公布一批项目立项名单
● 官宣!16个新职业诞生,新兴产业为主!
● 教育部批准44个中外合作办学项目
● 就业季遭遇疫情,是否最难就业年?
● 33所“新大学”,来了!!

● 2021届高校毕业生预计909万!


                    

智汇工业(Intelligent Industry)版权所有© Copyright By Intelligent Industry
京ICP备15030148号-3