AI给内容安全带来新挑战

AI11个月前发布 aixure
32 0 0
导读:近年来,内容安全已经成为情报与安全信息学一个重要的研究点。经过了长期的发展过程,从911事件到基于内部业务的分析,发展过渡到互联网和大数据时代,怎样去识别互联网上一些敏感的内容和信息,再到人工智能和大数据时代,我们发现无论是从内容的产生,再到…

近年来,内容安全已经成为情报与安全信息学一个重要的研究点。经过了长期的发展过程,从“911”事件到基于内部业务的分析,发展过渡到互联网和大数据时代,怎样去识别互联网上一些敏感的内容和信息,再到人工智能和大数据时代,我们发现无论是从内容的产生,再到内容的传播,都有完全不同的新挑战。

总体来说,AI时代早期的安全是以文本形式,但过渡到AI时代,更多的内容以多样化的内容生成,包括视频和图片深度的伪造,利用影视信息或者是特征刻画,以及基于心理学的传播去精准影响我们的传播受众,在AI新形势下的内容安全有了不一样的内涵。

目前来看,国内外的技术发展非常快。从大家熟知2017年Deepfake,一张非常简单的图片或者人脸,跟所有的视频和图片进行便捷的换脸技术,能够伪造出非常逼真的图片形象。再到国外的DeepNude应用,用一个照片能够通过“脱衣”的应用进行场景和形象的变化。以及ZAO,能够对视频相关的人的脸部或者表情进行切换,达到了以假乱真的效果……近年来,这些基于深度学习的技术,针对内容智能生成、智能替化,已经成了很大的内容安全隐患。

总体来说,网络内容安全跟我们信息安全一样,也存在着攻防体系的对抗性。从基本有害的文本和内容的生成,有害图片内容生成以及伪造视频,社交机器人都可以产生对内容层面的攻击,对社会和经济产生很重要的影响。同时,我们在防守方面,怎么样去检测哪些文本是机器人生成或是人自己写作的,哪些视频是被篡改过的,哪些视频是经过换脸的,这又是一个防御体系。总体来说,希望能检测更具体的信息,这是AI时代内容生成重点研究课题。

文/贵州日报天眼新闻记者 江婷婷 李兰松 王法 陈玲 整理

图/贵州日报天眼新闻记者 旷光彪 杨涛 摄

赞助本站

© 版权声明

相关文章

暂无评论

暂无评论...