日前，在2020腾讯全球数字生态大会AI云专场上，腾讯优图实验室副总经理黄飞跃发表了以《技术爆炸时代里的优图：从跋山涉水，到越过山丘》为主题的演讲，并正式发布了面向未成年人的内容安全审核解决方案。
这是腾讯优图首个专门面向未成年人的内容安全审核解决方案，既体现了腾讯的相关技术实力，也是公司整体“科技向善”的最新举措。
开展未成年人内容审核，势在必行
根据《2019年全国未成年人互联网使用情况研究报告》显示，2019年我国未成年网民规模为1.75亿，未成年人互联网普及率达到93.1%。有统计数据显示，目前我国年龄低于10岁的网民已超过1800万，56%的儿童初次上网的年龄低于5岁。
15.6%的未成年人表示曾遭遇网络侵害，最常见的是网络欺凌、色情引诱、个人信息泄露等。特别是，疫情防控期间，网络侵害问题更为突出。这些未成年人因为自身年龄上的差异，对于内容往往没有明确的辨识和过滤能力，极有可能导致身心健康受到影响，甚至在部分极端视频的引导下做出不理智的行为。
目前，我国在多个互联网内容领域均施行了监管审核，但针对更广泛的网络内容监管审核手段较少，存在较大的真空地带真空地带，未成年人上网内容审核和分级迫在眉睫。
国家监管机构也已经注意到未成年内容杂乱的情况，国家网信办今年5月启动的2020：“清朗”行动中专门组织针对未成年人暑期网络环境的整治，国家扫黄打非办上半年的“护苗2020”专项行动中，更是查删处置淫秽色情、恐怖暴力、低俗恶俗等不良信息超过603万条；查缴非法有害少儿类出版物13.2万多册。此外，查办网上传播涉未成年人色情信息、制售非法有害少儿出版物等“护苗”类案件70多起。
以AI为筛，净化未成年人网络环境
腾讯优图实验室副总经理黄飞跃在数字生态大会现场发布“未成年保护解决方案”
此次腾讯优图实验室团队团队推出的未成年保护方案，是在标准内容审核基础能力之上增加了很多针对未成年设计的能力。例如性感、抽烟、喝酒等成年人内容，都有相应的识别过滤能力。还专门扩展了违规内容主体是否是未成年人的识别能力，如识别“未成年人直播”、“儿童裸露”等不良行为和图片等。
目前，这套解决方案对于明显色情图片的召回率超过96%；对于烟赌毒、纹身、床上直播等行为的召回率能够达到80%以上。
在识别“未成年人直播”、“儿童裸露”等不良行为和图片，以“区分14岁以上或以下”为测试标准，召回率接近80%。
也正是因为AI技术的介入，让内容审核的速度和效率大大提升，通过应用“AI机器审核+人工复审”的模式，能够更快更好地覆盖更广泛的内容，让对未成年人的内容管理真正成为可能。
自上线内容安全服务以来，腾讯优图与腾讯天御联合为1500+家平台提供内容安全服务，共计审核图片总量已突破1000亿+，累计拦截不良内容51263万。赋能传统内容审核场景，覆盖直播、社交、媒体等十多个行业，协助打击各种不良内容的传播行为，与内容平台共同建设绿色健康的环境。
随着科技的创新发展，AI技术的落地应用在优化生活方式的同时，也不断刷新着我们对于世界的认知。在众多场景规模化应用落地的过程中，腾讯优图始终秉持着“科技向善”的愿景，让AI能够更好的为社会服务。
以腾讯优图本次发布的未成年内容审核解决方案为例，就是腾讯优图首个专门针对未成年人这一网络弱势群体的可落地技术方案。这种基于保护未成年人的技术研发和能力实现，就是科技新闻向善的最好体现。
技术爆炸时代，优图成为数字经济“新引擎”
作为腾讯旗下顶尖的AI实验室，腾讯优图通过视觉AI能力的持续输出，进一步夯实技术底座，为产业互联网提供源源不断的动力。目前，优图通过腾讯云输出超过100+AI原子能力，联合腾讯云打造了超过30种AI技术解决方案，并为数万家内外部客户提供技术服务，凭借云+AI的方式打造的TI-Matrix人工智能服务平台，沉淀大量行业模型，解决企业人才和数据积累的问题，让企业在产业互联网的浪潮中实现“降本增效”。
同时在AI的规模化落地过程中，腾讯优图实验室实现了加速奔跑。腾讯优图实验室的人脸核身技术，被应用于线上众多场景。同时，优图OCR为金融、保险、教育、物流等行业提供高效文字识别服务，核心场景准确率高达99%，在各行各业得到了广泛应用。在泛娱乐场景中，腾讯优图孵化了包含人脸融合、人像分割等30多项AI能力，助力泛娱乐行业变得更加生动有趣。不仅如此，优图还联合腾讯产业加速器，为众多合作伙伴提供丰富的应用场景和技术支持，共同推动AI技术在产业中的应用落地，让AI真正的在场景中创造价值。
腾讯优图实验室是腾讯公司旗下顶级人工智能实验室之一。在推动产业数字化升级过程中，优图始终专注基础研究、产业落地两条腿走路的发展战略，与腾讯云与智慧产业深度融合，挖掘客户痛点，切实为行业降本增效。黄飞跃也表示，未来优图将秉持一种细水长流的态度，踏实，冷静的持续夯实基础研究、深化产业落地、建设AI开放生态，持续助推产业互联网的发展，让AI普惠人类生活。
相关文章
