腾讯安全亮相联合国互联网治理论坛，用AI守护儿童网络内容安全

　　近日,以“互联网大联合”为主题的第十六届联合国互联网治理论坛(IGF)开幕。12月10日,腾讯安全产品总监王翔受邀参加论坛下设《人工智能为儿童——面向儿童群体的人工智能应用调研报告》发布活动,分享腾讯安全基于人工智能为儿童营造健康数字生活的思考与实践。

　　图为发布活动现场

　　IGF是联合国框架下关于互联网治理问题的开放性论坛,旨在促进全球各方在互联网公共政策方面的讨论和对话,把握全球互联网治理重要机遇,本届论坛聚焦经济社会、市场监管、环境等问题。发布活动由中国网络社会组织联合会、中国传媒大学、联合国儿童基金会共同举办,向全球展示中国在面向儿童群体的人工智能领域所取得的成就,加强国际交流合作,进一步从人工智能的角度探讨经济和社会的平等与包容,探索构建有意义的人工智能为儿童国际通用标准。活动在中国传媒大学圆形报告厅设置线下专场,以线上+线下的方式邀请国内外的行业专家、相关机构及企业代表参与。

　　图为腾讯安全产品总监王翔

　　如何用科技让儿童安全上网、健康用网、助力成长,是一个牵动亿万家庭、长期性与紧迫性并存的社会新课题。腾讯秉承着“科技向善”的愿景使命,在打造提升人类生活质量的新技术,提供各类互联网服务的同时,也充分利用人工智能技术维护用户权益。基于腾讯安全天御内容风控能力、腾讯优图的AI内容审核能力,腾讯启动Guard for Children项目,致力于营造清朗的网络空间,从而避免网络不良信息威胁儿童的网络学习和生活。

　　Guard for Children项目将从三个方面展开工作。首先是通过公开课的形式对家长和儿童进行安全教育,腾讯推出了一系列关于如何认识网络空间和如何应对网络欺凌的公共教育课程,帮助儿童变得坚强和心智成熟,并为其提供网络帮助;其次是与教育局展开合作,为14岁以下儿童设计和定制视频和音频,使用人工智能进行智能组合推荐;同时还通过人工智能检测,减少儿童的不适当内容和不适合儿童观看的内容呈现,例如色情、欺凌、不良行为、不良ACG等。

　　据统计,中国有17.5亿14岁以下的互联网用户,2019年,46%的儿童遭遇过各类网络安全事件,不良体验主要来源于内容不当。由于儿童的信息分辨能力、网络安全事件应对能力弱,从源头上为其阻隔不良内容实属关键。Guard for Children项目于2020年9月正式上线,通过海量训练得到的AI识别能力,能够精准识别侵害儿童的隐私内容、过滤出不良内容传播,包括儿童色情、校园暴力、青少年犯罪、烟赌毒等内容,净化儿童的上网环境。

　　腾讯安全天御风控依托20多年业务安全运营及黑灰产对抗经验,凭借行业安全专家、完备安全的大数据及AI技术积累,为企业从“情报-攻防-管理-规划”四维构建安全战略,助力企业建立完善长效的青少年网络内容治理机制。目前该方案已为1500+家平台提供内容安全服务,共计审核图片总量已突破3000亿条,累计拦截不良内容超5亿条。

　　去年12月,腾讯还联合联合国儿童基金会等三大公益组织发起了腾讯Light·公益创新挑战赛,该挑战赛以“AI,让美好现在发生”为主题,邀请开发者和公益界的有志之士,根据“未成年人网络保护”等主题,利用腾讯云AI提供的人工智能技术打造公益小程序,以科技之力守护未成年人健康成长。大赛共吸引了共663支队伍近3000名选手参赛,经过四个多月激烈的角逐,24支团队成功入围决赛,涌现了一批用技术和创意让AI落地公益场景的项目,为提升效率、解决社会痛点等方面带来科技力量。据了解,今年的大赛也将于近期启动。

　　未来,腾讯也将输出更多数字化能力和经验,践行“科技向善”,携手更多社会力量守护儿童健康成长。