在“万物皆可内容”的新趋势下，只要有屏幕的地方就会产生数据、就会产生内容，数字内容牵涉到各行各业。数字内容安全治理需要积极拥抱新技术，顺应时代的发展。
—— 网易易盾副总经理祝卓
今年以来，网校、直播、文学、社交平台相继被暂停业务数月，甚至被关停。“净网2020专项行动 ”击中了不少内容平台的“阿喀琉斯之踵”。针对ugc创作模式带来的海量内容，人工智能技术在内容安全领域有了用武之地。
9月29日，由中国人工智能产业发展联盟、中国信息通信研究院主办的aiia2020人工智能开发者大会在北京成功举行。作为ai开发者的年度盛会，大会汇集了政府部门负责人、头部企业代表和行业专家，共同探讨人工智能在多个领域的应用与发展。
会上，网易易盾副总经理祝卓以《护航新基建，网易易盾助力内容安全产业升级》为主题发表了演讲，深入剖析新基建带来的多行业发展、数字内容安全治理面临的机遇与挑战，并展示了先进的“人工智能 内容安全”的技术实践。
一、数字技术光环下的内容黑洞
当我们提到内容时，我们在谈论什么？
近年来，mcn、知识付费、在线教育、在线直播和电商带货的爆发，应证了“万物皆可内容”的现实，也折射出用户需求的变化，从获取信息到打发时间、调剂情绪、排解焦虑……
可以看到，内容不再只是局限于新闻消息、影视剧、社交媒体、社区网站等的传统范畴，而是更广泛的数字内容。在进入社交网络时代后，用户从被动到主动，内容创作更加灵活、更便捷、更产业化。
○ 美国标普公司的报告显示，全球数字内容产业总产值在2018 年达到了1896 亿美元，预计到2025年将达到3438亿美元。
○ 国家统计局数据显示，以“互联网 ”为主要形式的文化信息传输服务业营业收入为7990亿元，增长34.6%。
○ 工信部统计数据显示，2017年我国以ip为核心的网络文学、游戏和音乐等泛娱乐产业约为5484亿元，增长32%，占数字经济比重超过20%。
“未来，只要有屏幕的地方就会产生数据、就会产生内容，数字内容牵涉到各行各业。”网易安全部副总经理祝卓在aiia2020人工智能开发者大会的发言中这样说道。
今年受疫情影响，更多内容从线下搬到了线上、更多人来到互联网平台成为内容传播者。在祝卓看来，这些在给内容产业注入一波新的生命力的同时，也无不考验着数字内容安全治理的能力。
首当其冲的就是不良内容，包括涉黄、涉暴、涉恐、赌博诈骗等多种类型。除此之外，算法风险、内容造假、博天堂国际的版权保护、隐私泄露等新问题也渐渐浮出水面。
这些问题的危害面大而广，危及国家安全、行业、企业和个体网民，营造清朗的网络空间刻不容缓。在祝卓看来，内容安全问题将会与整个信息产业的发展并行，这是一个长期存在的问题，也是一个持续相互博弈的过程。
二、应对挑战：用好人、技术和标准
今日头条模式展现了技术对内容产业的改变：新闻由机器人编写，传统编辑负责简单校对和观点调整；算法精准推荐占据了信息流分发的主导地位。
祝卓指出，在过去很长一段时间里，媒介更替带来了内容产业的持续变化。如今，5g、人工智能和大数据等技术的逐渐普及，使得数字内容产业呈现新趋势。
内容生产人机协同化、内容传播由算法推荐主导、内容消费沉浸交互化、内容与行业结合更加紧密……从内容生产到内容传播，内容产业的不同阶段都受到了技术的深刻影响，内容安全环节也不例外。
祝卓从事网络安全工作10多年。对于保障互联网内容安全，他在心里已有一套成熟的方法论。他认为，数字内容安全治理需要积极拥抱新技术，采取数字化治理新方式，包括治理模式创新，利用数字技术完善治理体系，提升综合治理能力等，以顺应时代的发展。
2020年，与国家标准《信息安全技术-互联网信息服务安全通用要求》出台，对企业在内容安全中应具有的技术手段做了明确规定。
在此基础上，易盾持续创新算法和框架，ai内容安全技术得到发展迅速。当前，易盾的内容审核体系能够实现主动防御，实时计算，提取多元特征进行深度学习。
针对真实场景下的海量内容垃圾，从基础分类，到模型搭建，再到策略定制，多模型融合的分层计算方法大大提高计算效率。
不仅如此，在数字内容的安全审核上，同样需要规范的行业标准。过去几年，在制定有害信息分类标准的同时，易盾也参与起草了《基于文本识别的内容检测服务系统指标要求和评估方法》等4项行业标准。
“人是第一生产力”，在易盾眼中，机器审核技术突飞猛进，但只有当人与机器达到和谐时，审核效率才能最优化。这意味着技术和标准并行的背后，是互联网内容审核员的新型职业技能培养。正是这些人在一线使用技术，配齐标准，其重要性不言而喻。
为此，易盾团队参与编写《网络与信息安全管理员》国家职业技能标准，并携手中国电子协会推出配套课程和证书，助力行业培养人才。
被誉为精神食粮的内容，与餐饮业一样，是一门“日不落”的生意。
思维造物的ipo招股书显示，随着线上产品矩阵的日益丰富，“得到”app付费用户arppu持续上升，由2018年的188.55元提升至2019年的231.93元，同比增长23%。
可见，用户越来越愿意为内容付费。针对这一趋势，祝卓强调，“内容为王”已经成为了数字内容产业的核心竞争力，谁家做得好，谁家就会有产业产值。内容产业潜力巨大，永远有新机会，值得各方共同努力。
相关阅读：