规范网络直播，这些广州经验值得借鉴
作为一种新兴的网络社交方式，网络直播在高速发展的同时，也出现了一系列需要改进的问题。如何进一步规范和管理，广州市广播电视监测中心通过对广州地区具备较大规模和社会影响力的直播平台进行日常监测，并重点进行调研分析，尝试找寻网络直播内容监管标准化和制度化的可行方式。
整理：刘白
作者：曾洁
单位：广州市广播电视监测中心
“当5G到来时，普通用户的流量不再是限制看直播的因素，就像短视频今日的火热一样，整个直播市场会有5-10倍的巨大增长空间。”在今年11月7日的虎牙live tech大会上，虎牙CEO董荣杰这样判断直播行业的新机遇和未来。
日前，艾媒咨询发布的《2019Q3中国在线直播行业发展专题研究报告》显示，预计2019年中国在线直播用户规模将突破5亿人。随着在线直播发展进入下半场，“直播+”成为各企业发力的重点。
数据来源：艾媒报告中心
在行业飞速发展带来了可观成绩的同时，监管难、不规范等问题也是一直存在于直播行业的“隐患”。
我国自2008年起出台了多项互联网视听节目管理规定（如2018年7月24日，全国“扫黄打非”办联合国家网信办、工信部、公安部、文化和旅游部、广电总局发布《关于加强网络直播服务管理工作的通知》，全面开展存量违规网络直播服务清理等），但网络直播中数据造假、同质化、低俗化等问题仍然屡禁不止。
广州的网络直播行业一直是广州文化发展的一个重点。由广州市社会科学院主办的《广州蓝皮书：广州文化创意产业发展报告（2019）》显示，2018年，广州文化新兴行业发展有亮点。其中，广州的网络直播是一大特点——2018年广州网络直播全国第一，品牌效应进一步彰显。
为进一步探索网络直播管理有效路径，近期，广州市广播电视监测中心通过对广州地区具备较大规模和社会影响力的YY直播、虎牙直播、酷狗直播、56千帆直播等平台进行日常监测，并重点对YY直播和虎牙直播两家大型直播平台的内容审核标准和监管流程进行调研分析，尝试找寻网络直播内容监管标准化和制度化的可行方式。
平台：主动建立直播内容“绿化带”
直播内容的及时监测一直是平台的一大难题，广州市广播电视监测中心在调研中发现，目前，YY和虎牙直播都搭建了一套内容管控体系，在不断迭代和优化之后，对直播内容生态的改善做出了贡献。
在研发与应用人工智能方面，YY和虎牙一直专注于自主研发和积累相关人工智能技术，让机器自动理解图像与视频内容，结合内容安全审核团队进行违规内容的审核与过滤，发展出业内领先的涉政、、暴恐识别技术。
例如，虎牙直播率先启动了全媒体内容检测，利用AI技术，从智能关键词、模糊匹配、语音特征识别、视频流分析等多方面入手，帮助直播平台和超管可以第一时间发现“灰色直播”内容，共同净化直播环境。
YY人工智能技术的审核能力体现在低俗识别、暴恐不适识别、涉政敏感识别、人物属性识别、画面质量识别、OCR文字识别、版权和LOGO识别等领域，形成了文字—图片—视频—语音的全方位安全防控布局。
同时，YY和虎牙还着力构建内容审核团队及人工审核系统。 2019年，虎牙直播升级审核力度，人审团队达到1000余人，内容审核团队通过轮班的形式实现7×24h实施审核，巡查监管，并发展起平台的志愿者团队，将工会、志愿者、用户纳入其第三方管理机制，以“人多力量大”为基础，密织管理大网，形成闭环管理链。而YY目前也已经形成了5w+人构成的“志愿者联盟”。
对于突发事件应急响应机制，YY和虎牙均有布局，均成立了重大事件专项应急领导小组，灵活应对突发敏感事件。专项小组确保紧急事件发生时能够对事件性质进行评估，并启动应对预案，协调各部门资源和配置，对紧急事件进行全方位监管控制。借此实现对突发事件的人工预警、收集案例和人工审核。
此外，YY和虎牙还建立了公会管理及防管体系。虎牙有专门的部门负责督促公会对旗下主播的行为进行管理，按照法律法规约束其直播行为和直播习惯，如果公会旗下艺人直播内容违规，平台会依照相应管理条例对其进行处罚。表现良好的公会也将得到奖励和更大权限。平台—公会—主播的内部监管体系进一步提高了平台的监管效率。
在建立内容安全制度方面，YY和虎牙的产品上线前均需进行安全评估，对存在高风险的业务进行下架整改，重新制定规则及提高门槛再予上线。并强化实名制，遵从后台实名，前台自愿原则，主播身份证实名，用户手机号码实名。对特殊地区进行权限划分，限制危险内容的传播等。
同时，虎牙和YY还加强了主播教育和建立处罚机制，制定了较为完善的主播直播行为规范，例如《虎牙主播违规管理办法》《YY主播违规管理方法》等相关条例。若主播出现违规行为，一经认定，视情节严重程度进行处罚。
监管部门：制定更细化的审核和执行标准
网络直播内容监管的核心在于审核环节。因此，监管部门需和直播平台加强交流协作，制定更为细化的内容审核和技术执行标准，依靠政策法规和行业规章，推动网络直播内容监管走上制度化的道路。
●细化直播行业内容审核标准
监管部门更多承担的是法规制定和规范管理的责任，如对直播画面、评论、弹幕进行相应的标准细化，对禁止的违规种类及内容进行细分和详细说明，同时对正能量内容的宣扬进行引导式规范。直播平台则将更为细化的政策法规输入AI系统，进行语义分析和行为分析，转化为计算机语言，将审核规则自动化与标准化，这将有效降低违规情况的频繁重复发生。
●鼓励建立公会管理协会
基于目前有很多直播平台开始采取由公会等中间组织进行协助管理的形式，未来可以鼓励建立直播行业的公会管理协会，与监管部门共同制定行业认同的内容标准以及黑名单机制。让主播不能利用“跳槽”来躲避某一直播平台的封杀与惩罚，从而使得监管程序进一步标准化，避免直播行业生态系统的局部恶化。公会管理协会的出现将促进直播行业走向规范化阶段。
●直播内容差异化监管
随着网络直播行业蓬勃发展，直播内容也逐渐走向了多样化道路。其中，网络游戏成为直播内容的头部类型，其受众多为学生群体。但同时，这一群体也正处在世界观、人生观、价值观形成的关键时期，需要有正确的思想引导。直播平台要对游戏直播的主播进行合理的岗前培训和思想教育，制定相应的直播画面标准，避免对学生造成负面影响。公会对游戏主播进行商业策划时要考虑受众特点，在商业特性的基础上，过滤对学生的不良内容。
●不断完善技术监测手段
监管部门也需要不断完善技术监测手段，研发能够直接介入直播的监管技术，并通过人工智能、大数据、云计算等技术提升监管水平，通过技术实现对网络直播内容全覆盖式监测和监管。
●加强网络直播内容的正面引导
对于网络直播内容的监管，不能只重在管，还要注重正面引导。目前，广州各网络直播平台运营机构陆续成立了党委、党支部，并充分发挥党建工作的导向引领作用，通过基层党建，加强党员在关键部门、关键环节、关键领域的政治引领作用。同时，进行“直播+正能量”的内容创新发展。如虎牙直播平台设了“虎牙文化”栏目，包含了“直播+公益”“直播+党建”“直播+环保”“直播+普法”“直播+非遗民俗”“直播+扶贫”等内容。
网络直播平台作为一个新生事物，反映了数字经济时代对政策法规和技术规制的新需求。现今，网络直播行业发展进入新阶段，摆脱了“野蛮生长”的阶段，需要逐渐合理有序的行业制度来进一步规范。网络直播内容监管不仅需要进行标准化的多方合作，而且还要依靠政策法规和行业规章，走上网络直播内容监管的制度化道路。
主播、直播平台与公会、观众、监管部门作为网络直播内容监管的主体，只有共同建立起一个良性循环的生态系统，各自发挥作用，才能共同构筑起强大的网络安全防护网，促进网络直播行业健康有序发展。
·End·
编辑 | 王海婷 马致远
>>总局扶持中国经典民间故事动漫创作
丨政策
>>央视频“C位出道”
丨行业
>>《中国地名大会》这样点亮“路标”
丨节目
>>86位科学家揭秘的“黑科技”是……
丨纪录
