12月12日，文化部制定并印发了《网络表演经营活动管理办法》（以下简称办法），旨在切实加强网络表演经营活动管理，规范市场秩序，推动网络表演行业健康有序发展。
本《办法》明确规定，网络表演不得含包括表演方式恐怖、残忍、暴力、低俗，摧残表演者身心健康的；以虐待动物等方式进行表演；以偷拍偷录等方式，侵害他人合法权益等内容。
其实，从今年4月份以来，文化部已经查处了多家因涉嫌提供含有宣传淫秽、暴力、教唆犯罪等不良内容的网络直播平台。作为新型的社交互动平台，网络直播与传统的视频网站不同，当用户上传内容后，传统的视频网站会进行审核，符合标准后才可上传成功，而网络直播都是实时播出的，如果有人在网上传播不良信息或者发布违规内容，即使被查处，也是播出之后的事情。
虽然，大多数直播企业会选择人工审核的方式对直播内容进行实时监管，但是在过去的一年多里，“直播造人、脱衣、涉暴”等事件仍然频繁发生。某直播平台负责人曾表示，视频直播从技术不需要“上传”这个步骤，当手机按下摄影功能键，云端会同步抓取、同步存储、同步传递，“延迟不会超过2秒”。在这个过程中，平台面临的困惑是“无法掌控直播下一秒会发生什么”，即使依靠人力进行24小时轮班审核，但在直播不良事件发生的夜晚高峰期，人眼识别精确度降低，出现误判漏判的概率上涨，审核效率降低，难以达到网络直播的内容监管需求，风险依旧存在。
平台都在努力加强自己的监控能力。据《新京报》今年年初报道，映客创始人奉佑生表示，映客在全国有300人的平台监管队伍，会24小时不停歇地进行筛查和监管，一发现不良内容，5秒之内封号和IP。今年，他打算把这个队伍扩充到600人以上。
YY直播也发布公告称，不断扩充组建了300人的监控团队，配以先进的视频声音识别技术，7×24小时进行实时监控。对各类违法、违规或者有悖社会到的的直接内容及相关个人、机构处以关停、封号、罚没保证金等惩罚。
但这样的纯人工监控成本巨大，为了降低直播平台运营成本，提高效率，图普科技针对实时直播的特点，率先开创了机器识别＋人工复审的新型审核方式：企业根据自身需求，利用自动截图程序对直播画面定时（建议6-10s）进行实时截图，发送到图像识别云服务平台，机器自动识别后将结果分为确定和复审两部分，确认部分的识别精确度达到或超过人工，无需复审，对于复审部分，机器会根据可能性排序，人工再根据概率从高到低来审核。
并且，根据《办法》提出的内容监管需求，图普科技结合直播平台的内容安全需求，推出了基于图像识别技术的直播智能审核方案，通过智能技术手段从三个层面做好内容安全保障：
1）直播事前预防：通过主播用户头像规范、活体检测等主播身份的多维度验证识别手法；
2）事中管控：以基于图像识别技术的鉴黄识别、暴恐识别、主播行为识别（暴力、残忍、低俗、危险等）、时政敏感识别等做好直播过程中的风险防范；
3）事后追溯：可以通过智能、快速过滤直播历史数据和建立主播黑名单库来价降低平台的涉险概率。
相对传统的纯人工审核的模式，这种新型审核模式的优势主要在于：
1）灵活计费，成本更低。直播企业只需按图片调用量付费，不需要固定每日的付费额度。
2）机器识别精准度高，稳定性强，效率高。图普针对不同的应用场景训练机器模型，单张图片响应时间小于0.2s，7x24h全天候服务，支持数千路直播大并发识别，可按需扩容。
3）机器识别更简单，更安全。通过API调用即可直接部署，建立企业专属的ID账号，企业自定义数据清除时间，不同企业之间数据是隔离的，无须担心企业信息泄漏。
截至今年5月，中国在线直播平台数量接近200家，其中网络直播的市场规模约为90亿，网络直播平台用户数量已经达到2亿，直播平台主播数量以120%速度增加。依靠人工审核力量必然难以维持平台内容安全，机器审核必然会成为各大平台的更优选择，图普科技一站式的智能审核方案助力保障直播平台的内容安全，提供健康、向上、向善的内容，促进我国网络文化繁荣发展。
网友评论