内容审核行业研究内容审查程序( 二 ) _云知道

三.时效性差俗话说金钱买不到时间，如果说前两点通过投入大量的人力预算勉强称得上可以解决，时效性差的缺点是绝对无法用金钱来cover的。比如，如果APP上设计了实时私聊的im功能，人审是无法实时介入的，任何一条发送的信息是不可能等到审核完才允许发送的。同理，在发布音视频文件的审核中，时效性差的缺点也同样明显。
时效性还有第二个问题就是应对舆情的能力，比如说发现某种严格管控的风险内容，不仅要处理当下的新发信息，也要同时检查所有的数千万甚至数亿条历史存量信息。想要短时间内完成历史存量的筛查，这是人审绝不可能完成的。
三、机审+人审除了效率，也解决更多问题目前市面上的机审还普遍认为是在辅助人审，事实上曾经激进地采用过全机审的几家公司也先后放弃了这种单纯方案。目前市面上人审和机审结合的方案主要有两种，也就是先发后审和先审后发。
一. 先发后审

先发后审指的是某一条内容发出来之后，先小范围可见或仅自己可见，然后进入机审和人工复审，审核完之后再进行全量展示。这种方案保证了用户的即时体验，用户能够感受到自身内容得到发布，因此先发后审一般是用在实时性要求较高的场景，比如im、动态评论等等。
二. 先审后发

相对应的，先审后发指的是用户提交内容后先进行审核再进行发布的方案，这种方案就适用于一些实时性要求不高的场景，比如在网站发布长视频、长图文、连载小说等等，用户对于内容需要审核以及审核时长已经有了心理预期，因此可以接受先发送、再审核、再收到发布结果的异步形式。
那为什么说机审是人审的辅助呢？实际上机审现在其实有几个无法逾越的鸿沟，比如目前的模型没有办法取代人，它不具备人的深度思考能力、联想能力、联系上下文能力等等。再比如机器在某些审核标准上很难把控，因为机器不具备主观性，像是无法理解软色情/色情/暧昧色情的定义和区别，这就需要人的介入。
但这样的问题并不代表机审就没有优化的空间，譬如数美首先是采用了三级标签体系，在机审上训练出了非常多的细分标签，然后通过新增、组合来实现新的识别功能。然后另外一个非常重要的点就是纠错机制。机审之后进入到人审，人审的结果如果与机审相悖，就会形成一个case回流到策略、模型团队，引导机器进行校正。
四、机审+人审前路是人性化

前面我们其实讨论了三个大问题，为什么要做审核？为什么不做纯人审？怎么做人机结合？在第三个问题上也讨论了一下机审的优化问题。实际上机审的优化提升更像是一个后端问题，数美还在关注机审如何提供更好的人审条件这个前端问题。
数美目前小范围地开放了最新人审平台的试用，也就是人工复审使用的页面。首先我们深刻理解人审面临的工作压力比较大，每天的工作量都很多，因此首先是做了很多人机交互的优化，比如按钮位置、菜单设计等等，同时也根据反馈不断优化，让人审人员使用起来更符合直觉。