小乐乎资讯

待审内容通过机器审核,三,在人机联动审核机制中

  • 日期:2021-01-16 15:57:48
  • 来源:互联网
  • 编辑:小狐
  • 阅读人数:600

导语:笔者上一篇文章《机器审核》中,重点介绍了机器审核的能力,互联网广告内容审核专题(二)—机器审核;本文来谈谈机器和对人工审核如何组合运作,满足各类业务场景的需求?

待审内容通过机器审核,三,在人机联动审核机制中(图1)

首先,什么场景需要人工审核?对于机器无法准确识别的内容,都需人工审核进行确认;通常机器审核和人工审核的量级约为,对于日均量级上亿的内容产品上,人审日均量级也达到百万级,同时满足时效性要求和审核质量无疑是很困难的。

因此在实际业务中,根据不同产品的形态,建立不同的人机联动审核机制,最大化满足审核诉求。

下面分别谈谈两种基本的审核机制:

一、人机联动机制 1. 先审后发

先审后发是早期审核采用的模式,要求全部内容均通过完整的审核流程后允许上线分发,用以保证风险最低、质量最优。

通常对于商业广告,高风险行业或客户必须采用先审后发机制,来避免风险的发生;对于重质量的内容社区,也需要经过完整的审核流程才能进行发布。

待审内容通过机器审核,三,在人机联动审核机制中(图2)

以上给出先审后发机制中,机器和人工审核联动的基本流程。待审内容都先通过机器审核;当机审输出结果达到阈值,准确度可信时,按机器审核结果通过上线或直接拒绝;当机审输出结果未达到阈值,给出疑似风险的判断,推送给人工审核进行最终确认,按人审结果通过上线或直接拒绝。

对于先审后发机制,不断提升机器审核的准确率,将会大大减少人工审核的工作。

2. 先发后审机制

对于海量的内容,全部采取先审后发机制无法满足内容分发的时效要求。近些年兴起的先发后审机制,可以帮助解决这部分问题。

待审内容通过机器审核,三,在人机联动审核机制中(图3)

以上给出先发后审机制中,机器和人工审核联动的基本流程。待审内容通过机器审核,秒级输出机审审核结果;如机审结果确认有风险,则按机审结果直接拒绝,否则立刻上线分发;上线后根据展现量抽取线上展现内容,推送人工复审,检查风险问题。

如人工复审发现的风险问题较大,可以将该行业或客户的审核机制升级为先发后审,来保证风险可控。

在审核业务中,先审后发和先发后审两种机制也通常组合运作,灵活调配,以最小的成本实现风险控制,满足审核时效要求。

二、审核任务分配

在人机联动审核机制中,如何将审核任务快速分配给对应的人员进行审核呢?来一起看看审核任务分配机制。

1. 审核任务主动分配

待审内容通过机器审核,三,在人机联动审核机制中(图4)

上图是一套动态灵活的审核任务分配机制,减少任务等待时间,更快速地分发给审核人员。

第一步:待审任务灌入审核任务池,等待被分配。

第二步:根据审核组长或人员配置的权重,自动分发相应比重的任务,进入审核员任务列表,审核员可以开始审核;通常分配权限需支持灵活配置,如支持审核员请假等场景。

第三步:对审核任务池和审核员任务列表实时监控;如出现任务池任务突增,需加快分配至审核员任务列表进行审核;如审核员任务列表剩余任务不足,任务池主动进行分配;通过这样动态分配的方式,保证审核员有充足的任务,避免任务积压。

实际审核任务分配可以基于此基本方法进行变换,满足不同场景的审核需求。

本文相关词条概念解析:

审核

审核是指为获得审核证据并对其进行客观的评价,以确定满足审核准则的程度所进行的系统的独立的并形成文件的过程。会计学上的审核,指的是审查核定;而银行学上的审核,是指为获得审核证据并对其进行客观的评价,以确定满足审核准则的程度所进行的系统的独立的并形成文件的过程。

网友评论

提交评论

网站申明:本站图片仅为设计美化,与文章无关。如认为影响您的权益,请与我们联系。