APP内容审核服务

一、内容审核分类

基于人工智能技术，利用大数据训练模型进行自动化的内容审核分类：

1、图片分类：正常图片、性感图片、色情图片

2、文字分类：涉政、涉黄、涉赌、涉毒、涉恐

二、内容审核性能

1、文本文字分类：每秒1000字的文本自动化审核

2、图片涉黄分类：每秒10~100张的图片自动化审查

3、图片转文字：每图片0.1~10秒（图片分辨率和文本数量相关）

4、APP内容测试支持7x24方式监控，需要编写脚本协助

三、内容审核技术

1、支持文本内容涉政、涉黄、涉赌、涉毒、涉恐等违规内容的自动化审核

2、支持图片转文字，并对文字进行涉黄、涉政等违规内容的自动化审核

3、支持图片内容涉黄违规内容的自动化审核

四、内容检测流程

（一）APP内容审核流程

1、自动化安装APP到测试终端，采取定义的脚本自动遍历APP功能模块，或者采取随机方式自动遍历APP功能模块

2、自动化运行APP期间，采集APP在真实手机端的图像信息，进行文字内容、图像内容安全的审核比对

3、对于审核内容比较敏感的信息，自动上报到平台，提交人工审核确认

（二）文本类内容审核流程

1、建立自动化文本内容审核任务，指定任务名称，选择目标测试文本文件，文本格式为Text

2、任务提交生成后，自动化进行目标测试文本文件的内容审核检测，对于匹配涉黄、涉政等违规内容的文本信息做自动化标记

（三）图片类内容审核流程

1、建立自动化图片内容审核任务，指定任务名称，选择目标测试图片文件，文本格式为png、jpg等

2、任务提交生成后，自动化进行目标测试图片文件的内容审核检测，自动进行涉黄分类识别和标记；自动提取图片中的文字信息，对于匹配涉黄、涉政等违规内容的文字信息做自动化标记。