使用网易易盾视频审核

  • Web

更新时间

了解内容审核在不同平台上的网易易盾视频审核方式,包括接入流程、关键配置和平台差异。

本文介绍如何在你的项目中使用 网易易盾视频审核。

技术原理

内容审核视频审核采用 SDK 截图 + 三方审核的模式。集成声网视频 SDK 后,你可以对声网频道内的视频流使用第三方视频审核服务。当频道内有用户发送视频流时,审核结果会由第三方服务器直接返回到你的服务器。具体流程如下:

  1. 声网 SDK 从频道内的视频流中截取内容,加密传输至声网服务器。
  2. 声网服务器对视频流信息进行封装,然后加密传输至第三方审核服务商。
  3. 第三方审核服务商将声网视频流信息和审核结果返回到你的回调服务器。
  4. 根据审核结果添加业务逻辑。

信息

你需要自行准备接收审核结果回调的业务服务器。

前提条件

开始前,请先按照开通服务中的步骤完成内容审核服务开通,并准备接收审核结果回调的业务服务器。

实现步骤

1. 集成 SDK

第三方视频审核服务需要使用特殊版本的声网视频 SDK。你可以根据需要选择 SDK 版本并参考对应的集成文档:

视频 SDK 版本下载链接参考文档
4.19.0 或以上Web SDK 下载实现视频通话
表格内容超出当前宽度,可横向滚动查看更多列。

注意

通过 SDK 启动内容审核时,当前仅支持使用以 007 开头的 RTC Token,即 AccessToken2。详见使用 Token 鉴权。

2. 开始审核

本节介绍如何对单个频道内的视频流进行审核。

加入频道并发布视频流后,确保已经调用 play 在页面上播放本地视频轨道,再调用 setImageModeration 方法开启视频审核。成功开启视频审核后,SDK 会按照设定的频率进行截图,截图将会由声网云端服务器加密传输到第三方审核服务商。

调用 setImageModeration 方法时,你需要通过 ImageModerationConfiguration 的以下属性配置视频审核服务:

属性类型描述
intervalNumber从视频流中截图并送审的时间间隔,单位为毫秒(ms),最小值为 1000。
extraInfoString(可选)附加信息,最大长度为 1024 字节。SDK 会将附加信息和截图一起上传至声网服务器;截图并上传完成后,附加信息将会随回调通知一起发送给你的服务器。
表格内容超出当前宽度,可横向滚动查看更多列。

示例代码如下:

JavaScript
// 定义 imageModerationConfig 配置对象
const imageModerationConfig = {
    interval: 2000, // 设置视频截图的时间间隔为 2000 毫秒(2秒),最小值为 1000
    extraInfo: "This is some additional information for content inspection." // (可选)添加附加信息
};

// 调用 setImageModeration 方法并传入 imageModerationConfig
client.setImageModeration(true, imageModerationConfig)
    .then(() => {
        console.log("Content inspection enabled successfully.");
    })
    .catch(error => {
        console.error("Failed to enable content inspection:", error);
    });

3. 接收审核结果

审核结果回调请参考网易易盾音视频解决方案文档中的异步检测结果请求和异步检测结果请求示例。

API 参考

setImageModeration

常见问题

问题 1:为什么审核内容要先发送到服务端,审核结果也要先返回给服务端?

声网采用“服务端——服务端”的传输方案,主要有两个原因:

  • 保障服务的安全性,客户端容易被监听。
  • 方便自行控制业务逻辑。例如:你可以在业务服务器接收到内容违规的审核结果时,对客户端进行关闭频道、UI 提示、禁言、扣分等操作。

问题 2:从频道内截取的内容由谁存储?

第三方审核供应商会提供默认 7 天的 OSS 存储服务。