中文站

语音社交产品,安全合规“防坑指南”!

过去的一个月,在ClubHouse的热潮之下,国内“语音社交”异军突起。

不论是本就深耕音视频社交的创业团队,还是带“圈”入市的行业媒体都在紧锣密鼓地投身到这场语音社交场景争夺战之中。但是热潮之下,入局者也必须去面对语音社交存在的安全与合规问题。

语音社交作为实时社交产品,从整个产品设计链路来看,主要涉及到注册登录、上麦发言、数据上下行三方面问题。


语音社交全链路安全解决方案

●双重防护,强化登录安全 ●

语音社交场景中,我们会遇到许多关于个人数据登录上麦相关的安全性问题,最常见的,如不在房间内发言序列的用户利用安全漏洞或者外挂侵入平台直接发言,甚至勒索房间主播的情况,这类我们俗称为“黑麦”。

针对这类问题,融合通信云服务商网易云信为开发者提供了从认证到实时监控的双重解决方案。

第一重:认证、加固、反外挂

- 安全认证签名:安全认证签名(Token)是 App 用户在加入房间时采用的一种鉴权方式。用户加入房间或登录服务时,客户端需要向服务端申请 NERTC Token;服务器生成 NERTC Token 后,再将其传给客户端。使用安全认证签名(Token)机制后,可以防止非法授权的用户进入房间,在原有 APP ID 的单层防护上多一层安全保护。

- 应用加固以及反外挂:通过应用加固以及专业的反外挂解决方案服务保障自己应用的安全性。

第二重:实时比对麦位,监控并及时处理“黑麦”

如果在特定条件下第一层防护被突破后,网易云信则会立即提供第二重“防黑麦”解决方案,通过实时UID和麦位信息对比,第一时间找出并踢出非法用户,最大程度的降低对用户的影响程度。


实时UID与麦位信息比对流程

●四重识别,确保内容合规 ●

相较于图片文字以及视频社交产品,语音社交产品在合规内容甄别上更为复杂,除了直接带有明确语义的语音审核如涉及色情、政治、谩骂、广告等之外,还有包含间接无语义语音审核,如政治领导人的声纹、反动禁歌等。

针对以上问题,网易云信结合网易易盾安全能力,通过基础语音识别、智能声纹识别、用户维度识别和社交场景识别,为应用平台提供四重数字内容风控防护。

第一重:基础语音识别

基础语音识别是先将接收后的语音内容通过易盾AI人工智能技术将语音转化为文本,再监测语音文本中是否存在违规内容。同时,基础语音识别支持各类语音变种内容,如方言、小语种、同音词、变速、背景音等,进而实现集语音处理、语义模型、文本安全于一体的智能甄别。

第二重:智能声纹识别

智能声纹识别是通过网易易盾提取违规语音发言者的声纹特征,并给每一种违规语音分门别类,如性别、人物身份、违规类型等打上标签,从而建立声纹库,从而实现无语义的智能声纹监测。

当前,易盾支持多种声纹监测,如区分male与female的人声性别检测、重点领导人声纹监测、涉及"黄、暴、政"的声纹黑名单等。

第三重:用户维度识别

用户维度是借助用户关系、用户行为、用户画像,从社交关联图谱视角入手,整合社交行为(如加好友、互粉、私聊、群组/聊天室等)与账号基础属性数据(如头像、昵称、签名等)构建用户亲密度网络。通过应用Fast-Unfolding、GraphCut等图聚类算法从中挖掘出潜在的团伙子图和应用动态DeepWalk、Struct2Vec算法实现用户节点的向量化表达,在高维特征空间中聚类发现黑灰产账号(如,水军、机器人、色情账号或者营销账号等)明显区别于正常用户的社交行为模式。

当前两个模型已在社交行业线客户中广泛应用,风险识别准确率高于95%,对垃圾变种有显著的召回增益。

第四重:社交场景综合检测

网易云信从大量社交应用场景解决案例出发,结合网易易盾沉淀的一套针对社交媒体的监测经验和方法论,从内容和用户两个维度建立了一整套适用于IM私信、多人聊天室、用户资料、弹幕、留言、评论等大部分社交场景的联合监测算法。

目前,语音检测在通用领域的识别准确率达到90%以上,小语种ASR在实验室环境下平均识别准确率约达90%。


网易易盾一站式数字内容风控解决方案

●全流程监控,保障信息安全 ●

语音作为社交的传播媒介,在信息上下行中会出现一系列安全隐患,首当其冲的就是推流与拉流安全。比如在推流中,攻击者拿到推流地址后会进行抢占式推流,不仅影响源流的正常推流,还抢占了带宽资源;而拉流中,如果用户的视频源是热门资源或者独家资源,竞争对手拿到拉流地址后会在自己的平台上进行播放,严重影响开发者的正常业务开展。

因此网易云信也提供了一系列防盗链安全手段,保障开发者的资源不被轻易盗用。

建立直播防盗链

- 直播防盗链:是通过在推拉流地址中添加鉴权字符串,来保证视频资源安全的一种方式。开通直播防盗链功能后,推拉流地址中会包含一段鉴权字符串,只有合法生成的鉴权串才能进行正常的推流和拉流;另外,推拉流地址具有时效性,只有在有效期内才能正常地推拉流。

- 设置IP黑、白名单:使用IP黑名单之后,系统会自动拒绝在黑名单中IP的推流请求,并放行黑名单外IP的推流请求;如果配置了IP白名单,则会放行在白名单中IP的推流请求,拒绝在白名单外IP的推流请求。

自研私有协议传出

网易云信通过自研的私有协议传输,在保障通信效率的基础上, 也能在传输信道上提供客户端和服务器之间session级别一次性点对点加密,使用的算法不仅包括业界经过实践检验的高强度标准加密算法,也支持我国标准的国密算法,且该功能可以为高级别场景量身定制,具体特性如下:

- 密钥客户自管理:密钥完全由客户生成和管理,客户可以采用密钥机等方式生成,在密钥根源上保证安全性。

- 加密方法自管理:支持aes-128-xts、aes-256-xts、aes-256-cbc、aes-256-ctr(即srtp加密)、aes-128-ecb多种加密算法,客户可根据要求灵活选择。

综合以上信息传播安全保护,网易云信实时音视频开启音频/视频加密后,即便媒体数据包被截获也无法解码出原始数据,充分保障开发者媒体上下行传输的安全性。

一个技术产品的实现是靠前期的野蛮生长,但是一个技术产品的长久发展乃至于成为现象级应用则是需要不断地补足短板、打磨优势。

作为融合通信云服务商,网易云信将继续发挥自身在融合通信领域的优势能力,为开发者提供强有力的音视频技术与安全合规保障,进而让开发者更多地专注于产品创新与用户体验提升!