语音成社交新贵,一站式数字内容风控助力翻越安全合规的三座大山

过去一个月,语音社交产品在中国陆续遭遇“滑铁卢”。继Clubhouse被封之后,映客推出的“中国版Clubhouse"也因技术调整而紧急下架。从这些风险事件来看,内容监管、数据安全和隐私保护是摆在数字内容风控面前最大的难题,也是所有入场语音社交的团队必须解决的问题。

针对上述痛点,网易易盾推出面向语音社交平台的一站式融合解决方案,打通内容安全和移动安全能力,助力语音社交产品轻松化解各类数字内容风险。

01 专业内容安全 护航“语音+社交”新模式

在Clubhouse中,用户可以认识陌生人,随意游走在各类聊天室之间。在陌生人社交场景下,用户发言难以控制,让内容风险暴露无遗。近年来,我国在互联网内容治理方面取得一系列突破,与文本、图像相似,语音内容同样面临《网络安全法》、《网络安全审查办法》、《互联网信息服务管理办法》等法规的监管。

○ 在语音聊天室内出现涉黄、涉暴、涉政、违禁等内容,将会危及语言社交产品的持续运营。一旦出现上述越过监管红线的行为,风险将不可估量,轻则下线整顿,重则彻底关停。

○ 导流广告、谩骂、错误价值观导向等内容,也是不可忽视的内容监管"规定动作"。这些内容可能转化为更深层次的危机,不法分子处心积虑地将用户导向其他平台进行卖淫招嫖、网络诈骗、“杀猪盘”等违法活动。

○ 除硬性规定之外,社交语音产品的内容监控需求也可能源于自身平台的运营调性。借助内容风控技术,平台设置内容监管的"选择动作",及时发现不符合平台运营价值的言论。

以声音作为传播媒介,这让语音社交产品面临在内容治理上更困难的现实,音频给内容控制带来了一系列截然不同的挑战。首先,有别于文本、图像识别所面对的挑战,小语种、方言、语音、语调、语速、背景音都会导致语音识别准确率下降。其次,在陌生人社交场景下,语音社交产品还面临检测时效性挑战。语音内容被短暂保留,用于检验用户是否违规发布。开发者必须快速检测一条条实时聊天音频,而整个过程过于琐碎、费时。

当前,网易易盾技术研发组让实时、精准的语音检测技术成为可能。一条语音的检测依次经过语音处理、语义识别、文本安全、声纹检测等流程,即可审查:第一类,带语义的问题语音,检测对话是否涉及色情、政治、谩骂、广告等语义,一次性掌控若干种类型的内容风险;第二类,无语义的问题语音,例如色情范畴下的娇喘、ASMR,政治类别下的重要领导人的声纹、反动禁歌的音调。


图 | 网易易盾一站式数字内容风控解决方案

基于上述技术实力,易盾推出了基础语音识别、智能声纹识别、用户维度识别和社交场景识别,为语音社交平台提供四重数字内容风控防护。

第一重:基础语音识别

网易易盾的基础语音识别技术集语音处理、语义模型、文本安全于一体。先将接收后的语音进行预处理,下一步通过先进的人工智能技术将语音转化为文本,突破高度狡猾的语音变种内容,例如方言、小语种、同音词、变速、背景音等,在调用文本检测技术,负责监测语音文本中是否存在违规内容。

第二重:智能声纹识别

无语义的问题语音监测借力于智能声纹识别得以实现。当发现违规的语音内容时,网易易盾会提取违规语音的声纹特征,给每一种违规语音分门别类,根据性别、人物身份、违规类型打上标签,建立声纹库。当前,易盾支持多种声纹监测,区分male与female的人声性别检测、重点领导人声纹监测、涉及"黄、暴、政"违规的声纹黑名单。

第三重:用户维度

内容维度对语音本身进行检测,用户维度则是从用户关系、用户行为、用户画像入手进行风险预知。结合易盾的业务安全实力,对问题语音的发出者进行定位,将问题内容与衍生风险扼杀在摇篮中。

从社交关联图谱的视角,整合社交行为(例如,加好友、互粉、私聊、群组/聊天室)以及账号基础属性(例如,头像、昵称、签名)数据构建用户亲密度网络:一方面,应用Fast-Unfolding、GraphCut等图聚类算法从中挖掘出潜在的团伙子图;另一方面,应用动态DeepWalk、Struct2Vec算法实现用户节点的向量化表达,聚类发现黑灰产账号(例如,水军、机器人、色情账号或者营销账号)明显区别于正常用户的社交行为模式。

从业务风控治理的视角,黑产用户以获利转化为最终目的,在每一个业务节点上的行为大都是异常的。基于此,易盾在用户注册、登录、业务行为、UGC内容发布等关键业务环节引入验证码、设备指纹、反作弊策略,努力将每一个业务节点的问题率控制在最低。此外,每个业务节点的数据、结论相互辅助,从而确保内容风控整体效果。

截至目前,两个模型已广泛应用于易盾社交行业线,风险识别准确率高于95%,对垃圾变种有显著的召回增益。

第四重:社交场景综合检测

主打"语音+社交"的clubhouse们,在语音内容检测之外,也必须关注社交场景下的检测字段,包括头像、签名、昵称在内的用户资料、聊天室的房间标题,等等。

在服务大中型UGC平台的多年实践中,网易易盾沉淀了一套针对社交媒体的监测经验和方法论,从内容纬度和用户纬度出发建立联合监测算法,适用于IM私信、多人聊天室、用户资料、弹幕、留言、评论等大部分社交场景。

目前,易盾语音检测在通用领域的识别准确率达到90%以上,小语种ASR在实验室环境下平均识别准确率约达90%,尤其在电商、电话客服等领域,经过针对性定制优化,识别性能达到行业领先水平。

02 移动安全 守护用户数据与隐私

一位身份不明的用户将来自Clubhouse多个房间的音频传送到自己的第三方网站上。这起音频窃取事件引发了用户信任危机,暴露了语音社交爆发背后的隐忧,也给同类产品设计带来警示。

针对此类问题,网易易盾提供多重“安全措施”来防止此类事件再次发生,集合数据加密、应用加固、用户隐私政策合规于一体的移动安全解决方案,从音频数据保护到应用代码安全,让产品更安心。

第一重:端对端数据加密

用户创造的音频是语音社交产品的重要通讯数据,也是黑产觊觎的“肥肉”,在储存和传输中伴随着显著风险。如果客户端应用与服务端采用明文传输,攻击者可以轻易获得通信内容,从而伪造通信报文、篡改核心数据。

如何让音频数据带有高强度的自防护能力?开发商可以对通信中的语音数据加密后再发送,并结合多维度的校验机制,防范篡改、劫持、重放等攻击行为,保证网络数据传输的安全性。

数据传输安全:通信数据加密SDK融合了传统的对称、非对称加密和哈希加密的思想,任何时候移动终端只存有加密的公钥,服务器端只存有解密的私钥。当客户端和服务端完成密钥交换之后,数据得以传输。重要通讯数据也可重点适配“一次一密”模式,即在密钥生成中添加时间随机数,每次加密都使用新的密钥体系完成,有效防止了语音信息被窃取。

数据储存安全:安全存储SDK用于用户隐私信息、应用配置文件、本地重要信息的加密保护,支持AES、DES、3DES、SM4等标准的加解密算法,保护本地隐私文件免受篡改、窃取。

便捷的集成方式助力客户快速接入,自动实现关键数据加密。语音社交产品通过加载SO文件,在需要进行数据保护的环节直接调用易盾安全存储SDK的Java函数。加密后的音频数据即便被第三方“黑产”恶意拦截、窃听也无须担心。 


图 | 网易易盾端对端通信数据加密解决方案

第二重:应用加固保护

在用户数据与隐私保卫战中,移动应用本身是防御重镇。移动端仿佛一座敏感数据的仓库,率先成为黑产窃取攻击的目标。

大量诸如账号、密码、手机号码、信用卡号、银行卡号、身份证件号码、家庭住址信息、公司地址信息、家庭成员信息、个人私密信息、商业信息等敏感数据被保存移动设备中。社交产品中以文本、图片、音频为载体的聊天记录也是不可忽视的重要信息资产。

攻击者利用“逆向工程”原理,对没有加固的应用进行逆向分析及研究,得知代码逻辑,找到接口或程序中的漏洞,进而编制恶意程序,入侵和窃取用户信息。

网易易盾提供专业“函数级”代码加固服务,助力开发商可以对应用加壳、加密,从而降低应用代码被第三方逆向出来的可能性,阻止应用程序被二次打包、破解或篡改。

阻止代码破解:对APP代码逻辑进行形式转换,包括隐藏,混淆,加密等操作,基于Android与iOS系统特性进行区别保护,将兼容性、适配性、安全性风险降到最低。

避免接口被刷:对重要通信接口参数的加密保护,有效防止接口被分析后重要参数泄漏,导致攻击者通过接口模拟方式进一步破解程序。

防止截屏录屏:对所有录屏软件开启“黑名单”模式,阻止第三方恶意程序开启截屏、录屏功能,有效保护信息泄露。同时,支持追踪开启录屏功能的用户身份,主要是通过预制策略、用户设备信息、用户行为识别风险用户。

第三重:用户隐私政策合规

声名鹊起的Clubhouse深受用户隐私问题困扰,其用户隐私协议中的多项条款被指违反《一般数据保护条例》(GDPR),也不符合中国多部门近年来陆续出台的个人隐私保护法规:未经用户同意,调用用户手机中的联系方式,分析联系人数据吸引新用户加入;用户隐私协议只有英文版,非英语母语用户理解困难;针对录音取证和账号删除等个人数据处理情况,未能建立明确的规则。

根据《关于开展App违法违规收集使用个人信息专项治理的公告》,App运营者要遵循合法、正当、必要的原则,不收集与所提供服务无关的个人信息;收集个人信息时要以通俗易懂、简单明了的方式展示个人信息收集使用规则,并经个人信息主体自主选择同意;不以默认、捆绑、停止安装使用等手段变相强迫用户授权,不得违反法律法规和与用户的约定收集使用个人信息。

可以看到,Clubhouse违反了上述多项条款。易盾建议,用户隐私保护是大势所趋,考虑进入语音社交领域的开发商应该深入政策规划,既是为了避免损害使用者权益,也能够维护品牌商誉和商业运营,在用户隐私政策合规处理上多加注意。

“APP隐私合规检测”是易盾全新启动的一项自动化代码排查服务,精准定位到涉及违规获取隐私权限的代码位置,提供一对一用户隐私合规专家,通过安全测评报告向APP开发者提供专业整改建议,助力APP通过官方监管机构的评估。

03 总结

新社交形态的出现,扩展了网络安全的探讨空间。在政策法规的驱使下,内容监管、数据安全和个人隐私保护是语音社交绕不开的安全重点。后续,主打陌生人语音社交的开发商需要兼顾各类安全问题,排除内容安全与移动安全隐患,确保产品安全上线与平稳运营。

网易易盾高效赋能基于不同场景,切入声音赛道的社交产品搭建“安全"基础设施,灵活输出多层次、强有力的数字内容风控与数据隐私保护技术,让开发者专注形式创新与用户体验,助力产品取得成功。点击免费试用易盾音频检测服务