比心陪练与网易易盾携手，护航6000万游戏爱好者的结伴体验

作为电竞陪练行业领军者,“比心陪练”对平台违规内容“零容忍”,对违法操作“出重拳”。为此,比心正不断升级风控系统提高监管级别,与网易易盾一道共建清朗的电竞陪练机制,以更创新的形式正面引导青年人,共同营造及维护互联网生态的绿色健康发展。

自2017年以来,易盾持续为“比心陪练”提供智能内容检测服务,通过深度学习技术,智能守护图文、音频与视频全媒体类型的UGC内容,从”用户注册“环节起跟踪问题团伙,多管齐下一举扫除有害内容,从而满足了6000万人大型UGC社区的数字内容风控需求,给全国玩家一颗“定心丸”。

• 客户介绍 •

文娱社交平台“比心陪练”APP推出至今7年有余,集结了线上、线下超6000万玩家,主打游戏陪练、声优陪聊、手绘陪练、英语陪练等功能,已建立起音频、视频、MSN等立体化多业务场景。

“比心陪练”的发展速度与游戏行业一样快,先后获得网鱼网咖、IDG资本投资,常年稳定在应用畅销榜前30名的位置,成为耳熟能详的游戏陪练“头号玩家”。

游戏陪练作为一项新兴职业,让一众“斜杠青年”通过游戏技能获取报酬,正在成为不可小觑的隐形就业趋势。通过平台与职业资格计划,“比心陪练”为年轻人凭借兴趣变现铺平了道路。

截至2020年,比心陪练累计为技能分享者创造收入超200亿元,注册陪练师超700万人,全职游戏陪练平均月收入达到7905元。

• 风控挑战 •

在线文娱有其自身面对的挑战,例如聊天中隐晦性暗示或主播在直播中裸露。在平台的每一角落,无论是陪练师还是玩家,无论是白天还是晚上,都不能出现淫秽色情、暴恐血腥、虚假广告、诈骗赌博等信息。

近年来,“比心陪练”维持了高用户增长率,更多人来到陪玩平台上生产信息与内容,给社区、私聊、直播等板块的规范带来挑战。对于一家集社交与游戏陪练于一体的公司来说,如何为用户提供一个健康安全、专业积极的交流环境,显然是个挑战。

挑战1:反欺诈

不时出现在平台的社区、直播、私聊信息中的引流信息,无疑增加了用户被打扰,甚至被诈骗的风险,这是“比心陪练”最不愿看到的。为此,“比心陪练”计划拎出一批黑产风险账号终结“猫鼠游戏”。

挑战2:内容质量运营

“比心陪练”是一个以电竞为核心的多元化内容社区,具备论坛、视频、直播三大入口。“比心陪练”秉承着专业和友善的电竞精神,坚决抵制庸俗低俗、侵权假冒、造谣传谣、标题党等违规账号,及时扫报复性谩骂、无意义灌水、商业广告等刷屏内容。

挑战3:违规内容识别

“黄、暴、政"内容风险危及平台的可持续运营。自成立以来,“比心陪练”就将内容审核视作必不可缺的一环,通过各种举措尽可能降低平台风险。

图 | 色情低俗内容风险

比心自建了多达400人的人工审核团队全天候在线,形成了风控、审核、举报、惩罚四位一体机制。为了更高效的审核,团队考虑引入成熟的人工智能内容检测技术,克服恶意违规内容的对抗行为,实时发现与定期质检。因此,高强度的内容审核与恶意用户发现显得尤为重要。

面对用户保护和平台责任的初衷,“比心陪练”亟需一套经济高效、易于维护的系统化内容风控方案,使人审团队更灵活应对使用高峰,以对海量UGC内容进行实时、全面的综合检索梳理。

•解决方案•

“比心陪练”的各项内容生态治理需求得到了回应。经过评估,比心选择了网易易盾的机器审核解决方案,以简化管理直播、私聊、社区等生态内容,提高了可靠性和即时性。

#1 在毫秒内发现多种内容风险

从内容源头出发,易盾持续快速迭代敏感词库、策略规则组合、语义模型,支持游戏陪练语境下的自定义信息预警与放过,建立灵活有度的内容管理模式。

第一,监控直播、私聊、社区等场景下出现的“黄、暴、政”等有害违规内容,让平台避免触及监管“红线”;

第二,拦截在广告引流信息中的诈骗话术,有效抑制诈骗发案,保护每一位社区用户的权益;

第三,杜绝虚假订单、竞对挖人等情况发生,避免给用户与平台造成资金损失;

第四,严禁谩骂、人身攻击、无意义灌水等不文明行为,维护社区秩序。

#2 利用算法迭代 “道高一丈”

黑产和平台的对抗从未停止。在娱乐社交平台中,黑产入侵从内容开始,在美女图片中隐藏着手机号、文字、二维码,以此吸引大量的潜在受害者。

在遭遇封禁后,黑产通过各种方式躲避平台的检测,对文字进行虚化处理、语义化处理、涂抹二维码等技术博弈,在平台上演了一轮轮“猫鼠游戏”。

这些狡猾的手段,让数字内容风控变成了大数据、技术层面的攻防战。如何实时识别新型不合规内容成为内容检测的必备项目。借助于易盾快速迭代的内容审核算法,“比心陪练”比以前更快地发现网络黑产的层层陷阱。

在与黑产对抗过程中,易盾研发了垃圾广告模型、二维码检测模型、面向UGC场景的OCR模型等多种技术能力,利用小样本训练、特征检索、相似聚类等方法反复围剿黑产样本,针对风险内容变种不断提升算法模型的识别效果。

#3 用户风险等级输出

结合易盾的数据挖掘与定制策略能力,比心建立起一套用户风险管理机制,对问题账户进行限流、封杀处理,精准狙击进化的黑产。

易盾研发了一套风险账户识别策略模型,以用户为关系节点,融合头像、昵称、IM内容、行为特点、设备资源等多种特征库,通过不同维度信息之间的综合决策,发现内容、设备、行为上的相似性,鉴别用户的风险等级,交由比心再次核验。

针对带对抗性的诈骗引流行为,“比心陪练” 小心求证,基于易盾的风险等级进行认定,在注册环节就拦下黑产账号,提前对风险内容生产者进行“锁喉”,夺回了内容风控的自主权。

#4 审核逻辑更贴近业务

以语音检测为例,易盾为比心提供“自然语意断句”与“固定时间切片”多种审核方式,最大程度降低客户的开发成本。

在“比心陪练”,百人团队就可以管控亿万条UGC信息,因为人工审核员不必花时间过目每一条内容,只需要集中注意力在机器反馈的嫌疑数据,满足7×24小时内容精准审核。

“比心陪练”使用易盾独立研发的后台进行风控策略的编排和部署,审核工作全程可溯源追踪,可以更轻松地管理智能内容检测服务,以应对内容创作高峰。

•使用效果•

“比心陪练”变得更加敏捷,能够游刃有余地对抗迅速升级的内容风险,通过大数据和人机识别技术,审核团队扫除了隐藏在内容生态与海量用户中的风险。

2020年,网易易盾助力“比心陪练”检测近50亿条风险内容,发现上千万条高风险内容,其中广告、色情、暴恐是社区的前三大内容风险。经客户验证后,风险用户命中准确率达到93%以上。

在服务期间,网易易盾为“比心陪练”提供定期质检、优化建议与内容生态维护报告,全景展示来自于各个场景、各种类型文件的内容风险。智能内容安全系统始终工作,为“比心陪练”减少迭代和测试模型的时间与成本,持续保障电竞陪练业务的稳步健康开展。

随着“净网”行动的推进,“监管治理违规内容”的主体监管责任唤起了互联网平台的共鸣。易盾的“智能内容检测解决方案”与此不谋而合,荔枝、探探、小咖秀、Soul、草莓聊等头部娱乐社交公司得以通过技术手段,对多媒体内容进行全方位审核,对平台内用户行为进行全路径监督,与业务深度结合落实风控实践。

未来,易盾也将携手更多平台,探索数字内容风控技术的多样实践路径,为企业提供安全、高效及便捷的数字内容风控体验,共同构建一个可持续发展的健康网络环境。