社交应用的出现不仅帮助年轻人与他人实现了有效的关系连接,同时也衍生出了大量的内容,但内容池内泥沙俱下,这也将对社交应用的发展产生阻力。对此Soul再度发挥自身创新优势,创新出了行业首个动态查重功能,此功能也将为Soul递交港股上市申请提供新的助力。
针对内容广场的帖子与评论,Soul通过专项识别模型前置处理低俗内容。线上运行的软色情识别模型以及低俗色情识别模型,能够对文本、图片、视频、音频形式的有害信息进行有效识别。此外,Soul启动了针对“软色情”表情包内容的专项整治行动,对所有用户上传的私聊表情商店表情包进行严格复核,相关违法违规内容一经发现一律删除,后续上传相关内容的用户,还将面临严厉处罚。在此基础上,Soul在第三季度还上线了超过60条不良低俗内容治理策略,从而进一步精准识别不良低俗内容。
而在不良低俗内容治理方面的持续发力,也让Soul取得了显著的成果。整个第三季度,Soul官方风纪球长对安全生态宣传内容发布了共43篇帖子,涉及违规处罚公示、安全标准宣导、辟谣等内容,总计触达2870万用户。在广场治理方面,日均拦截5000条软色情内容,日均处理违规用户1863人次。在强力的治理举措下,日均举报量较上季度下降50%。此外,Soul还针对群聊派里的不良低俗内容重拳出击,通过敏感词检索模型设定,日均中断4000余条违规语音消息,日均拦截违规文字消息1.1万条,日均梯度处罚2000多名违规用户。
互联网中复杂繁多的内容一方面丰富了年轻人的精神生活,激发了年轻人的想象力,但其中裹挟的不良低俗内容也在侵害着用户的网络健康。在未来Soul将继续肩负责任,不断创新更多安全技术,推动社交领域发展的同时,也将为Soul港股上市做好全面准备。