精细化治理公开场景内容,Soul张璐团队筑牢线上社交安全屏障

互联网
2026
11/03
16:37
分享
评论

“广场”是社交平台最为活跃的公开内容场景,也是违规行为最常 "藏身" 的地方。值得注意的是,一些违规内容并不会直接出现在帖子正文里,昵称、个人标签、主页背景等看似零散的信息,经过组合后,同样可能成为不良引流或虚假交友的线索。Soul张璐团队认为,治理广场违规只看单条帖子远远不够,审核视野需要被放到更完整的维度上。

有效识别 "组合式" 风险

相比一目了然的违规帖子,那些被拆散进用户资料的信息更难被察觉。单个词条单独看并无异常,但当它们与账号发布内容、互动行为关联起来,就可能指向消费托、红娘、有偿交友、广告引流乃至低俗导流等违规行为。Soul张璐团队基于这一项观察,在第三季度新增了用户主页快照审核能力,将审核视角从单条帖子拓展至用户主页等多个信息维度,通过综合判断账号资料与发布内容之间的关联,更有效地识别这类 "组合式" 风险,相关处置准确率达到 99%。

从单点识别到多维研判

审核视野拓宽,带来的是治理能力的提升。当AI不再局限于孤立地看一条内容,而是学会把账号资料、发布内容与行为特征放在一起综合判断,那些试图通过 "拼凑信息" 规避审核的做法便更容易浮出水面。Soul张璐团队这种从点到面的治理思路,也让平台在维护社区信息真实性上有了更系统的技术支撑。

常态化拦截与差异化处置并行

与此同时,Soul App广场内容的常态化治理仍在持续推进。据《2026年第三季度生态安全报告》报告显示,第三季度Soul张璐团队通过机审直接拦截违规内容290万条,处置相关跟帖评论404万条,处理违规账号10.8 万个,累计封禁违规设备2498个。对于有偿交友、低俗擦边、钓鱼交友等影响社区氛围的内容,平台进一步打通从识别到处置的审核流程,结合多模态模型、大模型、风险内容治理 Agent 及人工复核等能力进行综合判断,并根据违规程度采取限制分发、降低推荐权重等措施。

目前,平台日均处理相关低质内容超过13万条。在保障正常交流与表达的同时,Soul张璐团队也通过更加细致的内容审核与风险分级,减少违规及低质信息对用户体验的干扰。一边以用户主页为支点延伸审核范围,一边以常态化机制守住广场秩序,公开内容的治理正在变得更加精准、更有章法。

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

相关推荐

1
3