数字浪潮中,社交平台成为情感联结与精神寄托的重要载体,却也难逃网络诈骗、语言暴力等乱象侵扰。2025年国家网信办深化“清朗”专项行动,为网络空间筑牢安全防线。在此背景下,Soul创始人张璐团队积极响应监管要求,以技术与共治为抓手深耕生态安全,此次Soul发布的《2025年度生态安全报告》,正是团队以AI赋能守护社交安全的实践答卷。
技术赋能,AI成为社交安全“压舱石”
伴随语言模型与多模态识别技术发展,网络治理也进入更为智能的新阶段,2025年Soul将AI深度融入治理全周期,打造智能安全防护体系。平台部署7大自研AI模型协同发力,其中图片/文本反作弊、杀猪盘发帖文案识别等模型精准破解行业痛点;同时深化与浦东反诈中心等部门合作,全年推送违法线索百余个、协助维权30余次,以“站内拦截+站外打击”的闭环,构建起联防联治的安全网络。
由堵到疏,重塑数字时代社交礼仪
网络暴力是社交平台治理难题,2025年Soul摒弃单纯封禁的治理思路,以技术引导培养用户的社交素养。平台部署先进的AI情感分析模型,结合上下文语境检测攻击性语言,通过“轻提醒、柔引导”的方式开展私聊和评论友善提醒超20.8万次,从源头化解网络矛盾;同时升级全链条治理机制,开展拒绝网暴专题活动,超93万用户签署友善互动声明,配合官方高频次生态宣传,让社交礼仪内化,构建起反网暴的社区共识。
社区共治,让每位用户都成为守护者
Soul 始终相信,最好的社区是由用户自己定义的,2025年深度落地并推广社区共治模式。平台现有8万名内容推荐官、风纪委员等社区共建用户,日均超1.8万次投票、产出2500条案例处理结果,以去中心化治理唤醒用户主人翁意识,实现社区氛围自我进化。同时针对高频社交场景细化治理颗粒度,日均拦截群聊违规语音、文字消息共7万条,私聊端通过功能优化日均保护6.6万名用户免受骚扰,让用户真正掌握社交空间的自主选择权。
硬核守护,筑牢未成年人安全“隔离墙”
未成年人保护是社交平台的底线,同时也是Soul 2025年的工作重点之一。在识别层面,Soul突破单纯实名认证的局限,引入AI行为分析模型,通过分析用户的交互模式、语言特征及设备使用习惯,能够有效区分真实未成年人与成人伪装行为,让疑似未成年人识别准确率提升超50%,冒充成年人策略识别贡献率达99%。同时平台从被动防御转向主动护航,为青少年模式整合多重防护维度,寒暑假动态调整内容池,2025年上线未成年人识别与保护相关策略51条,既降低未成年人接触不良信息的风险,也大幅提升了家长对平台的信任度。
低质内容清理,回归清朗社交
健康的社交生态必须具备自我修复与自我净化的能力,既需新鲜活水注入,也需常态化“清淤”。2025年,Soul全面升级内容治理策略,重点打击低俗、恶意营销等。全年通过机器预审直接拦截的违规内容量级达到了惊人的1642.5万;处置违规账号76.7万个。针对广场中出现的低俗擦边、有偿交友、恶意引战等痛点,Soul实施了严格的限流与处理措施。日均处理量超过12万帖。对于在同设备下存在多个违规账号的“黑产团伙”,平台累计拉黑设备4万个,以强硬举措彻底净化社区风气,夯实健康社交生态根基。
从AI赋能防护到社区共治落地,从未成年人硬核守护到低质内容彻底清淤,Soul创始人张璐团队以多维度实践响应监管要求,为站内用户筑起一道坚固的防护墙。这份报告的每一组数据、每一项举措,都是团队深耕社交安全、践行责任担当的有力印证,用扎实行动为用户守护住了纯粹的情感联结与社交空间。
