全文概述

Soul App发布《2026年第二季度生态安全报告》，围绕广场、群聊、私聊三大核心互动场景，通过AI技术与人工审核结合的方式开展多层级内容治理，重点打击低俗引流、虚假人设、消费托、杀猪盘等违规行为，同时配套社交规范宣导措施，有效降低用户遭遇骚扰、欺诈的风险，维护真实健康的社区交流氛围。

核心场景违规内容治理成效

针对低俗擦边、有偿交友、攻击辱骂、违规引流等违规内容，2026年第二季度平台通过机审直接拦截违规内容400万条，处置相关跟帖评论726万条，累计拉黑违规设备3723个，日均向2533名用户推送社区规范提醒；针对低质信息采取识别、审核、流量限制综合处置，日均处理相关内容超13万条。群聊场景日均处置语音违规2.35万余次、拦截违规文字消息3.8万余条、梯度处罚违规用户400余个、修改低质房名2500余个，累计拦截违规群聊6800余个。

专项风险整治成果

针对诱导线下消费的消费托风险，上线专项自动化治理策略，累计处置相关风险账号约3.2万个。针对盗用他人图片、虚构身份等假人设问题，通过策略识别加人工审核的方式，累计处置假人设违规账号3万余个，处理相关帖子8万余条，有效压缩虚假内容传播空间，降低诈骗、骚扰衍生风险。

AI技术在风控治理中的应用

AI技术贯穿全流程管控，升级批量黑灰产识别节点后，风险内容处置率从上线初期的30%提升至60%，实现从“先发布后治理”到“先拦截后发布”的模式转变，日均上报疑似垃圾账号3000余个，封禁1700余个，大幅缩短黑灰产账号存活周期。反诈AI Agent结合账号、行为、语义综合识别杀猪盘账号，准确率达93%以上，为私聊场景风险治理提供支撑。搭建“AI元数据识别－AI外显标识识别－人像图识别－AI图识别”分层识别链路，异步识别AI人像、虚假场景、盗图内容并推送中性提示，不影响用户正常发帖。配套落地女性私聊隔离机制、未成年人AI发帖审核，日均隔绝骚扰3099次，主动识别未成年人比例超99%。

社交规范建设与未来规划

官方账号“风纪球长”定期公示违规处罚典型案例，围绕低俗内容、不实信息、恶意引战开展安全规范、社交礼仪、网络辟谣常态化宣导，二季度相关内容累计触达用户47万人。未来平台将持续迭代AI内容识别模型，打通账号、设备、内容、社交链路全流程管控，结合人工审核、产品防护、用户教育完善治理闭环，平衡用户社交体验与社区内容安全。