职位描述
1. 负责内容安全9大风险域(涉政、暴恐、涉黄、涉毒、涉赌、违禁品、虚假信息、侵权、不良价值观)和5类内容合规场景的识别框架搭建。制定分级分类管控策略,区分不同处置模式,并持续迭代优化。
2. 维护和更新内容安全审核规则库。快速响应监管政策变化,转化为可执行的审核标准和系统规则,确保规则时效性在 24 小时内闭环。
3. 通过ODPS/SQL进行指标分析,包括拦截率、误杀率、漏放率的监控与归因。利用数据驱动策略调优,识别系统性风险(如新型违规模式、隐喻表达、绕过手法),输出周期性风险洞察报告。熟练运用至少一种智能体工具。
4. 协同算法,将业务规则转化为模型训练样本和特征工程输入。参与审核模型的badcase分析、阈值调优和A/B测试设计,推动机审覆盖率提升,降低人工审核成本。
5. 向审核团队输出标准化审核 SOP 和培训材料,为商家运营团队提供合规指引。与法务团队保持紧密沟通,确保平台治理标准符合最新法规要求。
6. 通过常态化质检和蓝军对抗机制,主动发现当前策略体系的薄弱点。定期抽检审核结果,识别漏放和误杀的系统性pattern,形成"发现验证修复复测"的闭环优化机制。