NGL 的 AI 内容审核:消息送达前的第一道过滤
官方怎么描述审核机制
应用商店的官方介绍里专门有一段安全说明:为保障用户安全,NGL 采用 Hive Moderation 的自动化审核方案作为第一道防线,对消息进行不当内容扫描。也就是说,匿名消息在到达你的收件箱之前,会先过一遍机器审核。
自动审核管什么
结合官方公布的社区准则,机器审核主要拦截这些类别:
- 骚扰与霸凌言论
- 仇恨言论
- 涉及未成年人的不当内容
- 自残相关内容
- 垃圾信息
审核不是万能的
自动系统有自己的局限,官方也把人工工具放在同样重要的位置:
- 举报:每条消息自带举报入口,人工举报会触发平台复核
- 过滤:自己设定的关键词可以直接隐藏命中消息
- 链接开关:极端情况下直接暂停链接,停止接收一切新消息
三道工具与机器审核叠在一起,构成完整的治理体系。
对普通用户的实际意义
- 大多数明显的违规内容到不了你的收件箱
- 漏网的内容靠你的举报补充线索
- 别因为"有 AI 审核"就放松对异常消息的警惕