toxic-bert

工具定位

toxic-bert 是基于 BERT 的英文文本毒性分类模型，用 Jigsaw 公开数据训练，可识别辱骂、威胁、身份攻击等多类不当表达。

主要能力

• 多标签输出，能区分不同维度的毒性而不是简单的好坏二分。
• 可直接用 Transformers 加载，易于封装成审核接口。
• 模型体积适中，CPU 也能跑小批量推理。

使用评价

英文社区内容审核的常用基线，对明显的攻击性语言识别稳定，接入成本低。只支持英文，中文台词需要换用中文语料训练的模型；对反讽、圈内黑话和上下文依赖的毒性识别有限，误判时需要结合业务规则。适合出海产品的英文评论与台词审核。

适合与不适合

适合：英文评论、弹幕与对白的毒性识别。

不适合：中文内容审核，或需要细粒度语境判断的场景。

内容依据项目公开资料与常见中文评测整理，参数与授权以官方仓库为准。