LlamaGuard

工具定位

Llama Guard 是 Meta 发布的安全分类模型系列，用大模型按预设策略判断文本或对话是否违规，常被用作生成内容的安全护栏。

主要能力

• 按策略清单输出安全或存在风险的结论，并给出违规类别。
• 策略可自定义，能贴合平台自己的内容规范。
• 提供不同参数规模的版本，可本地部署，也可作为审核服务。

使用评价

相比词表方案，它能理解语境，对隐晦表达与变体绕过的识别更好，适合剧本、台词的语义级审核。代价是需要 GPU 推理，单条延迟明显高于关键词过滤；中文效果弱于英文，误杀与漏判都需要用业务数据调优；模型更新频繁，策略版本要跟着维护。

适合与不适合

适合：需要语义判断的剧本审核、对话内容安全。

不适合：高并发、低延迟的实时过滤，或算力受限的环境。

内容依据项目公开资料与常见中文评测整理，参数与授权以官方仓库为准。