🛡️ 内容安全模型对比
选择模型,输入文字、图片或同时审核。三个独立模型,按页签调用;图片请选择 Nemotron 或 Llama Guard。
NVIDIA Nemotron 3 · 文本与图片审核
原本在 Mac 上运行的同一模型与权重版本,现在使用云端 GPU。
✅ 原版 Nemotron 3 已加载 · 与本地版相同 checkpoint · BF16 · 云端 ZeroGPU
user_safety:文字与图片输入的判定;response_safety:助手回复判定。categories:原版模型输出的类别,可能包含 Needs Caution。
此入口保留本地版的标签与类别输出,不提供校准概率。模型加载失败或输出异常不会被当作安全。
Examples
| 待审核文字 | 助手回复(可选) |
|---|
原版 BF16;图片最长边缩至 1280 像素,可能影响小字识别。共享 ZeroGPU 可能排队。应用不主动记录输入内容。
NVIDIA 模型与许可 · Qwen 页签提供原生三类概率。
Qwen3Guard-Stream-4B · 原生概率审核
Safe / Controversial / Unsafe 原生分类头;仅支持文本。
✅ 原版 4B · BF16 · ZeroGPU · Apache 2.0
流式演示会将你填写的回复逐 token 送入分类器,并每 8 tokens 更新一次概率。它不生成聊天回复。
Examples
| 用户输入 / 待审核文本 | 助手回复(可选) |
|---|
✅ 原版 Llama Guard 4 已加载 · BF16 · ZeroGPU
如何阅读结果
safe:按模型规则未检出违规;unsafe:检出所列类别;unknown:输出无法解析,需复核。
risk_score:偏向 unsafe 的相对分数,越高越倾向违规,未经校准,不是真实违规概率。
action:allow 放行、review 复核、block 拦截;由阈值计算,可以与原始判定不同。异常输出或缺失分数一律复核。类别仅来自原始输出,按分数拦截时可能没有类别。
Examples
| 待审核文字 | Assistant 回复 |
|---|