what it does
何ができる
AI入出力の危険性を分類するNVIDIAの安全チェック向けモデル。
たとえば、こんなことができます
- チャットAIにガードレールを付ける
- 画像つき入力の安全確認をする
- 危険カテゴリ別にログを残す
得意なこと
- AI入出力の安全性を分類
- テキストと画像を含む内容をチェック
- 11カテゴリの安全分類
- NeMo Guardrailsなどと連携
- AIプロダクト開発者
- 社内AIの安全運用をしたい人
- 人のレビューを完全に置き換えたい用途
- 誤判定が許されない単独判定
日本語対応:日本語△(多言語対応は公式modelcardを確認) / 主なモデル:Llama-Nemotron-Content-Safety-8B-v1