概要
OpenAI CSAM Image Classifierは、児童性的虐待画像(CSAM)の可能性がある画像を検出し、訓練を受けた担当者による確認の優先順位付けを支援する画像分類モデルです。既知画像のハッシュ照合だけでは見つからない新規画像や、AI生成の可能性がある画像にも対応します。NCMECの協力を得て開発されました。(openai.com)
能力と用途
- 画像を分析し、潜在的なCSAMを示す
likely-csamと、潜在的なAI生成CSAMを示すlikely-csam/gen-aiのフラグおよびスコアを返します。人手確認への振り分けや、既存の子どもの安全対策を補完する用途に利用できます。(developers.openai.com) - 内部CLIP画像エンコーダーと3層の多層パーセプトロンを組み合わせた構成です。(deploymentsafety.openai.com)
- 承認された組織が
POST /v1/moderationsで利用できます。1リクエストにつき静止画像1枚、最大20 MBを入力します。アクセスには申請、確認、プログラムへの参加手続き、適用条件への同意が必要です。(developers.openai.com)
制限と注意点
- 誤検出と見逃しの両方があり、性能や適切なしきい値は利用環境によって異なります。スコアは校正済み確率ではなく、画像の法的な位置付けやAI生成の出所を確定するものでもありません。自動的な当局への通報は行いません。(deploymentsafety.openai.com)
- 訓練を受けた担当者による確認や、既知画像のハッシュ照合などと併用する必要があります。既にCSAMと確認された画像は送信せず、組織の既存の対応・通報手順で処理してください。(deploymentsafety.openai.com)
- テキスト分類、インラインモデレーション、Batch APIには対応していません。動画フレームでの性能は検証されていません。(developers.openai.com)
料金
承認された組織はAPIを無料で利用できます。通貨は適用されず、入力・出力別の単価は公表されていません。公式情報の確認日:2026年11月18日。(developers.openai.com)
公開日と公式情報
- 公開日:2026年11月16日。(openai.com)
- OpenAI公式発表
- モデルカード
- API利用・料金案内