← 全部模型

OpenAI CSAM Image Classifier

發布時間 發布主體 OpenAIomni-moderation-csam-latest

模型定位

OpenAI CSAM Image Classifier 是供經核准機構使用的兒童性虐待影像素材(CSAM)分類器,用於識別可能的 CSAM,包括已知內容雜湊比對可能漏掉的新影像或 AI 生成影像。該模型在美國國家失蹤與受虐兒童中心(NCMEC)協助下建置。(openai.com)

能力與用途

  • 接收靜態影像,分別回傳疑似 CSAM(likely-csam)及疑似 AI 生成 CSAM(likely-csam/gen-ai)的分類標記與 0 至 1 的風險分數;兩項訊號並不互斥。分數不是經校準的機率,AI 生成分數也不能證實影像來源。(developers.openai.com)
  • 適合協助信任與安全團隊、兒童安全組織及其他獲授權機構,為受過訓練的人員安排影像審查優先順序,並輔助既有的內容安全和通報流程。(deploymentsafety.openai.com)
  • 使用獨立的 POST /v1/moderations 請求;每次提交一張靜態影像,上限為 20 MB(20,000,000 位元組)。不支援內嵌審核或 Batch API。(developers.openai.com)

限制與使用條件

  • 須申請並取得 OpenAI 核准,完成必要的驗證、入門程序及方案條款,才能使用。(help.openai.com)
  • 可能出現誤報與漏報;其他平台的內容分布與適用閾值可能不同,應以自身具代表性的資料評估。官方尚未測試影片畫面。(deploymentsafety.openai.com)
  • 分數本身不能確認影像是否為 CSAM、判定其法律地位或決定通報義務,也不會自動向主管機關通報。應結合已知內容雜湊比對、情境判斷及合格人員審查;不要向此服務提交已確認的 CSAM。(deploymentsafety.openai.com)
  • 官方表示,提交至分類器 API 的影像處理時不予保留,也不用於訓練或評估。(deploymentsafety.openai.com)

發布與價格

  • **發布日期:**2026 年 11 月 16 日。(openai.com)
  • **價格:**經核准機構透過 OpenAI API 使用本分類器免費。官方未列出輸入與輸出各自的 token 計費價格或計費幣種;因此不另行推定單價或幣種。查詢日期:2026 年 11 月 18 日。(developers.openai.com)

官方來源