Seedance 2.5 is live — 30-second cinematic video with native audio & real-person references

コンテンツモデレーション — テキストと画像を13カテゴリで判定

コンテンツモデレーション(モデル id omni-moderation-latest)は、テキスト、画像、またはその両方を 13 の有害カテゴリに照らし合わせ、フラグ判定とカテゴリ別スコアを返します。コンテンツを送信して、タスクをポーリングして、結果に基づいて対応する — すでに使い慣れた同じ非同期 /api/v1 契約で実現できます。

モデルの特徴
13 の有害カテゴリ · テキスト、画像、またはその両方
主な用途
ユーザーコンテンツを公開前にスクリーニング
入力
テキスト、画像 URL、またはその両方
出力
フラグ判定+カテゴリ別スコア
Input

プレーンテキスト · または JSON 文字列配列 / コンテンツブロック · 1 リクエストあたり最大 500 項目、30,000 ワード

0/16 files

各画像は 1 単位としてカウントされます

Estimated cost~$0.0011 credits
Result

Try one of these prompts

reApi のコンテンツモデレーションとは?

コンテンツモデレーションは omni-moderation-latest モデルです。1 つのリクエストでテキスト、画像 URL、またはその両方を受け入れ、フラグ判定、13 個のカテゴリ別スコア、各カテゴリが適用された入力タイプを返します。1 つの非同期コール単一文字列、文字列のバッチ、混合テキストおよび画像送信を処理し、すべてのリクエストはモデレーション単位ごとに課金されます — テキスト 1,000 ワードまたは画像 1 枚。

このモデルで作れるもの

このモデルで構築して本番に出せる、実際のワークフローとユースケースをご紹介します。

シールドゲートを通してコミュニティメッセージのストリームをスクリーニングするコンテンツモデレーション

コンテンツモデレーションでライブコミュニティフィードをモデレーション

コメント、チャットメッセージ、フォーラム投稿、レビューは人間のチームが読み切れないほどの速度で流れ込みます。コンテンツモデレーションは各メッセージを harassment、hate、violence、sexual content、self-harm、illicit カテゴリに照らし合わせ、フラグ判定とカテゴリ別スコアを返すので、パイプラインは明らかに問題のないコンテンツは自動承認し、境界線上の事例は人間に送り、明らかな違反はブロックできます。コメント 1 ページ分をまとめて 1 回のコールで送ることができます — コンテンツモデレーションは文字列ごとに 1 つの結果を返します。

コンテンツをチェック
写真とそのキャプションを 1 つのレンズ内で評価するコンテンツモデレーション

公開前に画像とキャプションを一緒にスクリーニング

写真とそのキャプションは個別では無害でも、一緒になると不適切になる場合があります。コンテンツモデレーションは混合入力 — テキストブロックと画像 URL を 1 つのリクエストで — を受け入れ、組み合わせを 1 つの項目としてスコアして、各カテゴリが画像に対して評価されたか、テキストに対して評価されたかを報告します。コンテンツモデレーションをアップロードエンドポイントの前に配置して、ユーザー生成メディアが CDN に到達する前に必ずチェックされるようにします。

コンテンツカードのグリッドを承認済みと保留中のレーンに仕分けするコンテンツモデレーション

パイプライン規模でコンテンツをバックフィルおよび監査

アーカイブを再スクリーニングしたり、パートナーのカタログを監査したり、独自の生成モデルの出力を QA したりします。コンテンツモデレーションはモデレーション単位ごとに課金 — テキスト 1,000 ワードまたは画像 1 枚 — し、リクエストごとに 1 回のみ請求額を計算するため、大規模バッチの方が単位あたりの費用が少なくなります。同じ task id、同じポーリングエンドポイント、他のすべての reApi モデルと同じクレジット台帳を使用するため、コンテンツモデレーションは既存ワーカーに新しいインフラなしで組み込めます。

料金

クレジット制 — 1クレジット = 0.001 USD。完了した生成のみお支払いいただきます。

初回テストコスト
$0.0011 credits

最安ティアで 1 回生成(1,000 words)。

テスト予算ガイド
クレジット追加
$10
約 10000 回のテスト
$50
約 50000 回のテスト
$100
約 100000 回のテスト
モデルカテゴリ料金
テキスト1,000 ワードあたり(各テキスト項目は最低 50 ワード)
$0.001
1 credits · 1,000 words
画像1 画像あたり
$0.001
1 credits · image

reApiを選ぶ理由

13 カテゴリ、1 つの判定

コンテンツモデレーションは harassment、harassment/threatening、hate、hate/threatening、illicit、illicit/violent、self-harm、self-harm/instructions、self-harm/intent、sexual、sexual/minors、violence、violence/graphic を各ブール値と 0–1 スコアとして報告し、その上に 1 つの flagged 判定を付けます。デフォルト判定が粗い場合、スコアに対して独自のしきい値を設定して調整できます。

テキスト、画像、またはその両方を 1 つのリクエストで

文字列、文字列配列、またはテキストと image_url ブロックの配列を送信します。コンテンツモデレーションは各カテゴリが適用された入力タイプを通知するため、混合送信は 2 つの切断されたチェックではなく 1 つの項目として採点されます。コンテンツモデレーションは画像 URL のみを受け入れます — Base64 アップロードを管理する必要はありません。

単位ごとに課金、1 回計算

1 credit は $0.001 USD です。コンテンツモデレーションはテキスト 1,000 ワードあたり 1 単位(各テキスト項目は最低 50 ワード)、画像 1 枚あたり 1 単位で課金し、合計をリクエストごとに 1 回 credit に変換します。失敗したリクエストは自動的に返金されます。ポーリングは無料です。

コンテンツモデレーション vs Azure AI Content Safety

両者ともテキストと画像の有害コンテンツをスクリーニングします。異なる点は、報告するカテゴリ数、結果の形成方法、課金単位、最初のコールの間に必要なセットアップの量です。

機能
reApi のコンテンツモデレーション
Azure AI Content Safety
カテゴリ
13 カテゴリ — harassment、hate、illicit、self-harm、sexual、violence のファミリーとサブカテゴリ — 各ブール値と 0–1 スコア。
4 つの有害カテゴリ(hate、sexual、violence、self-harm)。各カテゴリは 0–7 の重度レベル。画像は切り詰められた 0/2/4/6 スケールを返します。
テキストと画像を一緒に
1 つのリクエストがテキストと image_url ブロックをミックスして、1 つの項目としてスコアされます。コンテンツモデレーションは各カテゴリが適用された入力タイプを報告します。
別々の Analyze Text と Analyze Image API。マルチモーダル API は preview 中です。
課金単位
テキスト 1,000 ワードあたり、または画像 1 枚あたり。リクエストごとに 1 回 credit に変換。失敗したリクエストは返金。
最大 1,000 Unicode コードポイントのテキストレコードあたり、および画像ごと。7,500 文字の入力は 8 レコードとしてカウントされます。
バッチ処理
文字列の配列は、1 つのコンテンツモデレーションタスクから文字列ごとに 1 つの判定を返します。
1 つのテキストレコードまたは 1 つの画像を呼び出すたび。テキスト API は 10K 文字の最大値がデフォルトなので、より長い入力は分割されます。
開始方法
同じアカウント、エンドポイント、クレジット台帳上の 1 つの API キー。他のすべての reApi モデルと同じです。
Azure サブスクリプションと、最初のコール前にサポートされているリージョンで作成されたコンテンツセーフティリソース。
無料使用
最初のコールから従量課金制。サインアップクレジットはコンテンツモデレーションチェックの最初のバッチをカバーします。
月 5,000 テキストレコード、5,000 画像の無料枠。上限に達するとサービスを停止します。

比較は執筆時点で公開されている動作を反映しています(Azure AI Content Safety 価格と Learn ページ、2026-08-29 取得)。カテゴリカバレッジと閾値は各モデルにより設定されており、時間とともに変更される可能性があります。

3 ステップでコンテンツモデレーションを統合

  1. step 01

    API キーを作成する

    reApi に登録してキーを取得します。サインアップクレジットはコンテンツモデレーションチェックを十分にカバーしています — すでに答えが分かっているコンテンツに対して判定を検証するのに十分です。

    開く
  2. step 02

    チェック対象のコンテンツを送信する

    model: omni-moderation-latest と入力を付けて /api/v1/moderations に POST します。コンテンツモデレーションは即座に task id を返します。

    開く
  3. step 03

    判定をポーリングする

    status が completed になるまで /api/v1/tasks/:id を GET します。レスポンスには moderation.results が含まれます — flagged、categories、category_scores、category_applied_input_types は各入力項目に対して返されます。

    開く
docs/api/content-moderation

APIリファレンス

そのまま使えるコードと完全なパラメータ一覧。

curl -X POST https://reapi.ai/api/v1/moderations \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "omni-moderation-latest",
    "input": [
      { "type": "text", "text": "Is this comment safe to publish?" },
      { "type": "image_url", "image_url": { "url": "https://example.com/photo.jpg" } }
    ]
  }'

パラメータ検証エラー

送信時に同期的に拒否され、問題のフィールドが示されます。列挙値・範囲・URL フィールドを確認してください。課金は発生しません。

認証または残高の問題

401 は Bearer キーの欠落または無効、402 は仮押さえ額が残高を超過。キーとクレジットはコンソールで管理できます。

コンテンツまたは素材の拒否

参照素材と生成結果は自動審査を通過します。拒否されたタスクは明確なエラーで失敗し、全額返金されます。

タスクの失敗またはタイムアウト

失敗状態に達したタスクは課金されません。仮押さえは自動返金されます。タスク ID を保持して再試行してください。

よくある質問

このモデルに関するよくある質問。

コンテンツモデレーションは omni-moderation-latest モデルが reApi で公開されたものです。テキスト、画像、またはその両方の混合を 13 の有害カテゴリに照らし合わせ、フラグ判定とカテゴリ別スコアを返します。/api/v1/moderations エンドポイントで model id omni-moderation-latest を使って呼び出します。判定は moderation.results として非同期タスク経由で返り、モデレーション単位ごとに課金されます。このページの価格表で現在の料金をご覧ください。

start building

リリースの準備はできましたか?

プレイグラウンドで試すか、APIキーを取得して今すぐ統合しましょう。