主要な概念

Image Moderationのユースケースと実装について学ぶ前に、その基本的な概念を詳しく理解することが重要です。

Moderation Modes

Image Moderationでは、モデレーションプロセス中に検出およびフラグ付けする特定の基準を選択できます。これは、画像ファイルとともに入力で3つのmoderation modeのいずれかを指定することで行えます。

利用可能な3つのmoderation modeは以下の通りです。

• Basic: 画像内のヌードのみを検出します。
• Moderate: 画像内のヌードと挑発的なコンテンツを検出します。
• Advanced: ヌード、挑発的なコンテンツ、残虐、薬物、武器など、サポートされているすべての基準を検出します。

モデレーションプロセスの精度レベルは、各moderation modeによって異なります。精度レベルは以下の通りです。

• Basic: 98%の精度で安全でないコンテンツを検出可能
• Moderate: 96%の精度で安全でないコンテンツを検出可能
• Advanced: 93-95%の精度で安全でないコンテンツを検出可能

これらの精度レベルを考慮し、ユースケースに基づいてmoderation modeを選択し、それらの基準のみのモデレーションを有効にできます。

入力形式

Zia Image Moderationは、以下の入力ファイル形式の画像ファイルをモデレートします。

• .jpg/.jpeg
• .png

ユースケースに基づいて、アプリケーションにImage Moderationを実装し、必要に応じて入力を有効にできます。たとえば、アプリケーションのエンドユーザーがアップロードした画像ファイルを自動的にモデレートし、不要な画像をリアルタイムで削除できます。

Ziaは、安全でないコンテンツのインスタンスが画像内で見やすく明確である場合、またはテキストコンテンツや透かしによって遮られていない場合に、より適切に検出できます。

APIリクエストを使用して提供される入力には、入力画像ファイルと、moderation modeの値としてbasic、moderate、またはadvancedが含まれます。moderation modeを指定しない場合、デフォルトでadvanced modeが適用されます。ファイルサイズは10 MBを超えてはなりません。

リクエスト形式はAPIドキュメントで確認できます。

レスポンス形式

Zia Image Moderationは、以下の方法でレスポンスを返します。

• コンソールの場合: コンソール内でサンプル画像をアップロードすると、デコードされたデータが2つのレスポンス形式で返されます。
  
  • テキスト形式:
    テキストレスポンスには、検出された安全でないコンテンツの一覧と、検出のconfidence levelがパーセンテージ値として含まれます。検出されたコンテンツに基づいて、predictionが_Safe to Use_または_Unsafe to Use_としてconfidenceパーセンテージとともに提供されます。テキストレスポンスでは、サポートされている基準は以下のカテゴリにグループ化されています。
    * Violence: Weapons * Suggestive: Explicit nudity, Revealing clothes * Substance Abuse: Drugs * Visually Disturbing: Blood
  • JSON形式: JSON responseには、検出されたコンテンツに基づいて、moderation modeの各基準の確率が0から1の値で含まれます。JSON responseの基準は、racy、weapon、nudity、gore、drugです。すべての基準の確率に基づいて、predictionがsafe_to_useまたはunsafe_to_useとして、0から1のconfidence scoreとともに提供されます。0から1のconfidence scoreは、以下のようにパーセンテージ値に換算できます。
    

• SDKを使用する場合: APIリクエストを使用して画像ファイルを送信すると、上記で指定された形式の結果を含むJSON responseのみを受信します。JSON responseの形式はAPIドキュメントで確認できます。