Image Moderation

Image Moderationは、画像内の不適切で安全でないコンテンツを検出・認識します。基準には、示唆的または明示的なわいせつコンテンツ、ヌード、暴力、残虐行為、流血、武器や薬物の存在が含まれます。

open()メソッドに.webp/.jpegまたは.pngファイルを入力として提供できます。このメソッドは、レスポンスとして画像ファイルオブジェクトを返します。

モデレーションモードとしてBASIC、MODERATE、またはADVANCEDをオプションで設定できます。デフォルトでは画像はADVANCEDモードで処理されます。

レスポンスは、各基準の確率と信頼度スコア、および画像がsafe_to_useまたはunsafe_to_useであるかの予測を返します。

以下で使用されているコンポーネントインスタンスziaの詳細については、こちらのヘルプセクションを参照してください。

使用パラメータ

zia = app.zia()
img = open("sample.webp", "rb")
result = zia.moderate_image(img, options={"mode": "moderate"})

サンプルレスポンスを以下に示します：

{
   "probability":{
      "racy":"0.09",
      "nudity":"0.06"
   },
   "confidence":"0.85",
   "prediction":"safe_to_use"
}