# 画像モデレーション -------------------------------------------------------------------------------- title: "はじめに" description: "Image Moderationは、Zia AIを活用した、すぐに利用可能な画像監視サービスで、画像内のNSFWコンテンツを認識し、Catalystアプリケーションに実装できます。" last_updated: "2026-08-17T13:08:50.036Z" source: "https://docs.catalyst.zoho.com/ja/zia-services/help/image-moderation/introduction/" service: "Zia Services" -------------------------------------------------------------------------------- # Image Moderation ## はじめに Image Moderationは、画像内の不適切で安全でないコンテンツを監視・認識するCatalyst Zia Servicesのコンポーネントです。コンテンツモデレーションのサブ機能であり、事前に定められたルールセットに基づいて、特定の画像が業務上安全かどうかを判断します。Zia Image Moderationは、画像内の以下の基準を監視・認識します。 * 露骨なヌード * 挑発的または示唆的なコンテンツ * 流血、残虐、暴力 * 薬物および物質 * 武器 Image Moderationは、Catalystアプリケーション内のユーザー生成コンテンツがアプリケーションの基準やガイドラインに違反しないようにするために使用されます。検出された不適切なコンテンツにフラグを付けたり、フィルタリングしたり、自動的に削除したりすることで、ブランドの評判と一般的な品位を維持できます。 Catalystは、Java、Node.js、Python SDKパッケージでImage Moderationを提供しており、CatalystのWebまたはAndroidアプリケーションに統合できます。Catalystコンソールでは、アプリケーションのコードに実装できるこれらの環境用のコードテンプレートに簡単にアクセスできます。 また、コンソールでサンプル画像を使用してImage Moderationをテストし、上記の属性に基づいたモデレーション結果を取得することもできます。Image Moderationは、各結果にconfidence scoreも提供し、その正確性を検証して次のステップについて十分な情報に基づいた判断を行うことができます。 コードサンプルについては、Java SDKドキュメント、Node.js SDKドキュメント、Python SDKドキュメントを参照してください。Image ModerationのAPIについては、APIドキュメントを参照してください。 Catalyst Zia Servicesのその他のコンポーネントについては、こちらのページをご覧ください。 -------------------------------------------------------------------------------- title: "主要な概念" description: "Image Moderationは、Zia AIを活用した、すぐに利用可能な画像監視サービスで、画像内のNSFWコンテンツを認識し、Catalystアプリケーションに実装できます。" last_updated: "2026-08-17T13:08:50.037Z" source: "https://docs.catalyst.zoho.com/ja/zia-services/help/image-moderation/key-concepts/" service: "Zia Services" -------------------------------------------------------------------------------- # 主要な概念 Image Moderationのユースケースと実装について学ぶ前に、その基本的な概念を詳しく理解することが重要です。 ### Moderation Modes Image Moderationでは、モデレーションプロセス中に検出およびフラグ付けする特定の基準を選択できます。これは、画像ファイルとともに入力で3つのmoderation modeのいずれかを指定することで行えます。 利用可能な3つのmoderation modeは以下の通りです。 * Basic: 画像内のヌードのみを検出します。 * Moderate: 画像内のヌードと挑発的なコンテンツを検出します。 * Advanced: ヌード、挑発的なコンテンツ、残虐、薬物、武器など、サポートされているすべての基準を検出します。 モデレーションプロセスの精度レベルは、各moderation modeによって異なります。精度レベルは以下の通りです。 * Basic: 98%の精度で安全でないコンテンツを検出可能 * Moderate: 96%の精度で安全でないコンテンツを検出可能 * Advanced: 93-95%の精度で安全でないコンテンツを検出可能 これらの精度レベルを考慮し、ユースケースに基づいてmoderation modeを選択し、それらの基準のみのモデレーションを有効にできます。 ### 入力形式 Zia Image Moderationは、以下の入力ファイル形式の画像ファイルをモデレートします。 * ._jpg_/._jpeg_ * ._png_ ユースケースに基づいて、アプリケーションにImage Moderationを実装し、必要に応じて入力を有効にできます。たとえば、アプリケーションのエンドユーザーがアップロードした画像ファイルを自動的にモデレートし、不要な画像をリアルタイムで削除できます。 Ziaは、安全でないコンテンツのインスタンスが画像内で見やすく明確である場合、またはテキストコンテンツや透かしによって遮られていない場合に、より適切に検出できます。 APIリクエストを使用して提供される入力には、入力画像ファイルと、moderation modeの値としてbasic、moderate、またはadvancedが含まれます。moderation modeを指定しない場合、デフォルトでadvanced modeが適用されます。ファイルサイズは10 MBを超えてはなりません。 リクエスト形式はAPIドキュメントで確認できます。 ### レスポンス形式 Zia Image Moderationは、以下の方法でレスポンスを返します。 * コンソールの場合: コンソール内でサンプル画像をアップロードすると、デコードされたデータが2つのレスポンス形式で返されます。<br /> * テキスト形式:<br /> テキストレスポンスには、検出された安全でないコンテンツの一覧と、検出のconfidence levelがパーセンテージ値として含まれます。検出されたコンテンツに基づいて、predictionが_Safe to Use_または_Unsafe to Use_としてconfidenceパーセンテージとともに提供されます。テキストレスポンスでは、サポートされている基準は以下のカテゴリにグループ化されています。<br /> * Violence: Weapons * Suggestive: Explicit nudity, Revealing clothes * Substance Abuse: Drugs * Visually Disturbing: Blood * JSON形式: JSON responseには、検出されたコンテンツに基づいて、moderation modeの各基準の確率が0から1の値で含まれます。JSON responseの基準は、racy、weapon、nudity、gore、drugです。すべての基準の確率に基づいて、predictionがsafe\_to\_useまたはunsafe\_to\_useとして、0から1のconfidence scoreとともに提供されます。0から1のconfidence scoreは、以下のようにパーセンテージ値に換算できます。<br /> <table class="content-table"> <thead> <tr> <th>パーセンテージでのConfidence Level</th> <th>0から1の値のConfidence Score</th> </tr> </thead> <tbody> <tr> <td>0-9</td> <td>0.0</td> </tr> <tr> <td>3-9</td> <td>0.0</td> </tr> <tr> <td>10-19</td> <td>0.0</td> </tr> <tr> <td>20-29</td> <td>0.0</td> </tr> <tr> <td>30-39</td> <td>0.0</td> </tr> <tr> <td>40-49</td> <td>0.01</td> </tr> <tr> <td>50-59</td> <td>0.12</td> </tr> <tr> <td>60-69</td> <td>0.23</td> </tr> <tr> <td>&lt;70</td> <td>0.63</td> </tr> </tbody> </table> * SDKを使用する場合: APIリクエストを使用して画像ファイルを送信すると、上記で指定された形式の結果を含むJSON responseのみを受信します。JSON responseの形式はAPIドキュメントで確認できます。 -------------------------------------------------------------------------------- title: "メリット" description: "Image Moderationは、Zia AIを活用した、すぐに利用可能な画像監視サービスで、画像内のNSFWコンテンツを認識し、Catalystアプリケーションに実装できます。" last_updated: "2026-08-17T13:08:50.037Z" source: "https://docs.catalyst.zoho.com/ja/zia-services/help/image-moderation/benefits/" service: "Zia Services" -------------------------------------------------------------------------------- # メリット 1. コミュニティユーザーの保護<br /><br /> Image Moderationは、顧客やアプリケーションユーザーに安全で保護された環境を提供するのに役立ちます。法的基準、企業ポリシー、一般的な品位の遵守を強化するのに役立ちます。Catalystは、残虐、薬物乱用、ポルノグラフィー、露骨なアダルトコンテンツなどの不快なコンテンツを含む画像がアプリケーションのプラットフォームで流通しないようにすることで、ブランドと顧客の評判を維持できます。 2. カスタマイズされた正確な結果<br /><br /> Image Moderationのmoderation modeは、要件に基づいて安全でないコンテンツの特定のカテゴリのインスタンスを検出する柔軟性を提供します。Ziaのトレーニングモデルは、さまざまな機械学習技術を使用した繰り返しの体系的なトレーニングで実装されているため、結果は低い誤差範囲で生成されます。Ziaは大量のデータを調査・分析して複雑な分析を実行できるため、生成される結果が正確で信頼性の高いものになります。 3. 自動リアルタイム監視<br /><br /> Image Moderationは、アプリケーション内のユーザー生成コンテンツのリアルタイム監視を実行できます。Catalystは、人間によるレビューを制限または排除することで、コンテンツを手動でモデレートするために必要な時間と労力を節約します。また、安全でないコンテンツを含む画像を必要に応じて処理することもできます。たとえば、追加の手動レビュープロセスを実装したり、検出されたコンテンツを自動的に削除してガイドラインに違反するユーザーのアカウントに警告を発行したり、停止したりするようにアプリケーションをコーディングしたりできます。これにより、アプリケーションが24時間365日監視されます。 4. 高速パフォーマンス<br /><br /> Image Moderationは、ユーザー生成コンテンツがプラットフォームにアップロードされるとすぐに、短いターンアラウンドタイムで瞬時に結果を生成します。Catalystは高いデータ転送スループットと最小限のリクエスト処理レイテンシを保証します。高速な応答時間、最先端のインフラストラクチャ、スケーラブルなリソースにより、予期しないスパイクに対応し、優れたパフォーマンスを提供します。 5. シームレスな統合<br /><br /> アルゴリズムの複雑な処理やバックエンドのセットアップを学ぶことなく、アプリケーションにImage Moderationを簡単に実装できます。Java、Node.js、Pythonプラットフォーム用に提供されている既製のコードテンプレートを、Image Moderationが必要なCatalystアプリケーションに実装できます。 6. コンソールでのテスト<br /><br /> コンソールのテスト機能により、Image Moderationの効率を検証できます。サンプル画像をアップロードして結果を表示できます。これにより、アプリケーションに実装した際に生成されるレスポンスの形式と正確性について把握できます。 -------------------------------------------------------------------------------- title: "ユースケース" description: "Image Moderationは、Zia AIを活用した、すぐに利用可能な画像監視サービスで、画像内のNSFWコンテンツを認識し、Catalystアプリケーションに実装できます。" last_updated: "2026-08-17T13:08:50.037Z" source: "https://docs.catalyst.zoho.com/ja/zia-services/help/image-moderation/use-cases/" service: "Zia Services" -------------------------------------------------------------------------------- # ユースケース Image Moderationは、ユーザー生成コンテンツが自由に流通するアプリケーションで強く必要とされます。以下は、Zia Image Moderationのユースケースの一部です。 * プロフィールに写真を投稿できるソーシャルメディアアプリケーションが、Image Moderationのmoderate modeを実装して、ユーザーが「Upload」をクリックするとすぐに公開されようとしている画像を監視します。この監視プロセスはバックグラウンドで行われ、Ziaは露骨なヌードや挑発的なコンテンツを含む画像を即座に検出します。アプリケーションのロジックは、それらを自動的に削除し、不適切なコンテンツをアップロードしたユーザーに警告を発行するようにコーディングされています。 * ウェブサイトが子供向けバージョンを実装し、流通するコンテンツを残虐、ヌード、武器、薬物、挑発的なコンテンツのすべてのインスタンスについて厳密に監視する必要があります。Image Moderationのadvanced modeを使用して、すべての不適切なコンテンツを監視・自動削除し、未成年者が保護者の指導なしに自由にウェブサイトを使用できる安全な空間を確保します。 Image Moderationは、以下のシナリオでも実装できます。 * 残虐やヌードのインスタンスに対してグラフィック警告と画像カバーを実装するアプリケーション。 * 攻撃的な画像の公開を防止して、文化的および宗教的信条への敬意を強化するアプリケーション。 * 専門的および教育的環境向けに作成されたアプリケーション。 * 子供向けのアプリケーションやウェブサイト。 * 管理者レビューなしでユーザーがコンテンツをアップロードできるブログやソーシャルメディアアプリケーション。 * ネットいじめやポルノグラフィー素材の配布防止を強化するアプリケーション。 -------------------------------------------------------------------------------- title: "実装" description: "Image Moderationは、Zia AIを活用した、すぐに利用可能な画像監視サービスで、画像内のNSFWコンテンツを認識し、Catalystアプリケーションに実装できます。" last_updated: "2026-08-17T13:08:50.037Z" source: "https://docs.catalyst.zoho.com/ja/zia-services/help/image-moderation/implementation/" service: "Zia Services" -------------------------------------------------------------------------------- # 実装 このセクションでは、CatalystコンソールでのImage Moderationの操作のみを扱います。アプリケーションのコードでImage Moderationを実装する方法については、SDKおよびAPIドキュメントのセクションを参照してください。 前述のとおり、コンソールからImage ModerationをCatalystアプリケーションに統合するためのコードテンプレートにアクセスでき、また画像をアップロードして結果を取得することで機能をテストすることもできます。 ### Image Moderationへのアクセス CatalystコンソールでImage Moderationにアクセスするには、以下の手順を実行します。 1. Catalystコンソールの左ペインでZia Servicesに移動し、Image Moderationをクリックします。<br /> 2. Image Moderationの機能ページでTry a Demoをクリックします。<br /> <br /> これにより、Image Moderation機能が開きます。<br /> <br /> ### CatalystコンソールでのImage Moderationのテスト Catalystのサンプル画像を選択するか、独自の画像をアップロードすることで、Image Moderationをテストできます。 サンプル画像をスキャンして結果を表示するには、以下の手順を実行します。 1. ボックス内のSelect a Sample Imageをクリックします。<br /> 2. 提供されているサンプルから画像を選択します。<br /> <br /> Image Moderationは、advanced modeのすべての基準で不適切なコンテンツの画像をスキャンし、検出された各基準の確率をパーセンテージ値として表示します。<br /> <br /> レスポンスバーの色は、画像の安全性を以下のように示します。赤は画像が使用するのに安全でないことを示し、オレンジは画像が部分的に安全であることを示し、緑は画像が使用するのに安全であることを示します。 <br /> 各検出基準の確率、prediction、およびconfidence scoreを含む完全なJSON responseを表示することもできます。View ResponseをクリックしてJSON responseを表示します。<br /> <br /> 各moderation modeの完全なサンプルJSON responseの構造を表示するには、APIドキュメントを参照してください。 独自の画像をアップロードしてImage Moderationをテストするには、以下の手順を実行します。 1. _Result_セクションの下にあるUploadをクリックします。<br /> <br /> 閉じた後にImage Moderationを再度開く場合は、このボックスのBrowse Filesをクリックします。<br /> 2. ローカルシステムからファイルをアップロードします。<br /> 注意: ファイルは._jpg_/._jpeg_または._png_形式である必要があります。ファイルサイズは10 MBを超えてはなりません。 コンソールが画像の不適切なコンテンツをスキャンし、結果を表示します。<br /> <br /> View Photoをクリックすると画像を表示できます。<br /> <br /> 同様にJSON responseも表示できます。<br /> ### Image Moderationのコードテンプレートへのアクセス CatalystがJava、Node.js、Pythonプラットフォーム用に提供するコードテンプレートを使用して、CatalystアプリケーションにImage Moderationを実装できます。 テストウィンドウの下のセクションからアクセスできます。Java SDKまたはNodeJS SDKタブをクリックし、コピーアイコンを使用してコードをコピーします。このコードを、必要な箇所でWebまたはAndroidアプリケーションのコードに貼り付けることができます。 Javaでは、入力ファイルを新しいFileとして処理できます。ZCImageModerationOptionsモジュールを使用すると、setAnalyseModeを使用してmoderation modeをBASIC、MODERATE、またはADVANCEDに設定できます。 Node.jsでは、imPromiseオブジェクトを使用して、入力画像ファイルとそれに設定されたmoderation modeを保持します。modeをbasic、moderate、またはadvancedとして指定し、必要なモードで画像を処理できます。 Pythonでは、.webp/.jpegまたは.pngファイルをopen()メソッドへの入力として提供できます。このメソッドはレスポンスとして画像ファイルオブジェクトを返します。zia.moderate_imageメソッドでは、画像ファイルオブジェクトを渡し、オプションでmoderation modeをBASIC、MODERATE、またはADVANCEDに設定できます。画像はデフォルトでADVANCEDモードで処理されます。 レスポンスは、各基準の確率とconfidence score、および画像がsafe_to_useまたはunsafe_to_useであるというpredictionを返します。