Amazon Rekognition コンテンツモデレーションを利用すべき理由

Amazon Rekognition のコンテンツモデレーションは、機械学習 (ML) を使用して画像と動画のモデレーションワークフローを自動化および合理化します。機械学習の経験は必要ありません。フルマネージド API とカスタマイズ可能なモデレーションルールを使用して、不適切または望ましくないコンテンツを検出しながら、何百万もの画像や動画を効率的に処理し、ユーザーの安全性とビジネスのコンプライアンスを維持します。実際に利用した分に対してのみ料金が発生します。最低料金、ライセンス料や前払いの義務はありません。

Amazon Rekognition コンテンツモデレーションの利点

事前定義された、またはビジネス固有のさまざまな安全でないカテゴリと照らし合わせて、数個あるいは数百万個の画像と動画を確認します。ユーザーやブランドスポンサーが望ましくないコンテンツや不適切なコンテンツにさらされないように積極的に取り組みます。

人間のレビュー担当者がコンテンツのより小さなサブセットをフォローアップできるようにし、安全でないコンテンツの最大 95% に自動的にフラグを立てることで、有害なコンテンツにさらされることを防ぎます。 Amazon Augmented AI (Amazon A2I) を使用して、新しいツールやインフラストラクチャを構築することなく、人間によるレビューを統合します。

事前の確約や高額なライセンスなしで、コストの信頼性が高く、スケーラブルで、繰り返し可能なクラウドベースのコンテンツモデレーションワークフローを作成します。処理した画像の数や動画の長さに基づいて支払いを行います。

Page Topics

全般

全般

画像や動画の中の露骨な成人向けまたは暗示的なコンテンツ、暴力、ドラッグ、タバコ、アルコール、ヘイト シンボル、ギャンブル、不快なコンテンツを検出します。検出された各ラベルと動画のタイムスタンプを信頼スコアでマークします。階層的な分類法を使用して、さまざまな地域、ターゲットオーディエンス、時間帯などに合わせた詳細なビジネスルールを作成します。

Amazon Rekognition Face Liveness を使用して、未成年のユーザーが制限付きコンテンツにアクセスできないようにします。例えば、オンラインゲームや出会い系サービスを提供しているお客様は、Face Liveness と Amazon Rekognition Facial Analysis の年齢推定を使用して、アクセスを許可する前にユーザーの年齢を確認できます。 

自動化と人工知能 (AI) 機能にアクセスすることで、機械学習の専門知識がなくても、信頼性の高いコンテンツモデレーションのソリューションを実装できます。安全なオンライン環境を構築し、ブランドを保護し、モデレーションコストを最小限に抑えます。詳細については、「コンテンツモデレーションオペレーションを合理化する」をご覧ください。

数ステップまたは API コールで、独自のモデレーションモデルを簡単にトレーニングしてデプロイできます。Amazon Rekognition Custom Labels を使用して新しいモデルを迅速に作成し、運用可能にすることで、オンラインストアから不快なメッセージを削除したり、ライブ放送でロゴをぼかしたりするなど、リアルタイムのシナリオに対処できます。

戦略的な人手による介入により、予測をさらに強化します。Amazon A2I を Amazon Rekognition モデレーション API と統合して、信頼性の低い予測で人手による介入が必要な場合に、チームやサードパーティーベンダーが最終的な判断を下せるようにします。

ユースケース

コンテンツ共有プラットフォームの不適切なコンテンツにユーザーがさらされることを防ぎます。写真や動画の共有、オンラインゲーム、ビデオストリーミング、出会い系などのソーシャルメディアプラットフォームやサービス上で、不適切なコンテンツからユーザーとコミュニティを保護するために、大量のユーザーアップロードを積極的にモデレートします。

ゲームフォーラム、ライブゲーム、ビデオストリーミングサービスでの攻撃的または物議を醸す画像を防ぎます。さらに、プロフィールやアバターなどのユーザー生成コンテンツをモデレートし、ゲーマーの参加と活動を維持し、ユーザー離れの原因となる嫌がらせやいじめを防ぎます。

第三者の商品リストやレビューに関連する違法または不適切な画像や動画コンテンツをデジタル棚から排除し、安全で透明性の高いショッピング体験を促進することで、お客様の信頼を高めます。ショッピングジャーニーにおいて、情報に基づいた意思決定を行うために商品レビューを重視するお客様が増えているため、プラットフォームの評判とコンプライアンスを保護します。

ブランドを望まない関わりから守り、コンプライアンスを遵守します。また、ブランドの地位向上や好感度向上など、収益拡大につながるブランド目標を達成します。

安全でない可能性のある画像や動画コンテンツから視聴者を保護し、ユーザーの福利を守り、知的財産を保護して、ポジティブなコミュニティを維持します。

お客様

  • CoStar

    CoStar は、商業用不動産情報、分析、テクノロジー、ニュースのリーダーであり、マーケットで最も包括的なデータプラットフォームの 1 つです。同社は、そのプラットフォームに毎日アップロードされる 150,000 を超える画像を処理しています。

    サクセスストーリーを読む

     

    CoStar にとっては、インクルーシブかつ安全で、データ駆動型のユーザーコミュニティを実現できるようにするため、当社のプラットフォームにアップロードされる画像が当社のエンドユーザー契約の規定に準拠しており、不適切なコンテンツを含んでいないことが不可欠です。Amazon Rekognition の Content Moderation API により、アップロードされたすべての画像を自動的に分析するソリューションを簡単に構築できるようになりました。これにより、高価値の製品をお客様に効率的に提供できるようになりました。Amazon Rekognition は、事前にトレーニングされた一連のコンピュータビジョン API を提供します。これは、コンテンツモデレーション、テキスト検出、オブジェクト検出とともに、受け取った画像をより見つけやすくし、コミュニティをより包括的にすることで、提供製品のさらなる改善に役立ちます。Amazon Rekognition を利用すると、事前にトレーニングされたモデルを使用して、迅速にアクションを実行し、AI スマートを当社のシステムに追加できるため、不動産セクターに独自のソリューションを提供することに注力できます。

    CoStar Group、プリンシパルソフトウェアエンジニア、Mark Osborn 氏
  • Dream11

    Dream11 を使用すると、ユーザーはグループチャットで動画や写真を投稿したり、画像を共有したりできます。同社は、コンテンツモデレーションプロセスの一環として、Amazon Rekognition を使用して毎日何千ものアセットのメディア分析を自動化し、1 億名のユーザーを保護しながら、魅力的なエクスペリエンスを提供しています。

    詳細

    当社によるあらゆる意思決定は、データとテクノロジーに基づき、お客様のリテンションに役立つ「魅力的な要素」を継続的に追加するためのさまざまなメトリクスを考慮して行われます。AWS は、依存関係なしに物事を迅速に立ち上げるのに役立つ直感的なクラウドネイティブサービスを利用して、ユーザーファーストの文化を促進します。さまざまな AWS テクノロジー製品は、当社がプロトタイプを開発し、大規模であっても非常に迅速に稼働させるのに役立ちます。これにより、当社はスピードが不可欠なマーケットで競争力を得ることができます。

    Dream11、エンジニアリング担当バイスプレジデント、Praveen Jain 氏
  • SmugMug

    SmugMug は、SmugMug と Flickr の 2 つの非常に大規模なオンライン写真プラットフォームを運営し、1 億人を超えるメンバーが数百億枚の写真を安全に保存、検索、共有、販売しています。Flickr は、フォトグラファーを中心とする世界最大のコミュニティであり、世界中のフォトグラファーがインスピレーションを見つけ、互いにつながり、情熱を世界と共有できるようにしています。

    大規模でグローバルなプラットフォームとして、望ましくないコンテンツはコミュニティの健全性にとって非常にリスクが高く、フォトグラファーを疎外する可能性があります。Amazon Rekognition のコンテンツモデレーション機能を使用して、不要なコンテンツを見つけて適切にフラグを付け、コミュニティに安全で快適なエクスペリエンスをもたらします。Flickr ほど規模が大きいと、Amazon Rekognition なしでこれを行うことはほぼ不可能です。現在、Amazon Rekognition によるコンテンツモデレーションのおかげで、当社のプラットフォームは、メンバーの期待により合致するすばらしい写真を自動的に検出および強調表示できます。これにより、インスピレーションをもたらし、つなげて、共有するという当社のミッションを実現できます。

    SmugMug、共同創設者、CEO 兼チーフギーク、Don MacAskill 氏
  • ZOZO Inc.

    株式会社 ZOZO は、日本最大のファッション e コマース「ZOZOTOWN」や、スタイリングやコーディネートを共有できる SNS「WEAR」など、ファッション好きのためのさまざまなサービスを所有、運営しています。

    WEAR ではユーザーから毎日多くの画像投稿があり、ユーザーの投稿した画像がサービスガイドラインを遵守できているか、一枚ずつ確認する必要がありました。そのため、自動で画像の検査を行うシステムを構築し、そのシステムにおいて Amazon Rekognition の Content Moderation API を利用して、Amazon S3 にあるお客さまの投稿画像を自動分析しています。Amazon Rekognition によって、WEAR で公開可能な画像を自動で認識することで、レビュー作業を最大 40% 削減しました。また、画像が適切かどうかを人が判断できない場合における、上司へのレビューのエスカレーションも削減できました。これはコンテンツオペレーションを遅らせる原因となっていたことでしょう。

    株式会社 ZOZO、ブランドソリューション開発部エンジニア、重谷優氏