re:Invent セッションプレビュー – Under the Hood at Amazon Ads

私の同僚は、2021 年 11 月 29 日 (月) ～ 12 月 3 日 (金)まで開催されている AWS re:Invent におけるセッションのコンテンツの作成、レビュー、および改善に何か月もの時間を費やしてきました。特別扱いしないようにベストを尽くしますが、最近私の目に留まったものについてお話ししたいと思います!

セッション ADM301 (Under the Hood at Amazon Ads) は、11 月 30 日 (火) 午後 2 時に（米国時間）始まります。このセッションでは、私の同僚が Amazon Ads をご紹介し、大規模な広告システムの構築に伴う課題について概説するとともに、複数の AWS のサービスを使用してこれらの課題をどのように解決したかをご説明します。私はこのセッションのプレゼンテーションの最終版に近いバージョンをレビューする機会に恵まれました。この投稿は、そのレビューから知り得たことに基づいています。

Amazon Ads では、認知度の向上、検討の増加、買い物客のエンゲージメントの強化、購入の促進という 4 つの要素を持つオムニチャネル戦略を採用しています。Amazon で用いられている有名な「お客様を起点に考えて、逆向きに解決する」モデルを使用して、私の同僚は 3 つの異なるお客様のタイプを特定し、それらのお客様のニーズに応えるシステムの設計に取り組みました。お客様のタイプは以下のとおりです。

• キャンペーンを実施している広告主
• Amazon Ads API を使用してツールやサービスを構築するサードパーティーのパートナー
• 購入過程にある購買者

広告主とサードパーティーのデベロッパーは、キャンペーン管理、予算編成、広告配信、広告イベントのデータレイク、広告の選択と関連性を改善するための機械学習を包含する、UI とプログラマティックインターフェイスの両方にまたがるエクスペリエンスを求めていました。

スケーリングは非常に興味深い問題です。パフォーマンス、ストレージ、可用性、コスト、および効率性に関する課題があります。広告サーバーは 120 ミリ秒のレイテンシーの余裕以内で 1 秒あたり数億件の広告リクエスト (1 日あたり数兆件の広告) を処理できるだけでなく、以下の事項が可能である必要があります。

• 数百億のキャンペーンオブジェクトを追跡すること (総ストレージが数百ペタバイト単位)。
• 99.9999% を超える可用性を提供すること。
• プライムデーなどのピーク時のイベントを自動的に処理すること。
• 経済的に運用し、広告主の予算をほぼリアルタイムで適用すること。
• 数百に及ぶ機械学習モデルからの予測を使用して、関連性の高い広告を配信すること。

この規模のワークロードを処理するために必要な対応の一例として、毎秒 5 億件のリクエストを処理できるキャッシュシステムが必要でした!

よくあることですが、システムは複数回のイテレーションを経て現在の姿になっており、現在も積極的に開発が進められています。このプレゼンテーションは、各イテレーションのアーキテクチャスナップショットとパフォーマンスメトリクスとともに、チームが経験した工程をまとめたものです。

プレゼンテーションの締めくくりとして、機械学習を大規模に適用することを可能にしたいくつかの方法についての議論が紹介されます。例えば、Amazon Ads では、リクエストごとに適切な広告を選択することを目的として、買い物客に表示するための関連性の高い広告を予測し、買い物客がクリックまたは購入するかを予測し、広告の割り当てと料金設定を行うために深層学習モデルを使用しています。これを実行するには、20 ミリ秒の時間枠内で、かつ、1 秒あたり 10 万件のトランザクションを超える速度で、1 リクエストあたり数千件の広告をスコアリングできる必要がありました。数百のモデルにわたって、それぞれ異なるハードウェアとソフトウェアの最適化が必要でした。

このワークロードを処理するため、私の同僚は Amazon Elastic Container Service (Amazon ECS) および AWS App Mesh を活用してマイクロサービス推論アーキテクチャを構築し、推論モデルの種類ごとに特定のハードウェアとソフトウェアを最適化しました。低レイテンシーの推論のために、広告チームは CPU ベースのソリューションから開始し、複雑さやモデルの数が増えても予測時間を短縮できるように GPU に移行しました。

これは非常に興味深いセッションになりそうです。ぜひ直接ご参加いただくか、virtual re:Invent の一環としてオンラインでご視聴ください。

– Jeff;

原文はこちらです。