Itaú が Amazon Web Services を利用して ML ソリューションの市場投入までのスピードと生産性を改善

Itaú は、ブラジル、ラテンアメリカ、および世界中の他の 18 か国の顧客に銀行サービスを提供しています。95,700 人を超える従業員を擁しており、そのうち約 15,000 人が IT 部門で働いています。Itaú の元のインフラストラクチャは完全にオンプレミスであったため、コストが高く、開発には長い時間がかかっていました。オンプレミスのインフラストラクチャも、物理的なスペースとハードウェアによる制約を受けていたため、スケーラビリティに欠けていました。同行のデータグループでは、データサイエンティストはメモリとリソースが使用可能になるまで最大 6 か月間待たなければならず、同行のデプロイ待ちリストには 100 を超える ML モデルが含まれていました。

これらの課題を克服するために、Itaú はビジネスの一部をクラウドに移行することを決定し、AWS を利用することにしました。「オンプレミスからクラウドへの移行を選択した理由の 1 つは、ビジネスの競争力と効率性を同時に高める戦略でした」と Itaú の ML Engineering Manager である Diego Nogare 氏は述べています。

移行開始から約 6 か月後、Itaú は、柔軟なクラウドネイティブ ML ソリューションとして Amazon SageMaker を選択しました。Amazon SageMaker は、フルマネージドインフラストラクチャ、ツール、ワークフローを使用して、あらゆるユースケース向けの ML モデルを構築、トレーニング、デプロイするサービスです。「当行は AWS を利用してソフトウェアとデータを変換しようとしており、AWS で完璧に機能するソリューションを必要としていました」と Itaú の Data Science Superintendent である Vitor Azeka 氏は述べています。「Amazon SageMaker は当然の選択でした」。 2024 年現在、同行のソフトウェアとデータの約 60% がクラウド上で実行できるように既にモダナイズされています。

Itaú は、同行のデータサイエンティストのために、AWS を利用して完全なソリューションを構築しました。まず、AWS Glue を利用してデータを収集します。AWS Glue は、分析、ML、アプリケーション開発のために複数のソースからのデータをより簡単に検出、準備、移動、統合できるようにするサーバーレスデータ統合サービスです。その後、このデータを利用して、Amazon SageMaker Studio で実験を開始します。Itaú は、同行内のデータサイエンティストが実験するための柔軟な開発ソリューションとして Amazon SageMaker Studio を利用しています。次に、エンドポイント、バッチ変換、非同期推論など、Amazon SageMaker の他のツールを使用して ML モデルをデプロイします。同行は、Amazon CloudWatch を利用してモデルをモニタリングしています。Amazon CloudWatch は、インフラストラクチャとアプリケーションのメンテナンスを効率化するために、ほぼリアルタイムのログ、メトリクス、イベントデータを自動ダッシュボードに収集および視覚化します。これらすべての AWS サービスを併用することで、データサイエンティストはニーズを満たすことができます。

Itaú は、2021 年 8 月に Amazon SageMaker Studio を統合開発環境として利用する最初のソリューションを提供しました。2023 年 4 月の時点で、その AWS サービスのユニークユーザー数は 3,200 人を超えており、その中には約 350 人のデータサイエンティストが含まれています。

Itaú には、ML モデルのデプロイ待ちリストがなくなりました。Amazon SageMaker Studio を利用することで、いくつかの事例において、同行はデプロイ時間を最大で 6 か月から 3～5 日に短縮できました。このデプロイ時間の短縮により、同行の市場投入までのスピードが向上します。「Amazon SageMaker Studio を利用すると、パイプラインを実行して、とても迅速にソリューションをお客様に提供できます」と Nogare 氏は述べています。「これにより、カスタマーエクスペリエンスを改善できます」。 また、Itaú は、以前のオンプレミスインフラストラクチャと比較して、コスト削減も実現しています。

2021 年 11 月以降、Itaú は AWS チームと毎週ミーティングを行い、アーキテクチャ、セキュリティ、ロードマップについて話し合っています。「AWS サポートは、今日の成果を達成する上で非常に重要でした」と Nogare 氏は述べています。「ソリューションやガバナンスのニーズに問題が生じた際はいつでも、それを通じて AWS チームがサポートしてくれました」。 ガバナンスのニーズの一部は、Amazon SageMaker Studio を利用して満たされています。同行がパイプラインを実行して Amazon SageMaker Studio をユーザーに提供する際、ガバナンスとセキュリティの問題は既に解決されています。

ソリューションの標準化により、Itaú は新入社員のオンボーディングやデータサイエンティストの部門間の異動をより簡単に行うことができます。すべてが仮想化されているため更新が容易になり、同行では物理マシンに依拠する必要がなくなりました。AWS を利用することで、データサイエンティストのパイプラインが統合されるため、ML モデルは同じデータパイプラインでデプロイおよびモニタリングされます。これにより、データサイエンティストの効率がさらに向上します。

「要するに、提供までに要する時間が短縮されます」と Itaú の Distinguished Data Scientist である Rodrigo Fernandes Mello 氏は述べています。当行ではこれまでに標準化と統合が改善されており、AWS を使用して改善を継続できます」。