从 6 个月缩短至 3-5 天
缩短部署时间
加快上市速度
从而改善客户体验
提升员工生产效率
一切得益于标准化
改善解决方案的集成方式
便于机器学习数据科学家使用
超过 3200 名用户
使用 Amazon SageMaker Studio
概述
巴西最大的私营银行 Itaú Unibanco(Itaú),需要为超过 3200 名机器学习(ML)用户,提高其机器学习基础设施的速度、灵活性和可扩展性。该银行需要为其本地基础设施订购服务器并完成配置任务,然后才能向数据科学团队提供解决方案。这一过程耗费了数月时间,同时,购买服务器、运营和维护数据中心也产生了高昂成本。
2020 年,Itaú 选择 Amazon Web Services(AWS)作为战略云提供商,并开始基于 AWS 改造其基础设施。为了使数据科学家能够更早使用机器学习模型,Itaú 使用了 Amazon SageMaker Studio,这是一个集成式开发环境,提供了基于 Web 的单一可视化界面,可调用执行所有机器学习开发步骤所需的专用工具。该公司认为 Amazon SageMaker Studio 是其解决方案的不二之选。借助新的解决方案,Itaú 将模型开发时间从 6 个月缩短至 5 天,通过标准化提高了员工的工作效率,并降低了成本。
机会 | 使用 Amazon SageMaker Studio 帮助 Itaü 高效普及机器学习技术
Itaü 为巴西、拉丁美洲和全球其他 18 个国家/地区的客户提供银行服务。其拥有超过 9.57 万名员工,其中约 1.5 万名员工在 IT 部门工作。Itaü 最初的基础设施完全位于本地,这导致其必须面对高昂的成本和缓慢的开发时间。受物理空间和硬件的限制,其本地基础设施也缺乏可扩展性。在该银行的数据小组中,数据科学家需要等待长达 6 个月的时间,才能获得内存和资源,而该公司的部署等待名单上有上百个机器学习模型。
为了克服这些挑战,Itaü 决定将其部分业务迁移到云端,并选择使用 AWS。Itaü 机器学习工程经理 Diego Nogare 表示:“我们制定了一项同时提高业务竞争力和效率的战略,这正是促使我们选择从本地迁移到云端的原因之一。”
大约在迁移开始后的第 6 个月,Itaü 选择了 Amazon SageMaker,这是一套灵活的云原生机器学习解决方案,利用完全托管的基础设施、工具和工作流程,可针对任何应用场景提供构建、训练并部署机器学习模型的服务。“我们正在使用 AWS 实现软件和数据的转型,因此需要一套在 AWS 上完美运行的解决方案。”Itaü 数据科学主管 Vitor Azeka 说,“Amazon SageMaker 是不二之选。” 截至 2024 年,该公司大约 60% 的软件和数据已完成现代化改造,可在云端运行。
我们可以更快地交付。我们已经改善了标准化和集成度,并且可以利用 AWS 继续做出改进。”
Rodrigo Fernandes Mello
Itaú 杰出数据科学家
解决方案 | 使用 AWS 将模型部署时间从 6 个月缩短到 5 天
Itaü 使用 AWS 为其数据科学家构建了完整的解决方案。首先,该公司使用 AWS Glue 收集数据。AWS Glue 是一种无服务器数据集成服务,使用户可以更轻松地发现、准备、移动和集成多个来源的数据,用于分析、机器学习和应用程序开发。然后,他们利用这些数据,使用 Amazon SageMaker Studio 启动实验。Itaü 使用 Amazon SageMaker Studio 作为灵活的开发解决方案,供其内部数据科学家进行实验。接下来,他们使用其他 Amazon SageMaker 工具(例如端点、批量转换和异步推理)部署机器学习模型。该公司使用 Amazon CloudWatch 监控模型。Amazon CloudWatch 会在自动化控制面板中收集近实时日志、指标和事件数据,并以可视化方式展示,从而简化基础设施和应用程序的维护。通过结合使用所有这些 AWS 服务,数据科学家能够满足其自身需求。
2021 年 8 月,Itaú 交付了首个使用 Amazon SageMaker Studio 作为集成开发环境的解决方案,截至 2023 年 4 月,该 AWS 服务已拥有超过 3200 名独立用户,其中包括大约 350 名数据科学家。
Itaü 的机器学习模型部署等待清单已经消失。在某些情况下,使用 Amazon SageMaker Studio,Itaü 得以将部署时间从长达 6 个月缩短至 3-5 天。部署时间的缩短提高了公司进入市场的速度。“使用 Amazon SageMaker Studio 时,我们可以运行管道,并将解决方案快速交付给客户。”Nogare 说,“从而改善客户体验。” 与其旧的本地基础设施相比,Itaü 还节省了成本。
自 2021 年 11 月以来,Itaü 每周与 AWS 团队举行会议,讨论架构、安全性及其路线图。“AWS 的支持对于实现我们今天的成果至关重要。”Nogare 说,“每当我们发现解决方案出现问题,或存在治理需求时,AWS 团队都会为我们提供支持,直到问题解决。” 一些治理需求可以通过 Amazon SageMaker Studio 得到满足。当该公司运行管道,向用户提供 Amazon SageMaker Studio 时,治理和安全问题已经得到解决。
其解决方案的标准化意味着 Itaü 可以更轻松地引入新员工,并跨部门调动数据科学家。由于一切都是虚拟的,更新变得更加容易,公司不再需要依赖物理机器。使用 AWS,数据科学家的管道得到了整合,因此可以在同一个数据管道中对机器学习模型进行部署和监控。这进一步提高了数据科学家的效率。
“最终,我们可以更快地交付。”Itaú 杰出数据科学家 Rodrigo Fernandes Mello 说,“我们已经改善了标准化和集成度,并且可以利用 AWS 继续做出改进。”
成果 | 使用 AWS 实现标准化以提高效率
Itaü 希望继续提高其标准化水平。下一个针对其数据科学家的内部标准化步骤,是让更多员工使用其 IARA 解决方案,该解决方案基于 AWS 并使用多种服务,包括 Amazon SageMaker Studio。Itaú 将继续使用 Amazon SageMaker 内部的工具开发其管道,例如,可用于大规模创建、自动化运行和管理机器学习工作流程的 Amazon SageMaker Pipelines。Itaü 正在进行测试,以使用 AWS 工具提高其管道的标准化程度。
“这个项目帮助数据科学家团队大幅提升了效率。”Azeka 说,“使用 Amazon SageMaker Studio,我们可以在发布其他内容的同时测试新事物,还可以讨论使用大型语言模型的先进解决方案。这让我们的数据科学家为能在 Itaú 工作而感到自豪。”
关于 Itaú Unibanco
Itaú 是巴西最大的私营银行,提供全方位的银行业务,包括企业银行、投资银行和零售银行投资。该公司于 2008 年由 Banco Itaú 和 Unibanco 合并而成。
使用的 AWS 服务
Amazon SageMaker
Amazon SageMaker 是一项完全托管的服务,它汇集了大量工具,可为任何使用案例提供高性能、低成本的机器学习(ML)。
Amazon SageMaker Studio
Amazon SageMaker Studio 提供多种专用工具供您选择,以执行从准备数据到构建、训练、部署和管理机器学习(ML)模型的所有机器学习开发步骤。
AWS Glue
准备数据以获得优质结果是分析或机器学习项目的第一步。AWS Glue 是一项无服务器数据集成服务,可让数据准备更简单、更快、更便宜。
Amazon CloudWatch
Amazon CloudWatch 服务可以监控应用程序、响应性能变化、优化资源使用并提供对运营状况的见解。
更多 Itau 案例
行动起来
无论行业无论规模,每天都有各种机构在使用 AWS 实现自身业务转型、实现企业愿景。欢迎您联系我们的专家,立即踏上您的 AWS 之旅。