宣布在 SageMaker Inference 上对 ml.p4d 实例进行区域扩展

我们很高兴地宣布，ml.p4d 实例在亚太地区（东京）和欧洲地区（法兰克福）全面推出，用于在 Amazon SageMaker 上部署用于实时和异步推理的机器学习 (ML) 模型。

ml.p4d.24xlarge 实例为深度学习模型提供高性能。每个 Nvidia A100 GPU 有 40GB 的内存，P4d 实例可在自然语言处理、对象检测和推荐引擎等应用程序中对大型模型和生成式人工智能进行高性能机器学习推理。

亚太地区（东京）和欧洲地区（法兰克福）的用户可以立即开始在 SageMaker 上为 ml.p4d 实例部署用于推理的模型。有关此实例的定价信息，请访问我们的定价页面。有关使用 SageMaker 部署模型的更多信息，请参阅此处的概述和此处的文档。要了解有关 p4d 实例的更多信息，请参阅 P4 产品页面。