Amazon SageMaker Notebook 实例现已支持基于 Trainium1 和 Inferentia 2 的实例

发布于: 2024年11月15日

我们很高兴地宣布，基于 Trainium1 和 Inferentia2 的 EC2 实例已在 SageMaker Notebook 实例上全面推出。

由 AWS Trainium 芯片提供支持的 Amazon EC2 Trn1 实例和由 AWS Inferentia 芯片提供支持的 Inf2 实例分别专为高性能深度学习训练和推理打造。在训练超过 1000 亿个参数生成式人工智能模型方面（例如大型语言模型 (LLM) 和潜在扩散），与其他类似的 Amazon EC2 实例相比，Trn1 实例更节省成本。Inf2 实例为生成式人工智能（包括 LLM 和视觉转换器）提供低成本、高性能的推理。您可以在广泛的应用场景中使用 Trn1 实例和 Inf2 实例，例如文本摘要、代码生成、问答、图像和视频生成、推荐和欺诈检测。

SageMaker Notebook 实例对 Amazon EC2 Trn1 实例的支持现已在 AWS 美国东部（弗吉尼亚州北部和俄亥俄州）和美国西部（俄勒冈州）区域推出。SageMaker Notebook 实例对 Amazon EC2 Trn1n 实例的支持现已在 AWS 美国东部（弗吉尼亚北部和俄亥俄州）区域推出。SageMaker Notebook 实例对 Amazon EC2 Inf2 实例的支持现已在以下区域推出：AWS 美国西部（俄勒冈州）、AWS 美国东部（弗吉尼亚北部和俄亥俄州）、AWS 欧洲地区（爱尔兰）、AWS 欧洲地区（法兰克福）、AWS 亚太地区（东京）、AWS 亚太地区（悉尼）、AWS 亚太地区（孟买）、AWS 欧洲地区（伦敦）、AWS 亚太地区（新加坡）、AWS 欧洲地区（斯德哥尔摩）、AWS 欧洲地区（巴黎）和 AWS 南美洲（圣保罗）。

如需了解有关设置和使用 SageMaker Notebook 实例的说明，请查看开发人员指南。