Meta Llama 3 基础模型现已在 AWS 上线

从今天开始，Amazon SageMaker JumpStart 将提供下一代 Meta Llama 模型 Llama 3，这是一个机器学习 (ML) 中心，提供预训练模型、内置算法和预构建解决方案，能帮助您快速开始使用机器学习。您可以在 SageMaker Studio 中单击几下或者通过 SageMaker Python SDK 以编程方式部署和使用 Llama 3 基础模型。

Llama 3 有多种参数大小（8B 和 70B），可用于支持广泛的用例，并在推理、代码生成和指令遵循方面进行了改进。Llama 3 使用仅限解码器的转换器架构和新的令牌生成器，可提高模型性能。此外，Meta 改进的训练后程序大大降低了错误拒绝率，提高了一致性，并优化了模型响应的多样性。现在，您可以通过 SageMaker Pipelines、SageMaker Debugger 或容器日志等 Amazon SageMaker 功能，获得 Llama 3 性能和 MLOps 控制的综合优势。该模型将部署在您的 VPC 控制的 AWS 安全环境中，有助于确保数据安全。

Llama 3 基础模型现已在 SageMaker JumpStart 中可用，最初在美国东部（俄亥俄州）、美国西部（俄勒冈州）、美国东部（弗吉尼亚州北部）、亚太地区（东京）和欧洲地区（爱尔兰）AWS 区域推出。要开始通过 SageMaker JumpStart 使用 Llama 3 基础模型，请参阅文档和博客。