Meta 的 Llama 4 现已在亚马逊 SageMaker JumpStart 上市

发布于: 2025年4月8日

全新 Llama 4 模型群中的第一批模型(Llama 4 Scout 17B 和 Llama 4 Maverick 17B)现已在 Amazon Bedrock 中提供完全托管服务。你可以在亚马逊 SageMaker JumpStart 中访问 Llama 4 模型。这些先进的多模态模型使您能够构建更加量身定制的应用程序,以响应多种类型的媒体。与 Llama 3 相比,Llama 4 以更低的成本提供了更高的性能,并扩展了对全球应用程序的语言支持。这些模型采用混合专家 (MoE) 架构,可为文本和图像输入提供高效的多模态处理,提高计算效率并增强 AI 安全措施。

根据 Meta 的说法,较小的 Llama 4 Scout 17B 模型是世界上同类模型中最好的多模态模型,并且比 Meta 的Llama 3 模型更强大。Scout 是一款通用模型,具有 170 亿个活跃参数、16 个专家模块和总计 1,090 亿个参数,在同类模型中具有最先进的性能。Scout 将上下文长度从 Llama 3 中的 128K 显著增加到行业领先的 1,000 万个令牌。这实现了许多实际应用,包括多文档摘要、为个性化任务解析大量用户活动以及对庞大的代码库进行推理。Llama 4 Maverick 17B是一款通用模型,有量化(FP8)和非量化(BF16)版本,包含128位专家、4000亿个总参数和100万个上下文长度。它擅长于理解 12 种语言的图像和文本,适用于多种助手和聊天应用程序。

Meta 的 Llama 4 型号在美国东部(弗吉尼亚北部)AWS 地区的亚马逊 SageMaker JumpStart 上市。要了解更多信息,请阅读发布博客和技术博客。这些模型可以在亚马逊 SageMaker 工作室中访问。