使用 SageMaker Canvas 实现基础模型的产品化

发布于: 2024年6月12日

Amazon SageMaker Canvas 现在支持将基础模型 (FM) 部署到 SageMaker 实时推理端点,从而使您可以将生成式人工智能功能引入生产环境,并且可以在 Canvas 工作区之外使用这些功能。SageMaker Canvas 是一个无代码工作区,使分析师和公民数据科学家能生成准确的机器学习预测,并且可以使用生成式人工智能的各项功能。

SageMaker Canvas 提供对由 Amazon Bedrock 和 SageMaker JumpStart 支持的基础模型的访问,支持基于 RAG 的自定义,以及对基础模型进行微调。即日起,您可以将由 SageMaker JumpStart 提供支持的基础模型(例如 Falcon-7B、Llama-2 等)部署到 SageMaker 端点,从而更轻松地将生成式人工智能功能集成到 SageMaker Canvas 工作区之外的应用程序。由 Amazon Bedrock 提供支持的基础模型已经可以在 SageMaker 工作区之外使用单个 API 进行访问。通过简化部署流程,SageMaker Canvas 加快了价值转化速度,并确保了从实验到生产的平稳过渡。

要开始使用,请登录 SageMaker Canvas 并访问由 SageMaker JumpStart 提供支持的基础模型。选择所需的模型,并使用适当的端点配置进行部署,例如无限期部署或指定时间段的部署。已部署的模型将适用 SageMaker 推理费用。新用户可以通过直接从 AWS 管理控制台启动 SageMaker Canvas 来访问最新版本。现有用户可以通过单击“注销”并重新登录来访问最新版本的 SageMaker Canvas。

此扩展功能现已在支持 SageMaker Canvas 的所有 AWS 区域推出。要了解更多信息,请参阅 SageMaker Canvas 产品文档