宣布在 Amazon Bedrock 中针对 Amazon Nova Pro 基础模型推出延迟优化推理功能

发布于: 2025年3月5日

Amazon Nova Pro 基础模型现在支持 Amazon Bedrock 上的延迟优化推理预览版，可为生成式 AI 应用程序提供更快的响应速度和更好的响应能力。延迟优化推理可缩短延迟敏感型应用程序的响应时间，改善最终用户体验，让开发人员更灵活地针对其用例优化性能。使用这些功能无需进行额外的设置或模型微调，可以立即增强现有应用程序，缩短响应时间。

Amazon Nova Pro 的延迟优化推理在美国西部（俄勒冈州）、美国东部（弗吉尼亚）和美国东部（俄亥俄州）区域通过跨区域推理推出。要了解有关 Amazon Nova 基础模型的更多信息，请访问 AWS 新闻博客、Amazon Nova 产品页面或 Amazon Nova 用户指南。要了解有关 Bedrock 上的延迟优化推理的更多信息，请参阅文档。您可以从 Amazon Bedrock 控制台开始在 Amazon Bedrock 中使用 Amazon Nova 基础模型。