Amazon Bedrock 现在支持批量推理

现在，您可以使用 Amazon Bedrock 批量处理提示，以获得模型评估、实验和离线处理的响应。

使用批处理 API 可以更有效地使用基础模型 (FM) 进行推理。它还让您能够汇总响应并对其进行批量分析。

批处理已在以下 AWS 区域推出预览版：美国东部（弗吉尼亚州北部）、美国西部（俄勒冈州）、亚太地区（新加坡）、亚太地区（东京）和欧洲地区（法兰克福）。

要了解有关 Amazon Bedrock 中批量推理的更多信息，请参阅 Amazon Bedrock API 参考。批量模式的定价与按需模式的定价相同。有关详细信息，请参阅 Amazon Bedrock 定价页面。

^{更新：2024 年 2 月 27 日 – 最初的文章错误地将该版本列为正式发布版，而实际上是预览版，已进行了相应的更新。}