Amazon CloudWatch 增加了生成式人工智能可观测性(预览版)

发布于: 2025年7月16日

Amazon CloudWatch 现在可以帮助您观察生成式人工智能应用程序和工作负载,包括使用 Amazon Bedrock AgentCore(预览版)部署和运行的代理,让您能够深入了解人工智能的性能、运行状况和准确率。您可以使用现成的视图查看人工智能工作负载的延迟、使用情况和错误,从而更快地检测到模型调用和代理等组件中的问题。您还可以对知识库、工具和模型等组件进行端到端提示跟踪,更快地发现问题。此功能可与 Strands Agents、LangChain 和 LangGraph 等常用生成式人工智能编排框架兼容,让您可以灵活地选择框架。

借助这项新功能,Amazon CloudWatch 可以分析生成式人工智能应用程序组件的遥测数据,从而帮助快速识别错误来源。例如,您可以使用端到端提示跟踪、精选指标和日志,查明不准确响应的来源,无论是来自 VectorDB 中的漏洞还是不完整的 RAG 系统重试。这种互连的组件交互视图可帮助开发人员更快地优化工作负载,从而提供高水平的可用性、准确率、可靠性和质量。开发人员可以通过在一个位置监控和评估代理队列来让人工智能代理保持平稳运行。您可以在 CloudWatch 控制台的“AgentCore”选项卡中找到代理精选视图,以实现生成式人工智能可观测性。生成式人工智能可观测性与其他 CloudWatch 功能(例如应用程序信号警报控制面板敏感数据保护日志洞察)进行了集成,可帮助您无缝扩展现有的可观测性工具,以监控生成式人工智能工作负载。

此功能的预览版已在以下 4 个区域推出:美国东部(弗吉尼亚州北部)、美国西部(俄勒冈州)、欧洲地区(法兰克福)和亚太地区(悉尼)。要了解更多信息,请访问文档。收集和存储的遥测数据将按 CloudWatch 的定价收费。