生成式人工智能可观测性功能现已针对 Amazon CloudWatch 全面推出
Amazon CloudWatch 宣布全面推出生成式人工智能可观测性功能，帮助您监控人工智能应用程序和工作负载的所有组件，包括使用 Amazon Bedrock AgentCore 部署和运行的代理。此版本不仅具备运行时监控功能，还进行了扩展，包括了 AgentCore 内置工具、网关、内存和身份识别功能的完整可观测性。DevOps 团队和开发人员现在可以获得开箱即用的视图，以查看其人工智能工作负载的所有组件（从模型调用到代理操作）的延迟、令牌使用情况、错误和性能。此功能可与 Strands Agents、LangChain 和 LangGraph 等常用生成式人工智能编排框架兼容，让您可以灵活地选择框架。
借助这项新功能，CloudWatch 使开发人员能够分析生成式人工智能应用程序组件的遥测数据。客户可以在内置工具中监控代码执行模式、通过网关跟踪 API 转换成功率、分析内存存储和检索模式以及通过身份可观测性确保代理行为的安全性。该互联视图使用端到端提示跟踪、精选指标和日志，帮助开发人员快速识别问题（从 VectorDB 中的漏洞到身份验证失败）。开发人员可以通过 CloudWatch 控制台中的“AgentCore”部分监控其整个代理队列，该功能可与 CloudWatch 的其他功能（包括应用程序信号、警报、敏感数据保护和 Logs Insights）无缝集成。
此功能现已在以下区域推出：美国东部（弗吉尼亚州北部）、美国东部（俄亥俄州）、美国西部（俄勒冈州）、欧洲地区（法兰克福）、欧洲地区（爱尔兰）、亚太地区（孟买）、亚太地区（东京）、亚太地区（新加坡）和亚太地区（悉尼）。
要了解更多信息，请访问文档。生成式人工智能可观测性功能没有额外费用，针对底层遥测数据的现有 CloudWatch 定价适用。