Category: Artificial Intelligence

亚马逊自研芯片 inf2 与 vLLM 助力企业高效部署大型语言模型。

本文使用 Amazon Bedrock、Transcribe 和 Polly，结合开源 ASTRA 框架，开发了一个高效的实时语音助手，并提供常规聊天及同声传译两个工作模式。

今天，我们宣布推出 AWS Console-to-Code 控制台转代码功能正式发布版本（GA），该功能可以轻 […]

我们为一家光伏企业开发了基于生成式 AI 技术的商业智能工具，该工具极大提高了数据使用效率。传统 BI 工具难以满足企业大量即时查询和分析的需求，直接将数据库表 schema 作为提示词给大模型也效果不理想。我们采取了数据治理、使用具备物化视图特性的数仓产品、优化提示词工程、跨源数据使用 Pandas 聚合等措施。证实了良好的数据架构、优秀的提示词工程和高性能大模型对实现生成式 BI 的重要性。

在《基于 Claude 3 和 WhisperX 实现 ASR 方案（一）》中我们介绍了 WhisperX 模型的实现原理，以及如何在 AWS 上快速部署和使用 WhisperX 模型，实现语音转文字，视频字幕生成与对齐，识别不同的说话人等功能。通过 StreamlitUI 的方式，我们可以快速对 YouTube 视频、本地音频文件实现 ASR，方便我们做技术调研和 Demo 演示。

本文将深入探讨 WhisperX 的一个关键特性——说话人分离，剖析其实现原理和应用场景，并指导您如何在 AWS 上部署和使用该模型。Whisper 是一种先进的深度学习语音识别技术，能将语音精确转换为文字。其核心优势在于高效的神经网络结构和创新的训练方法，使其能应对各种复杂场景，如嘈杂环境、多样口音和不同语速。

 每周，Amazon Web Services（AWS）都会举办社区活动，您可以在其中拓展人脉、学习新知，并 […]

Sample Client For Amazon Bedrock 是一款针对与 Amazon bedrock 服务的个人应用客户端，本文简称 Sample Client。软件服务端建议部署在 AWS 海外区域（例如 us-east-1），应用仅需部署一套，即可实现企业内外的多个用户同时使用。帮助有兴趣的 IT 人员和开发人员体验和评测 Anthropic Claude 3 等大模型的能力。

代码伴侣是一类基于大型语言模型（LLMs）的智能化编程工具，它可以通过自然语言理解和代码生成能力，为程序员提供高效、准确的代码编写辅助，从而使整个软件开发过程更加流畅高效。本文旨在利用 SageMaker Endpoint 部署开源代码模型，并通过开源插件 Continues 完成整个代码助手的开发。

AI Character 角色扮演应用中的聊天对话管理是生成式 AI 在实际应用中的一个重要场景，需要借助数据库来有效管理大量的对话数据，以确保角色表现的连贯性和自然性，体现场景的快速响应和高频互动。