亚马逊AWS官方博客
企业智能之旅(6):安全与负责任的 AI
过去两年,以生成式 AI 为代表的人工智能迅猛发展,正在颠覆和转变各行各业,成为企业竞争和发展的战略制高点。生 […]
企业智能之旅(5):人工智能基础模型的选择与评估
在数字经济时代,大数据和人工智能一体的数智技术成为企业转型和创新的战略制高点,数据、算力、算法的发展驱动了生成 […]
Autel 基于 AWS Security Hub 的 DNS Firewall 威胁事件集中管理解决方案 | Autel’s Centralized Management Solution for DNS Firewall Threat Events Based on AWS Security Hub
中文版本 | English Version 关于 Autel 成立于 2004 年,深圳市道通科技股份有限公 […]
Autel’s Centralized Management Solution for DNS Firewall Threat Events Based on AWS Security Hub | Autel 基于 AWS Security Hub 的 DNS Firewall 威胁事件集中管理解决方案
English Version | 中文版本 About Autel Founded in 2004, AUT […]
利用 Performance Schema 分析 MySQL 数据库性能
Performance Schema 提供了更全面、更细粒度的性能数据,同时对系统性能的影响也更小,可以统计 SQL 的执行频率和延迟。
化繁为简:一键部署多模型网关,助力 Role-play 最佳实践
基于开源 LiteLLM 项目 CloudFormation 一键部署大模型流量调度网关,兼容 OpenAI,支持多模型、多区域、多账号调度和路由策略配置,Virtual Key 生成和使用追踪。
如何基于 Amazon Bedrock 构建电商评论分析(VOC)系统?
随着电商平台的快速发展,客户反馈(VOC)分析需求日益增加,传统数据分析方法难以高效处理海量非结构化数据。生成式人工智能技术能够自动理解和生成自然语言,高效处理海量非结构化文本,根据客户反馈生成智能洞察和个性化建议,大大提高了分析效率和洞察深度,为企业提供更精准的决策支持。这篇文章探讨了基于 Amazon Bedrock 实现 VOC 系统的业务价值、方案架构介绍和核心技术的实现与效果,以及利用该架构的生产优化建议。
互联网性能观测系列之二 – 时序直方图的使用
本文介绍了时序直方图:通过在直方图基础上加入时间维度,展现了性能指标数据分布在时间上的变化,让观察者可以获取到新的洞察。并提供了展示效果和参考代码。
结合 HSDP 及模型并行加速 Llama3 训练
本文分析模型并行库 SMPv2,其结合了PyTorch HSDP 和 Nvidia Transformer Engine,实现了基于张量并行的大型模型训练。SMPv2 在 SageMaker 体系上简化了繁琐的训练初始化配置,并支持与 PyTorch FSDP 的无缝集成,极大降低了开发复杂性。通过配置层次化分片、张量并行度等参数,SMPv2 可以在 Amazon P5 等高性能实例上实现高效的集群扩展性能,同时有效降低显存消耗,支持高效的大型基础模型训练。
适用于 Lustre 的 Amazon FSx 可将 GPU 实例的吞吐量提升高达 15 倍
现在,我们宣布在 适用于 Lustre 的 Amazon FSx 上支持 Elastic Fabric Ada […]