亚马逊AWS官方博客
使用 Amazon SageMaker Hugging Face 估计器和模型并行库微调 GPT-J
在这篇文章中,我们将介绍使用 Amazon SageMaker 分布式模型并行库训练大型语言模型(LLM)的指南和最佳实践,以减少训练时间和成本。您将学习如何轻松地在 SageMaker 上训练 60 亿个参数的 GPT-J 模型。最后,我们将分享 SageMaker 分布式模型并行性的主要特征,这些特征有助于加快训练时间。
在由 AWS Trainium 实例支持的 Amazon ECS 上,扩展机器学习工作负载
在这篇博文中,我们将向您展示如何使用 Amazon ECS 来部署、管理和扩展机器学习工作负载,以便在容器中运行机器学习训练作业。
预览版 – 使用 Amazon Bedrock 代理将基础模型连接到公司的数据源
我们在 7 月宣布推出 Amazon Bedrock 代理的预览版,这是让开发人员能够创建生成式 AI 应用程 […]
借助 Pyroscope 对 EKS 容器服务进行 Continuous Profiling 诊断应用性能
本文提供基于 Pyroscope 的 Continuous Profiling 解决方案,帮助现代应用客户持续的分析优化应用性能。
EDR 守护云上主机安全
SaaS-EDR 是一款集成了丰富的系统防护与加固、网络防护与加固等功能的主机安全产品。具备业界独有的高级威胁模块,通过自主研发的文件诱饵引擎,有着业界领先的勒索专防专杀能力;通过内核级东西向流量隔离技术,实现网络隔离与防护;拥有补丁修复、外设管控、文件审计、阻断等主机安全能力。
借助 Cloud Foundations 一键部署弹性堡垒机安全合规地实现会话管理及端口转发
堡垒机 (Bastion host),又称作跳转机 (Jump box),是一台在外部网络为私有网络内的资源提供唯一访问入口的实例。安全合规起见,企业对网络出入口有非常严格的限制和规定。工作负载资源通常情况下不能途径互联网访问。我们以 Cloud Foundations 构建的云上多账户环境为基础,以实际落地为导向,逐步展示如何安全合规的快速构建稳健弹性的堡垒机架构,以实现会话管理和端口转发功能。您可以此为起点,优化构建更贴近您业务需求的堡垒机方案。
在 Amazon SageMaker 上使用 AWS Inferentia2 和 AWS Trainium 以最低成本实现高性能的生成式人工智能推理
随着能够创建类人文本、图像、代码和音频的生成式人工智能模型的兴起,人工智能(AI)和机器学习(ML)的世界见证 […]
利用 Apache Ranger 管理 EMR 中的数据权限
在 Amazon EMR 中,通过部署 Apache Ranger 和 Simple AD 服务,对 Amazon EMR 中的数据进行 Hive 表级别的权限管理。
十亿级超大表数据库注入 Amazon S3 数据湖的实践
利用 AWS DMS 实现归档数据库注入 Amazon S3 数据湖的实践
AWS 一周综述:R7iz 实例、Amazon Connect、CloudWatch Logs 及更多内容(2023 年 9 月 11 日)
好像轮到我写 AWS 一周综述了。我于 2012 年 4 月 16 日,也就是 4165 天前撰写并发表了第一 […]