Phiên bản Amazon EC2 G5

Phiên bản G5 cung cấp hiệu năng đồ họa cao hơn tới 3 lần và tỷ lệ giá/hiệu năng tốt hơn tới 40% so với phiên bản G4dn. Chúng có nhiều lõi dò tia hơn bất kỳ phiên bản EC2 dựa trên GPU nào khác, sở hữu bộ nhớ 24 GB cho mỗi GPU và hỗ trợ công nghệ NVIDIA RTX. Vì thế đây chính là lựa chọn lý tưởng để nhanh chóng kết xuất các cảnh chân thực, chạy máy trạm ảo mạnh mẽ và hỗ trợ các ứng dụng nặng về đồ họa với độ chân thật cao hơn.

Phiên bản G5 cung cấp hiệu năng cao hơn tới 3 lần và tỷ lệ giá/hiệu năng tốt hơn tới 40% cho suy luận máy học so với phiên bản G4dn. Đây là một giải pháp hiệu năng cao và tiết kiệm chi phí cho những khách hàng muốn sử dụng các thư viện NVIDIA như TensorRT, CUDA và cuDNN để chạy các ứng dụng ML.

Phiên bản G5 đưa ra chi phí đào tạo thấp hơn tới 15% so với phiên bản Amazon EC2 P3. Chúng cũng cung cấp hiệu năng cao hơn tới 3,3 lần cho hoạt động đào tạo ML so với các phiên bản G4dn. Nhờ vậy, phiên bản này chính là giải pháp tiết kiệm chi phí để đào tạo các mô hình máy học một nút và có độ phức tạp vừa phải dành cho xử lý ngôn ngữ tự nhiên, thị giác máy tính và các trường hợp sử dụng công cụ khuyến nghị.

Phiên bản G5 được xây dựng trên Hệ thống AWS Nitro, một sự kết hợp giữa phần cứng chuyên dụng và phần mềm giám sát máy ảo gọn nhẹ, hội tụ hầu như tất cả các tài nguyên điện toán và bộ nhớ của phần cứng lưu trữ vào phiên bản của bạn để có được hiệu năng tổng thể và tính bảo mật tốt hơn. Với các phiên bản G5, hệ thống Nitro cung cấp GPU ở chế độ passthrough, cung cấp hiệu năng tương đương với bare metal.

Các phiên bản G5 là phiên bản đầu tiên trên đám mây có GPU NVIDIA A10G Tensor Core mang lại hiệu năng cao cho các ứng dụng có yêu cầu cao về đồ họa và máy học. Mỗi phiên bản có đến 8 GPU A10G Tensor Core đi kèm với 80 lõi dò tia và bộ nhớ 24 GB cho mỗi GPU. Chúng cũng cung cấp 320 NVIDIA Tensor Core thế hệ thứ ba, đạt hiệu suất lên đến 250 TOPS nhằm mang lại hiệu năng cao cho khối lượng công việc ML.

Phiên bản G5 cung cấp trình điều khiển NVIDIA RTX Enterprise và trò chơi cho khách hàng mà không tính thêm phí. Trình điều khiển NVIDIA RTX Enterprise có thể được sử dụng để cung cấp máy trạm ảo chất lượng cao cho một loạt các khối lượng công việc có yêu cầu cao về đồ họa. Trình điều khiển trò chơi NVIDIA cung cấp đồ họa tuyệt đỉnh và hỗ trợ điện toán cho hoạt động phát triển trò chơi. Các phiên bản G5 cũng hỗ trợ các thư viện CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1 và OpenGL 4.5.

Các phiên bản G5 đi kèm với thông lượng mạng lên đến 100 Gbps cho phép các phiên bản này hỗ trợ nhu cầu về độ trễ thấp của suy luận máy học và các ứng dụng có yêu cầu cao về đồ họa. Bộ nhớ 24 GB cho mỗi GPU cùng với hỗ trợ dung lượng lưu trữ SSD NVMe cục bộ lên đến 7,6 TB cho phép lưu trữ cục bộ các mô hình và tập dữ liệu lớn để đào tạo và suy luận máy học hiệu năng cao. Phiên bản G5 cũng có thể lưu trữ cục bộ các tệp video lớn, qua đó tăng hiệu năng đồ họa và khả năng kết xuất các tệp video lớn hơn và phức tạp hơn.

Phiên bản G5 được xây dựng trên Hệ thống AWS Nitro, hệ thống này là một tập hợp đa dạng các khối dựng, giúp giảm tải nhiều chức năng ảo hóa truyền thống sang phần cứng và phần mềm chuyên dụng để mang lại hiệu năng cao, độ sẵn sàng cao và độ bảo mật cao, đồng thời giảm tổng chi phí ảo hóa.