Publié le: Oct 4, 2019
Amazon SageMaker est désormais compatible avec l’instance ml.p3dn.24xlarge, l’instance P3 la plus puissante optimisée pour les applications de machine learning. Cette instance fournit un réseau plus rapide qui aide à supprimer les goulots d'étranglement des transferts de données et à optimiser l'utilisation des GPU pour fournir des performances d'instance maximales pour l’entraînement des modèles de deep learning.
Les instances ml.p3dn.24xlarge offrent jusqu'à 100 Go/s de débit de mise en réseau, 96 processeurs virtuels personnalisés Intel®Xeon® Scalable (Skylake), 8 GPU NVIDIA® p3dn Tensor Core de 32 Go de mémoire chacun, 300 Go/s d'interconnexion NVLINK GPU et 1,8 To de stockage SSD basé sur NVMe. Comparée à l’instance P3 suivante la plus large, la 4X augmente le débit réseau couplé à des processeurs plus rapides et à un stockage SSD basé sur un NVMe loacl, ce qui permet aux développeurs de distribuer efficacement leurs tâches d’entraînement de machine learning dans plusieurs instances ml.p3dn.24xlarge et de supprimer le transfert de données et les goulots d’étranglement de prétraitement.
Vous trouverez ci-dessous une comparaison des instances ml.p3dn.24xlarge Amazon SageMaker par rapport aux instances P3 ML ,Amazon SageMaker existantes.
| Type d'instance ML | GPU - Tesla V100 | Pair à pair GPU | Mémoire de GPU (Go) | Processeurs virtuels | Mémoire (Go) | Bande passante réseau | Bande passante EBS | Stockage d'instance local |
|---|---|---|---|---|---|---|---|---|
| ml.p3.2xlarge | 1 | N/A | 16 | 8 (Broadwell) | 61 | Jusqu'à 10 Go/s | 1,5 Go/s | N/A |
| ml.p3.8xlarge | 4 | NVLink | 64 | 32 (Broadwell) | 244 | 10 Go/s | 7 Go/s | N/A |
| ml.p3.16xlarge | 8 | NVLink | 128 | 64 (Broadwell) | 488 | 25 Go/s | 14 Go/s | N/A |
| ml.p3dn.24xlarge | 8 | NVLink | 256 | 96 (Skylake) | 768 | 100 Go/s | 14 Go/s | 2 SSD NVMe de 900 Go |
Les instances ml.p3dn.24xlarge Amazon SageMaker sont disponibles dans les régions AWS USA Est (Virginie du Nord) et USA Ouest (Oregon). Avec ces instances, les clients peuvent utiliser les 1,8 To de stockage SSD basé sur le NVMe local, ce qui élimine la nécessité de créer et de payer des volumes de stockage ml supplémentaires. Rendez-vous sur la documentation Amazon SageMaker pour en savoir plus sur l’utilisation du stockage SSD basé sur le NVMe local sur ce type d’instances. Rendez-vous sur la page P3 pour en savoir plus sur la manière dont les instances P3 sont utilisées par les clients AWS.