Accueil Cloud computing Annonce des blocs de capacité Amazon EC2 pour ML afin de réserver la capacité GPU pour vos charges de travail d’apprentissage automatique

Annonce des blocs de capacité Amazon EC2 pour ML afin de réserver la capacité GPU pour vos charges de travail d’apprentissage automatique

0
Annonce des blocs de capacité Amazon EC2 pour ML afin de réserver la capacité GPU pour vos charges de travail d’apprentissage automatique


Exprimé par Polly

Les progrès récents dans apprentissage automatique (ML) a ouvert des opportunités aux clients d’organisations de toutes tailles et de tous secteurs pour réinventer de nouveaux produits et transformer leurs activités. Cependant, la croissance de la demande de capacité GPU pour former, affiner, expérimenter et inférer ces modèles ML a dépassé l’offre à l’échelle du secteur, faisant des GPU une ressource rare. L’accès à la capacité GPU est un obstacle pour les clients dont les besoins en capacité fluctuent en fonction de la phase de recherche et développement dans laquelle ils se trouvent.

Aujourd’hui, nous annonçons Amazon Elastic Compute Cloud (Amazon EC2) Blocs de capacité pour le MLun nouveau modèle d’utilisation d’Amazon EC2 qui démocratise davantage le ML en facilitant l’accès aux instances GPU pour former et déployer le ML et IA générative des modèles. Avec les blocs de capacité EC2, vous pouvez réserver des centaines de GPU colocalisés dans UltraClusters EC2 conçu pour les charges de travail ML hautes performances, utilisant Adaptateur en tissu élastique (EFA) mise en réseau dans un réseau non bloquant à l’échelle du péta-bit, pour offrir les meilleures performances réseau disponibles dans Amazon EC2.

Il s’agit d’une nouvelle façon innovante de planifier des instances GPU, qui vous permet de réserver le nombre d’instances dont vous avez besoin pour une date ultérieure, pendant la durée dont vous avez besoin. Les blocs de capacité EC2 sont actuellement disponibles pour Instances Amazon EC2 P5 alimenté par des GPU NVIDIA H100 Tensor Core dans la région AWS USA Est (Ohio). Avec les blocs de capacité EC2, vous pouvez réserver des instances GPU en quelques clics et planifier votre développement ML en toute confiance. Les blocs de capacité EC2 permettent à quiconque d’accéder facilement et de manière prévisible aux instances EC2 P5 qui offrent les performances les plus élevées dans EC2 pour la formation ML.

Les réservations de blocs de capacité EC2 fonctionnent de la même manière que les réservations de chambres d’hôtel. Lors d’une réservation d’hôtel, vous précisez la date et la durée pour laquelle vous souhaitez réserver votre chambre ainsi que la taille des lits que vous souhaitez, un lit queen ou un lit king, par exemple. De même, avec les réservations de blocs de capacité EC2, vous sélectionnez la date et la durée que vous souhaitez. nécessiter des instances GPU et la taille de la réservation (le nombre d’instances). À la date de début de votre réservation, vous pourrez accéder à votre bloc de capacité EC2 réservé et lancer vos instances P5. À la fin de la durée du bloc de capacité EC2, toutes les instances encore en cours d’exécution seront arrêtées.

Vous pouvez utiliser les blocs de capacité EC2 lorsque vous avez besoin d’une assurance de capacité pour former ou affiner des modèles de ML, exécuter des expériences ou planifier de futures augmentations de la demande d’applications de ML. Vous pouvez également continuer à utiliser Réservations de capacité à la demande pour tous les autres types de charges de travail qui nécessitent une assurance de la capacité de calcul, comme les applications critiques pour l’entreprise, les exigences réglementaires ou la reprise après sinistre.

Premiers pas avec les blocs de capacité Amazon EC2 pour le ML
Pour réserver vos blocs de capacité, choisissez Réservations de capacité sur le Console Amazon EC2 dans la région USA Est (Ohio). Vous pouvez voir deux options de réservation de capacité. Sélectionner Acheter des blocs de capacité pour le ML et puis Commencer pour commencer à chercher un bloc de capacité EC2.

Choisissez votre capacité totale et précisez la durée pendant laquelle vous avez besoin du bloc de capacité EC2. Vous pouvez réserver un bloc de capacité EC2 dans les tailles suivantes : 1, 2, 4, 8, 16, 32 ou 64. p5.48xlarge instances. Le nombre total de jours pendant lesquels vous pouvez réserver des blocs de capacité EC2 est compris entre 1 et 14 jours, par incréments de 1 jour. Les blocs de capacité EC2 peuvent être achetés jusqu’à 8 semaines à l’avance.

Les prix des blocs de capacité EC2 sont dynamiques et dépendent de l’offre et de la demande totales disponibles au moment où vous achetez le bloc de capacité EC2. Vous pouvez ajuster la taille, la durée ou la plage de dates dans vos spécifications pour rechercher d’autres options de bloc de capacité EC2. Lorsque vous sélectionnez Rechercher des blocs de capacité, AWS renvoie l’offre disponible la moins chère qui répond à vos spécifications dans la plage de dates que vous avez spécifiée. À ce stade, le prix du bloc de capacité EC2 vous sera affiché.

Après avoir examiné les détails, les balises et les informations sur le prix total des blocs de capacité EC2, choisissez Achat. Le prix total d’un bloc de capacité EC2 est facturé à l’avance et le prix ne change pas après l’achat. Le paiement sera facturé sur votre compte dans les 12 heures suivant l’achat des blocs de capacité EC2.

Toutes les réservations de blocs de capacité EC2 commencent à 11h30, temps universel coordonné (UTC). Les blocs de capacité EC2 ne peuvent pas être modifiés ou annulés après l’achat.

Vous pouvez aussi utiliser Interface de ligne de commande AWS (AWS CLI) et Kits SDK AWS pour acheter des blocs de capacité EC2. Utilisez le describe-capacity-block-offerings API pour fournir les exigences de votre cluster et découvrir un bloc de capacité EC2 disponible à l’achat.

$ aws ec2 describe-capacity-block-offerings \
          --instance-type p5.48xlarge \
          --instance-count 4 \
          --start-date-range 2023-10-30T00:00:00Z \
          --end-date-range 2023-11-01T00:00:00Z \
          –-capacity-duration 48

Après avoir trouvé un bloc de capacité EC2 disponible avec le CapacityBlockOfferingId et les informations de capacité de la commande précédente, vous pouvez utiliser purchase-capacity-block-reservation API pour l’acheter.

$ aws ec2 purchase-capacity-block-reservation \
          --capacity-block-offering-id cbr-0123456789abcdefg \
          –-instance-platform Linux/UNIX

Pour plus d’informations sur les nouvelles API EC2 Capacity Blocks, consultez le Documentation de l’API Amazon EC2.

Votre bloc de capacité EC2 a maintenant été planifié avec succès. À la date de début prévue, votre bloc de capacité EC2 deviendra actif. Pour utiliser un bloc de capacité EC2 actif à votre date de début, choisissez l’ID de réservation de capacité pour votre bloc de capacité EC2. Vous pouvez voir une répartition de la capacité de l’instance réservée, qui montre comment la capacité est actuellement utilisée dans le Détails de la capacité section.

Pour lancer des instances dans votre bloc de capacité EC2 actif, choisissez Instances de lancement et suivez le processus normal de lancement des instances EC2 et d’exécution de vos charges de travail ML.

Dans le Détails avancés section, choisissez Blocs de capacité comme option d’achat et sélectionnez l’ID de réservation de capacité du bloc de capacité EC2 que vous essayez de cibler.

À mesure que l’heure de fin de votre bloc de capacité EC2 approche, Amazon EC2 émettra un événement via Amazon EventBridge, vous informant que votre réservation se termine bientôt afin que vous puissiez contrôler votre charge de travail. Toutes les instances exécutées dans le bloc de capacité EC2 passent dans un état d’arrêt 30 minutes avant la fin de votre réservation. Le montant qui vous a été facturé pour votre bloc de capacité EC2 n’inclut pas cette période. Lorsque votre bloc de capacité EC2 expire, toutes les instances encore en cours d’exécution seront arrêtées.

Maintenant disponible
Blocs de capacité Amazon EC2 sont désormais disponibles pour p5.48xlarge instances dans la région AWS USA Est (Ohio). Vous pouvez consulter le prix d’un bloc de capacité EC2 avant de le réserver, et le prix total d’un bloc de capacité EC2 est facturé d’avance au moment de l’achat. Pour plus d’informations, consultez le Tarification des blocs de capacité EC2 page.

Pour en savoir plus, consultez le Documentation sur les blocs de capacité EC2 et envoyez vos commentaires à AWS re:Post pour EC2 ou via vos contacts AWS Support habituels.

Channy



LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici