Publié le: May 7, 2024
Les agents pour Amazon Bedrock permettent aux développeurs de créer des applications basées sur l'IA générative qui peuvent effectuer des tâches complexes pour un large éventail de cas d'utilisation et fournir des réponses basées sur les sources de connaissances de l'entreprise. À mesure que les applications agentiques évoluent, elles nécessitent un débit de modèle d'entrée et de sortie plus élevé que les limites à la demande.
Aujourd'hui, nous lançons la prise en charge de Provisioned Throughput avec les agents pour Amazon Bedrock. Avec Provisioned Throughput, vous pouvez acheter des unités modèles pour le modèle de base spécifique. Une unité modèle fournit un certain débit garanti, qui est mesuré par le nombre maximum de jetons d’entrée ou de sortie traités par minute. Vous êtes facturé à l'heure pour chaque unité modèle et vous avez la possibilité de choisir entre l’absence d’engagement, ou des engagements d’un ou six mois.
Pour en savoir plus sur les nouvelles fonctionnalités de Bedrock Agents, consultez la page de documentation.