Publicado: May 7, 2024
Os Agentes do Amazon Bedrock permitem que os desenvolvedores criem aplicações baseadas em IA generativa que podem concluir tarefas complexas para uma ampla variedade de casos de uso e fornecer respostas com base nas fontes de conhecimento da empresa. À medida que as aplicações atendentes se expandem, exigem maior throughput do modelo de entrada e saída em comparação com os limites sob demanda.
Hoje, estamos lançando o suporte para throughput provisionado com os Agentes do Amazon Bedrock. Com o throughput provisionado, você pode comprar unidades de modelo para o modelo de base específico. Uma unidade de modelo fornece um determinado throughput, que é medido pelo número máximo de tokens de entrada ou saída processados por minuto. Você é cobrado por hora para cada unidade de modelo e tem a flexibilidade de escolher entre nenhum compromisso de utilização ou compromisso de utilização de 1 ou 6 meses.
Para saber mais sobre os novos recursos dos Agentes do Bedrock, acesse a página de documentação.