Publicado: May 25, 2023
A partir de hoje, o Amazon SageMaker JumpStart permite ajustes finos em modelos grandes de linguagem, especialmente modelos de geração de texto com um conjunto de dados de domínio específico. Agora, os clientes podem ajustar modelos com conjuntos de dados personalizados para melhorar a performance em domínios específicos. Por exemplo, este blog descreve como usar a adaptação de domínio para o ajuste fino de um modelo GPT-J 6B baseado em dados financeiros públicos oferecidos pela Security and Exchange Commission para que o modelo possa gerar um texto mais relevante para casos de uso de serviços financeiros. Os clientes podem ajustar modelos básicos, como os modelos GPT-J 6B e GPT-J 6B FP16, para adaptação de domínio no JumpStart dentro do Amazon SageMaker Studio por meio da interface de usuário e do SDK do Python do SageMaker.
O recurso de ajuste fino de modelos básicos com adaptação de domínio do SageMaker JumpStart pode ser usado em todas as regiões em que o Amazon SageMaker JumpStart é oferecido.
Para saber como usar o novo recurso, consulte a documentação do SageMaker JumpStart e o exemplo de caderno SageMaker JumpStart Foundation Models - Fine-tuning text generation GPT-J 6B model on domain specific dataset.