A NerdWallet usa Machine Learning na AWS para alavancar a plataforma de recomendações

A NerdWallet é uma startup de finanças pessoais que fornece ferramentas e conselhos para tornar fácil para os clientes pagarem dívidas, escolherem os melhores produtos e serviços financeiros e lidarem com os principais objetivos da vida, como comprar uma casa ou poupar para a aposentadoria. A empresa depende muito de ciência de dados e machine learning (ML) para conectar clientes com produtos financeiros personalizados. “Percebemos desde o início que a ciência de dados seria essencial para a construção de um produto e uma experiência de usuário mais pessoais,” diz Ryan Kirkman, gerente de engenharia sênior da NerdWallet.

Quando a equipe de engenharia da empresa começou a implantar seus primeiros modelos de ML, Kirkman e seu pessoal viram que o processo era mais demorado que o esperado. Segundo ele, “levaria meses para passarmos do protótipo para a produção e havia muitas ineficiências durante o percurso.”

Na época, os cientistas de dados da NerdWallet usavam uma abordagem em grande parte manual para gerenciar bibliotecas de ML, o que não era ideal do ponto de vista do custo ou do fluxo de trabalho. “Nossos cientistas de dados tinham que instalar tudo manualmente e lidar com qualquer que fosse o ambiente que o último cientista de dados tivesse deixado na máquina,” diz Sharadh Krishnamurthy, engenheiro de software da equipe na NerdWallet.

A empresa precisava resolver seus problemas de estrutura de engenharia para que seus cientistas de dados pudessem treinar modelos de ML com mais eficiência, acelerar o processo do conceito à distribuição e se concentrar mais em projetos de alto valor. Quanto mais rápido conseguíssemos passar os modelos para a produção, nossa equipe de ciência de dados poderia iterar por eles com maior velocidade e melhoraríamos a experiência de nosso produto,” diz Kirkman. “Reduzir o loop de feedback melhoraria significativamente nossa habilidade na execução de projetos de ciência de dados.”

Como startup, a NerdWallet não tinha os recursos necessários para reinventar a roda. “A questão-chave para uma startup é ‘como adicionaremos valor ao negócio com mais rapidez?’ Queríamos uma plataforma de machine learning como algumas das grandes empresas tinham, mas não estávamos em posição para investir muito,” diz Krishnamurthy.

A NerdWallet já estava usando várias soluções da Amazon Web Services (AWS), inclusive a Amazon Elastic Compute Cloud (Amazon EC2) e o Amazon Elastic Container Service (Amazon ECS). A equipe decidiu adicionar o Amazon SageMaker ao mix. Com esse serviço totalmente gerenciado, a empresa poderia usar instâncias subjacentes do Amazon EC2, inclusive instâncias P3 do Amazon EC2 com GPUs NVIDIA V100 Tensor Core, e seu pipeline de construção de imagens do Amazon ECS para reduzir o tempo requerido para o treinamento de modelos de ML. “Basicamente, o Amazon SageMaker nos forneceu machine learning como serviço,” diz Kirkman.

A adoção do Amazon SageMaker permitiu que a NerdWallet modernizasse rapidamente suas práticas de engenharia de ciência de dados. “Incrementamos o valor do negócio em dois meses,” diz Kirkman. “De outra forma isso não seria possível.”

A nova solução também ajudou a empresa a remover obstáculos e acelerar o tempo de distribuição. “O Amazon SageMaker torna fácil para nossos cientistas de dados serem os principais responsáveis e condutores de seu trabalho, em vez de entregarem vários resultados e terem que reimplementar tudo,” diz Kirkman. “Estamos fornecendo um caminho conhecido que torna a solução desses problemas de infraestrutura mais fácil do ponto de vista da plataforma e da engenharia e acelera também o trabalho de nossos cientistas de dados. É uma solução em que todos ganham.”

O primeiro projeto da NerdWallet que usou a nova abordagem foi uma plataforma de recomendações desenvolvida pelo TensorFlow. Anteriormente, a NerdWallet fornecia para os clientes uma lista de possíveis cartões de crédito, mas não tinha como prever a probabilidade de aceitação. Agora, usando o Amazon SageMaker e machine learning, a empresa pode achar os produtos financeiros certos para os clientes com mais eficiência.

O uso do Amazon SageMaker e das instâncias P3 do Amazon EC2 com GPUs NVIDIA V100 Tensor Core também melhorou a flexibilidade e o desempenho da NerdWallet e reduziu o tempo necessário para os cientistas de dados treinarem modelos de ML. “Costumávamos levar meses para lançar os modelos e iterar neles; agora leva apenas dias,” diz Kirkman.

O Amazon SageMaker permitiu que os cientistas de dados da NerdWallet gastassem mais tempo em descobertas estratégicas. Segundo Kirkman,“Agora podemos aplicar mais energia onde está nossa vantagem competitiva - nossos insights dos problemas que estamos resolvendo para nossos usuários.”

Por exemplo, a NerdWallet está construindo um sistema de armazenamento de inferências que permitirá que as equipes acessem e usem facilmente as previsões que os cientistas de dados estão produzindo em outras áreas da empresa. “Não acho que poderíamos ter criado esse sistema sem ter o fluxo de trabalho otimizado para o treinamento que nossos cientistas de dados agora têm,” diz Kirkman. “Seria caro demais e muito arriscado. Otimizar o fluxo de trabalho e permitir a padronização agregou muito mais valor para nós.”

O Amazon SageMaker também ajuda a NerdWallet a manter os custos controlados. Já que a empresa pode pagar pelo uso em vez de pela infraestrutura executando-a continuamente, as despesas só ocorrem quando recursos de computação são necessários. “Conseguimos reduzir nosso custos de treinamento em cerca de 75%, até mesmo ao aumentar o número de modelos treinados,” diz Kirkman. “Podemos fazer isso porque passamos de um modelo de execução de uma única instância maior do Amazon EC2 no regime 24/7 para a execução de qualquer tipo de instância que precisássemos via Amazon SageMaker sob demanda.”

A construção da plataforma de ML no Amazon SageMaker também significa que a pequena equipe de TI da NerdWallet pode aproveitar imediatamente os avanços da indústria. “Do ponto de vista da infraestrutura e da tecnologia, o uso do Amazon SageMaker ajuda a progredir substancialmente nossos esforços, recursos e funcionalidades na plataforma de machine learning,” diz Kirkman. “E trabalhando com a AWS, podemos realmente nos acomodar nos ombros de gigantes."

O uso de machine learning e do Amazon SageMaker representa uma mudança em como a NerdWallet está usando a tecnologia para se diferenciar em um mercado de serviços financeiros cheio e competitivo. Kirkman e sua equipe planejam continuar usando tecnologia para oferecer serviços com valor agregado. “Ajudar os clientes em qualquer tipo de decisão financeira que eles precisem tomar e estar alinhado com o consumidor são diferenciadores importantes para nós,” diz Kirkman. “O uso da ciência de dados e de machine learning nos ajuda a dobrar nossos esforços.”

Para saber mais, acesse thinkwithwp.com/sagemaker.