Arquiteturas de Deployment para Modelos de Machine Learning

Descubra as principais estratégias para disponibilizar modelos de machine learning de forma eficiente, considerando diferentes arquiteturas de deployment.

Arquitetura Embutida para Deployment de Modelos de Machine Learning

A arquitetura embutida, também conhecida como embedded, consiste em incorporar o modelo treinado diretamente dentro da aplicação com a qual o usuário final irá interagir. Por exemplo, ao construir uma aplicação web com Streamlit para classificação de imagens, o script Python executado pelo Streamlit contém as linhas de código que carregam o modelo já treinado e realizam inferências nele.

• Simplicidade e facilidade de desenvolvimento são os principais benefícios da arquitetura embutida
• Não são necessários serviços adicionais ou camadas extras na arquitetura, o que facilita o desenvolvimento
• Como o modelo está embutido na aplicação, não há necessidade de fazer chamadas a APIs externas, o que pode melhorar a performance, especialmente em aplicações simples

Desvantagens da Arquitetura Embutida

Apesar dos benefícios, a abordagem embutida apresenta desvantagens, como a falta de isolamento do modelo. Isso significa que se houver a necessidade de atualizar o modelo com novos dados ou features, será necessário modificar a aplicação cliente, introduzindo acoplamento e dificultando a manutenção a longo prazo.

• A necessidade de modificar a aplicação cliente ao atualizar o modelo
• O acoplamento introduzido pela falta de isolamento do modelo
• Dificuldades de manutenção a longo prazo

API Dedicada para o Modelo de Machine Learning

Nesta abordagem, uma API (Interface de Programação de Aplicações) dedicada é criada especificamente para atender requisições de inferência no modelo de machine learning. Isso proporciona maior flexibilidade e escalabilidade, além de manter o modelo isolado da aplicação cliente.

• Maior flexibilidade e escalabilidade
• Manutenção do modelo isolado da aplicação cliente
• Possibilidade de atender a requisições de inferência de forma eficiente

API dedicada vs. Embedding do Modelo

Ao escolher entre uma API dedicada e a incorporação do modelo diretamente na aplicação, é importante considerar os benefícios e desafios de cada abordagem. A API dedicada isola o modelo em um serviço independente, facilitando atualizações futuras e permitindo o uso do mesmo modelo por múltiplas aplicações clientes. No entanto, essa abordagem introduz uma complexidade maior, exigindo desenvolvimentos distintos da aplicação e da API, e pode ter um desempenho inferior em comparação com a execução do modelo localmente.

• Isolamento do modelo em um serviço independente
• Facilidade de atualizações futuras
• Possibilidade de uso do mesmo modelo por múltiplas aplicações clientes
• Complexidade maior devido ao desenvolvimento separado da aplicação e da API
• Possível desempenho inferior em comparação com a execução local do modelo

Modelo Publicado como Dados

Publicar o modelo junto aos dados em cenários de dados de streaming é uma abordagem comum para permitir predições em tempo real. Nesse contexto, o modelo é continuamente ajustado conforme novos dados chegam, o que possibilita predições com baixíssima latência. Empresas como Spotify e Netflix adotam essa estratégia para atualizar constantemente seus modelos de recomendação com base no streaming de dados de usuários. No entanto, essa abordagem requer infraestrutura e engenharia de dados sofisticadas, sendo ainda restrita a grandes empresas.

• Atualização contínua do modelo com base nos novos dados
• Predições em tempo real com baixíssima latência
• Adoção por empresas como Spotify e Netflix
• Necessidade de infraestrutura e engenharia de dados sofisticadas

Modelo de Deployment de Modelos de Machine Learning

Ao invés disso, os dados novos são coletados e armazenados em batch.

• Modelos de machine learning podem não ficar disponíveis continuamente para fazer predições em tempo real
• Os dados novos são coletados e armazenados em batch para posterior inferência offline
• Essa abordagem é comum em modelos que geram insights ou predições em um nível mais macro

Vantagens do Processamento em Batch

A vantagem de processar os dados em batch é poder rodar o modelo em uma programação fixa, facilitando a integração com outras fontes de dados e visualizações.

• Facilita a integração com outras fontes de dados e visualizações
• Permite rodar o modelo em uma programação fixa
• O processamento em lote tende a ser mais eficiente

Desvantagens do Processamento em Batch

Por outro lado, a desvantagem é a ausência de insights em tempo real e a latência introduzida entre a coleta e o processamento dos dados.

• Ausência de insights em tempo real
• Introdução de latência entre a coleta e o processamento dos dados
• Mais indicado para casos de uso com tolerância a algum delay

Conclusão

Cada tipo de arquitetura possui vantagens e desvantagens.

• A escolha depende do caso de uso, tipo de dados, recursos computacionais disponíveis e necessidade de performance em tempo real
• A abordagem mais simples (embutida) pode ser um bom ponto de partida para validar a prova de conceito do modelo
• Evoluir para uma API dedicada ou infra de streaming conforme a complexidade aumenta

Conclusão

Ao escolher a arquitetura de deployment mais adequada, é possível garantir a eficácia e a manutenção dos modelos de machine learning, atendendo às necessidades específicas de cada caso de uso.