Mais 5 coisas que líderes de negócios precisam saber sobre machine learning

No post anterior, falamos sobre a importância do machine learning (ML) e destacamos as cinco coisas mais importantes que líderes de negócios precisam saber sobre ML. Primeiro, vale lembrar: aprendizado supervisionado trata de prever e classificar dados. Agora é hora de ir mais a fundo.

1. Interpretabilidade de modelos

Vimos que acurácia (a porcentagem de dados que seu modelo prevê/classifica corretamente) nem sempre é a melhor métrica para medir sucesso, como quando as classes são desbalanceadas (por exemplo, 99% dos e-mails são spam e 1% não é). Outro cenário em que métricas como acurácia podem não bastar é quando você precisa que seu modelo seja interpretável. Interpretabilidade é, essencialmente, a capacidade de explicar por que o modelo faz determinadas previsões — algo necessário em muitos modelos usados em mercados financeiros por causa da regulação. Também é essencial em algoritmos que impactam a vida e a liberdade de pessoas, como o modelo COMPAS de risco de reincidência da Northpointe, cujo resultado é usado por juízes em audiências de condicional. Existe um trade-off inerente entre acurácia e interpretabilidade: os modelos mais precisos tendem a ser caixas-pretas e pouco interpretáveis. Mesmo que seu setor ainda não esteja preocupado com interpretabilidade, é um tema fundamental para acompanhar — e a regulação deve levá-lo a muitos outros setores nos próximos anos.

2. Monitoramento e manutenção de modelos de ML em produção

É essencial lembrar que o trabalho com machine learning não termina quando o modelo começa a fazer previsões ou classificações. Modelos em produção precisam ser monitorados e mantidos. Se você tem um modelo que prevê fraude em cartão de crédito com base em dados de transações, obtém informações valiosas toda vez que ele gera uma previsão e você age sobre ela. Além disso, a atividade que você tenta monitorar e prever — fraude em cartão — pode mudar ao longo do tempo. Esse processo é chamado de data drift (deriva de dados) e mostra por que é crucial atualizar seu modelo, já que a forma como os dados são gerados está em constante evolução.

3. Deep learning

Nessa altura, você pode estar se perguntando quando vamos falar de deep learning, um dos termos mais comentados em ciência de dados e IA. Deep learning é uma forma de ML que usa modelos chamados redes neurais, livremente inspiradas nas redes neurais biológicas do cérebro humano. Vale notar que a analogia para por aí: deep learning não é equivalente à inteligência humana.

A maioria das aplicações de deep learning acontece no mundo supervisionado, em tarefas como classificação de imagens (reconhecimento facial, carros autônomos, uso de imagens de drones para estimar produtividade agrícola em AgTech) e processamento de linguagem natural (tradução do Google, classificação de documentos, análise de sentimento). Há também aplicações em previsão de séries temporais, como problemas de previsão financeira. É importante reforçar que sistemas de deep learning raramente são bons em mais de uma tarefa: um algoritmo feito para reconhecimento facial não vai classificar bem documentos jurídicos. Embora possamos chamar deep learning de uma forma de IA, trata-se de inteligência artificial estreita, não inteligência artificial geral — domínio de sistemas computacionais hipotéticos com inteligência comparável à humana em todos os aspectos.

4. Transfer learning

Em um cenário em que construir modelos competitivos de ML depende de dados de ponta e específicos do domínio, é natural se preocupar por não ter dados suficientes ou capacidade de coletá-los. Mas calma: muito do futuro do ML envolve o uso de modelos pré-treinados, ou seja, já treinados em outros dados. Esse é o universo do transfer learning. Por exemplo, você pode adquirir um modelo pré-treinado de classificação de imagens que reconhece e classifica carros. O mais interessante do transfer learning é que você pode retreinar esses modelos para sua pergunta e seu domínio específicos. Se você precisa de um algoritmo que classifique caminhões, pode pegar um que classifica carros e continuar o treinamento com imagens de caminhões.

Estamos vendo surgir marketplaces de algoritmos, como o Modzy, da Booz Allen, onde é possível comprar e vender modelos pré-treinados. Existem preocupações legítimas, porém — como lidar com viés de dados e de algoritmos, além de governança de modelos — quando se comercializam algoritmos sem acesso aos datasets em que foram treinados. [1] É um espaço pronto para crescer, mas também sujeito a abusos e à necessidade de regulação.

5. Machine learning e tomada de decisão

O último ponto — e não dá para enfatizar o suficiente — é que ML, assim como todo trabalho com dados, precisa estar diretamente inserido na função de tomada de decisão. ML não existe no vácuo: ele serve para apoiar decisões. Isso pode ser automatizado (como no Google Search), incorporado a um processo científico (quando um algoritmo sinaliza uma ressonância magnética para análise de um especialista) ou integrado a processos organizacionais (como decisões sobre o que fazer com clientes com previsão de churn).

Garanta que o trabalho com dados reflita suas preocupações do mundo real e evite erros do tipo III — quando você chega à resposta certa para a pergunta errada. Por isso a área de tradução de dados está em alta e é tão importante construir uma cultura de dados nas organizações. Isso exige que a força de trabalho entenda o que ciência de dados e ML podem ou não fazer, saiba como fazer boas perguntas aos profissionais de dados e estabeleça canais de comunicação saudáveis e produtivos entre a área de dados e o restante da empresa.

Recapitulando, as cinco coisas que você precisa saber sobre machine learning (além das [cinco que mencionei anteriormente]) são:

1. Existe um trade-off entre acurácia e interpretabilidade, mas interpretabilidade — a capacidade de explicar por que o modelo faz certas previsões — está ganhando relevância, especialmente em mercados regulados como o financeiro.
2. Modelos de ML em produção precisam ser monitorados e mantidos para evitar a deriva de dados.
3. Deep learning pode ser excelente em tarefas específicas de aprendizado supervisionado, como classificação de imagens e processamento de linguagem natural.
4. Se você se preocupa em ter dados suficientes para um problema de negócio específico, o campo em crescimento de transfer learning permite retreinar modelos pré-treinados para sua pergunta e seu domínio.
5. ML — e todo trabalho com dados — precisa servir à tomada de decisão, refletindo questões do mundo real e promovendo linhas de comunicação produtivas entre a área de dados e o restante da companhia.

[1]: Desde a publicação deste artigo, a Modzy entrou em contato e afirma "exigir que todos os modelos do marketplace incluam detalhes sobre a construção do modelo, como arquitetura, conjuntos de dados de treinamento e validação e métricas de desempenho, para garantir transparência na construção do modelo". A Modzy direciona os leitores para esta página com mais informações.