Curso
Entendendo Machine Learning
2 h
307.9K
Bem-vindo à parte onze da nossa série mensal Dados desmistificados. Como parte do Data Literacy Month, esta série vai esclarecer conceitos-chave do mundo dos dados, responder às perguntas que você talvez tenha receio de fazer e, de quebra, tornar tudo mais leve. Se quiser começar do início, leia a primeira matéria da série: O que é um dataset?
Nesta semana, vamos olhar com mais atenção para como a IA é tratada na mídia e alguns dos riscos de que todo mundo deve estar ciente. Este post mostra como a IA pode ser sensacionalizada nas notícias e como evitar cair na armadilha do hype da IA.
Se você quer se familiarizar mais com IA e com o jargão usado nessa área, sugerimos conferir uma matéria anterior da série Dados desmistificados sobre as diferenças entre IA, machine learning, deep learning e data science.
o problema da bolha de hype da IA
A inteligência artificial (IA) está em todo lugar e já faz parte de várias aplicações ao nosso redor — do desbloqueio do celular por reconhecimento facial às recomendações do próximo produto que você pode curtir.
Com os avanços significativos em IA nos últimos anos, a cobertura da mídia sobre essas tecnologias e seu uso na indústria e na academia cresceu bastante. Apesar de positivo, isso também aumentou o hype em torno de muitos dos últimos avanços na área. Essa dinâmica levou a uma cobertura sensacionalista sobre as possibilidades das ferramentas e tecnologias atuais de IA — e sobre seus riscos potenciais.
Esse sensacionalismo pode gerar três riscos principais na forma como o público em geral enxerga a IA:
- Expectativas irreais sobre o que ferramentas e tecnologias de IA conseguem fazer, criando um otimismo exagerado sobre os rumos da tecnologia
- Medo sensacionalista em relação à automação e à ideia de que ferramentas e tecnologias de IA vão se tornar “conscientes”
- Atenção desviada dos problemas reais que afetam a IA hoje e de como resolvê-los
um framework para entender o hype em IA
Um ótimo framework para ilustrar essa dinâmica na IA de forma mais ampla é o Ciclo do Hype da Gartner, que apresenta as fases do ciclo de vida de uma tecnologia emergente. Vamos entender o nível de maturidade da IA usando o hype cycle, como explicado abaixo.
- O Hype Cycle começa com o estágio de “gatilho” (Trigger), que fala sobre o universo de possibilidades e desperta empolgação com a nova tecnologia.
- A segunda fase é o pico, quando as expectativas se acumulam e as possibilidades superestimadas começam a ruir.
- A terceira fase chega ao fundo do poço, chamada de “vale da desilusão” (Trough of disillusionment) — quando ideias fantásticas porém desafiadoras não se concretizam. É quando a realidade se impõe e muita gente desiste de ideias poderosas diante do que é viável implementar.
- A fase desafiadora fica para trás com o início da “rampa de esclarecimento” (The slope of enlightenment), quando limitações da tecnologia são superadas com ideias inovadoras, levando ao estágio final que dá origem a indústrias inteiras que servem a sociedade de formas antes impensáveis.
Segundo pesquisadores de IA do Google, machine learning e IA estão em algum ponto entre o gatilho e o pico de expectativas infladas. Isso significa que muitas possibilidades discutidas nas notícias podem muito bem ser fantasia.
exemplos da armadilha do hype em IA
A armadilha do hype desvia a atenção do público dos problemas reais da IA para discussões como “máquinas ganhando consciência humana” ou “robôs dominando o planeta”. Embora seja importante conhecer possibilidades e riscos que acompanham as ferramentas e tecnologias de IA, esse debate muitas vezes não se baseia no potencial e nos riscos reais da área.
Aqui vão alguns exemplos que ilustram essa armadilha em ação
- LaMDA e IA senciente: o projeto LaMDA do Google ganhou manchetes após a alegação sensacionalista de um engenheiro de que o grande modelo de linguagem teria se tornado senciente. Embora o LaMDA seja de fato impressionante, não há evidências de que ele tenha consciência. Você pode saber mais sobre a tecnologia por trás do LaMDA no nosso Weekly Roundup.
- IBM Watson: por muito tempo, o IBM Watson foi descrito como a ferramenta definitiva para transformar setores inteiros. Com o tempo, porém, o Watson não conseguiu cumprir as promessas e acabou vítima do hype tecnológico.
- Sophia, a robô: Sophia é um chatbot sofisticado alojado em um robô de aparência humana. O pacote prioriza fazê-la soar e parecer humana. Apesar de impressionante, muita gente caiu na ilusão de que robôs realmente “humanos” já eram realidade.
O sensacionalismo dessas notícias não só tira o foco de casos de uso úteis de IA, como prever focos de Covid-19 ou oferecer crédito para comerciantes abrirem seus negócios, como também desvia a atenção dos riscos reais que afetam a IA hoje.
Muitos sistemas de IA — como feeds de notícias, sistemas de recomendação e outros — já são parte essencial da nossa vida e moldam o que gostamos, não gostamos e muito mais. Esses sistemas podem estar cheios de vieses, impactando pessoas que interagem com eles neste exato momento.
como evitar a armadilha do hype da IA
Letramento em dados e em IA é fundamental para você não cair na bolha de hype. Entender do que a IA é capaz, suas limitações e seus riscos é essencial para desenvolver uma visão mais crítica e equilibrada sobre para onde o campo está caminhando.
Para se munir do conhecimento necessário e construir essa visão, faça nosso curso Understanding Machine Learning e comece sua jornada de letramento em dados. A próxima (e última!) matéria da série Dados desmistificados aborda os diferentes tipos de viés em IA que todo mundo deveria conhecer. Enquanto isso, confira estes recursos:
Tópicos
