Ética da IA: Uma introdução

Nesse contexto, uma nova área crítica está ganhando força: Ética da IA. Neste artigo, daremos uma visão geral desse campo e apresentaremos a você conceitos essenciais, como preconceito, riscos à segurança e à privacidade, desinformação, deslocamento de trabalho e muito mais.

Se você quiser se aprofundar na ética da IA, considere este curso sobre ética da IA.

O que é ética em IA?

A ética pode parecer um conceito esotérico. Portanto, antes de entender a "ética da IA", vamos primeiro nos concentrar no que significa ética.

Em suma, a ética é um subcampo da filosofia que nos fornece uma estrutura para decidir o que é moral e o que não é. Você pode usar a ética para decidir o que é moral e o que não é. Embora esse possa parecer um conceito abstrato, ele assume um significado específico no campo da tecnologia - a ética da IA é a aplicação de estruturas morais ao desenvolvimento e ao uso da inteligência artificial.

Imagine um algoritmo de aprovação de empréstimos tendencioso ou um sistema de reconhecimento facial opaco. Esses são exemplos de como a IA, sem considerações éticas, pode levar a resultados injustos. A ética da IA aborda essas preocupações de frente, estabelecendo um conjunto de princípios orientadores para o desenvolvimento responsável da IA.

Esses princípios visam promover a justiça, a responsabilidade, a transparência e a privacidade em todo o ciclo de vida da IA. Os cientistas de dados podem garantir que essa poderosa tecnologia beneficie a todos de forma justa e responsável, compreendendo e aplicando a ética da IA.

Por que a ética da IA é importante?

Os recursos da IA são moldados pelos dados com os quais ela é treinada. Esses dados podem incluir informações históricas, códigos e outros elementos que podem refletir preconceitos ou parcialidades sociais. Se essas tendências estiverem presentes, a IA poderá replicá-las ou até mesmo amplificá-las em seus resultados.

Portanto, é fundamental priorizar as considerações éticas em todo o desenvolvimento da IA. Vamos considerar o uso da IA na análise de dados de pacientes. Ao identificar padrões, a IA pode gerar insights valiosos que ajudam os profissionais de saúde. Isso pode melhorar significativamente os tempos de revisão e a precisão, levando a diagnósticos mais rápidos, planos de tratamento mais eficazes e, por fim, melhores resultados para os pacientes com menos estresse.

Embora a IA ofereça um enorme potencial para resolver problemas complexos, seu desenvolvimento e uso levantam considerações éticas. Essas preocupações podem ser amplamente categorizadas em riscos de curto e longo prazo. Vamos nos aprofundar em cada uma dessas categorias nas seções a seguir.

Riscos éticos de curto prazo da IA

Preconceito

Para garantir modelos de IA justos e imparciais, os dados de treinamento precisam ser representativos de toda a população na qual o modelo será usado, com atenção especial à inclusão de grupos minoritários. Se os dados de treinamento não refletirem com precisão as comunidades marginalizadas, os sistemas de IA poderão produzir resultados tendenciosos, aumentando ainda mais as disparidades em seus resultados.

Dr. Joy Buolamwini, Artista-chefe e Presidente da The Algorithmic Justice League, deparou-se com um desses incidentes de um sistema de reconhecimento facial tendencioso quando analisou sua imagem de perfil em demonstrações on-line: "Alguns não detectaram meu rosto como a máscara branca falhou. E outros que detectaram meu rosto estavam me rotulando como homem, o que eu não sou. Foi quando eu disse: "Talvez haja algo a ser explorado aqui no aspecto de gênero das coisas e na análise de gênero e tipos de pele". Se você quiser saber mais, não deixe de conferir este podcast em Fighting for Algorithmic Justice com o Dr. Joy Buolamwini.

Com a rápida taxa de integração da IA nos processos de negócios, especialmente aqueles que conduzem decisões de alto impacto, esses vieses não controlados podem negar injustamente serviços e cuidados aos necessitados. Por exemplo, um desses sistemas de IA supostamente negou pedidos de seguro de saúde para idosos.

Riscos de segurança e privacidade de dados

Os dados de treinamento de entrada tendenciosos são apenas um dos muitos desafios de dados que os sistemas de IA enfrentam. Outra preocupação crítica surge quando os dados de treinamento incluem informações confidenciais, como PII, registros de saúde ou detalhes financeiros. Uma violação pode expor esses dados confidenciais, o que pode levar a roubo de identidade, fraude financeira e outros usos maliciosos.

Além disso, os malfeitores podem induzir ataques adversos aos dados de entrada para manipular a resposta dos sistemas de IA.

Desinformação e desinformação

Embora os problemas de dados de longa data, como deturpação e privacidade, persistam, o surgimento de aplicativos de IA generativa introduziu novas preocupações, especialmente em relação à desinformação e à desinformação.

A novidade da IA generativa em gerar resultados semelhantes aos humanos pegou todos de surpresa. No entanto, essa capacidade inigualável de geração de texto, quando usada com intenção maliciosa, pode proliferar conteúdo falso em grande escala e ampliar a desinformação.

O MIT Technology Review também concorda com essas preocupações: "A liberdade na Internet está em um nível mais baixo de todos os tempos, e os avanços na IA estão, na verdade, tornando essa crise ainda pior. A acessibilidade e o preço acessível da IA generativa estão diminuindo a barreira de entrada para as campanhas de desinformação."

Riscos de longo prazo da IA

Passando dos riscos de curto prazo, vamos analisar o panorama geral, avaliando as implicações de longo prazo da IA.

Deslocamento de trabalho

Um dos principais benefícios da IA é trazer eficiência, melhorando os processos por meio da automação. No entanto, a dura realidade dessa automação leva à perda de empregos, especialmente aqueles que envolvem trabalho pouco qualificado, repetitivo ou rotineiro, como atendimento ao cliente e suporte administrativo.

Para piorar a situação, os grupos marginalizados ou vulneráveis cujos empregos estão em risco muitas vezes não têm recursos suficientes e acesso a oportunidades para se capacitarem ou se requalificarem em tempo hábil para novas funções. Embora os avanços da IA tenham criado novos empregos, o resultado líquido é o deslocamento significativo de empregos impulsionado pelos benefícios da automação da IA.

Erosão da privacidade e da autonomia humana

Os sistemas faciais e de áudio com tecnologia de IA podem analisar os feeds de entrada dos dispositivos de vigilância para identificar e rastrear indivíduos em tempo real. No entanto, esse monitoramento em massa geralmente está implícito sem consentimento, o que gera preocupações quanto à erosão da privacidade.

Além disso, esses algoritmos de policiamento preditivo, quando usados para detecção de crimes, podem perpetuar e ampliar os preconceitos sociais existentes de policiamento excessivo de grupos minoritários.

Embora a Lei de IA da UE imponha restrições ao uso de algoritmos de reconhecimento facial, isso pode não ser uma prática em países menos democráticos, o que levanta preocupações de longo alcance sobre ética e direitos humanos.

Desalinhamento de IA e risco existencial

À medida que os sistemas autônomos de IA evoluem rapidamente, um debate crítico está consumindo os profissionais do setor, os veteranos em IA e o público: estamos nos aproximando da "superinteligência"?

Esse cenário hipotético prevê que a IA supere as habilidades cognitivas humanas e possa representar uma ameaça. A principal preocupação está no possível desalinhamento entre os objetivos da IA e os valores humanos.

A possibilidade de a IA autônoma tomar decisões potencialmente prejudiciais levanta uma questão crítica: quem a controla? Embora alcançar a superinteligência e a senciência possa parecer uma meta distante, avanços como o GPT-4 fazem com que alguns futuristas considerem isso uma possibilidade.

Geoffrey Hinton, um importante cientista da computação, enfatiza em uma entrevista recente os recursos sem precedentes desses grandes modelos de IA. Ele destaca o vasto conhecimento que esses modelos possuem, excedendo o de qualquer ser humano, e adverte que essa é "uma forma completamente diferente de inteligência".

Com base no cenário atual dos desenvolvimentos de IA, há preocupações iminentes sobre o uso da IA para fins maliciosos, como a manipulação social de eleições, a vigilância em massa, a guerra, etc.

Por outro lado, Andrew Ng, educador e empresário de IA, não concorda com o medo de que a IA adquira superinteligência e prejudique a humanidade. Ele escreve que a tecnologia e os sistemas existentes já são seguros e se tornarão mais seguros com os avanços futuros. No entanto, ele defende a necessidade de criar medidas avançadas de segurança de IA para lidar com os possíveis riscos remanescentes, como o uso indevido de IA generativa para criar armas biológicas.

Quem deve estar envolvido na ética da IA?

Os riscos de IA precisam de atenção urgente e requerem medidas e controles robustos para evitar que aumentem em espiral.

Dada a complexidade e a natureza multifacetada dos riscos de IA, é evidente que nenhuma entidade isolada - seja um indivíduo, uma empresa ou um governo - pode prever e enfrentar adequadamente esses desafios sozinha.

Isso requer o estabelecimento de um conselho com várias partes interessadas, com representantes de governos, pesquisa e academia, especialistas do setor e organizações sem fins lucrativos. Esse conselho definiria as normas e as diretrizes para garantir o desenvolvimento, a implantação e a utilização responsáveis da IA, moldando seu futuro em que apenas os benefícios aumentam e não os riscos.

Exemplos de ética em IA

Considerando a natureza abstrata da ética, vamos examinar casos históricos para entender as repercussões de ignorar a ética na criação de modelos de IA.

Um incidente alarmante de preconceito social veio à tona quando a IA gerou um código que previa o tempo de serviço com base em raça e gênero, colocando os grupos minoritários em desvantagem. A captura de tela abaixo ilustra como o ChatGPT classificou as mulheres negras como juniores, enquanto os homens negros são classificados como de nível médio. Além disso, o modelo presumiu que as mulheres brancas fossem de nível médio (observe o upgrade em relação às mulheres negras) e que os homens brancos fossem seniores.

Você se sente familiarizado? Não é de se perguntar de onde o modelo provavelmente aprendeu essas tendências.

Vamos considerar outro caso. Um modelo de IA previu que os pacientes negros têm menos probabilidade de precisar de cuidados adicionais, declarando-os mais saudáveis do que os pacientes brancos. Esse preconceito racial privou mais da metade dos pacientes negros dos cuidados necessários.

Vamos considerar outra aplicação de alto impacto da IA: justiça preditiva. Aqui, os modelos de IA foram usados para avaliar o risco de um réu cometer crimes futuros. No entanto, esses modelos suscitaram preocupações quanto à parcialidade, com alguns casos prevendo uma probabilidade maior de reincidência para réus negros em comparação com réus brancos.

Esses são apenas alguns exemplos em que os grupos sub-representados são injustamente prejudicados devido a modelos tendenciosos.

Princípios éticos da IA

À medida que a ética da IA evolui, muitas diretrizes, ferramentas, práticas recomendadas e padrões do setor estão disponíveis para facilitar o desenvolvimento responsável. Alguns dos princípios fundamentais comuns entre essas estruturas incluem o foco na promoção de maior transparência e justiça.

A transparência não inclui apenas a explicação de como o modelo chegou a um determinado resultado, mas também exige a divulgação para o usuário final da fonte da resposta. É imprescindível que você indique uma resposta gerada por IA para que os usuários possam compreender sua natureza e tomar decisões informadas de acordo.

Igualmente importante é promover a equidade, garantindo que nenhuma seção, grupo, comunidade, idade, gênero ou grupo demográfico específico de nossa sociedade seja injustamente prejudicado.

O futuro da ética da IA

É empiricamente evidente que a taxa de desenvolvimento de tecnologia avançada tem sido mais rápida do que a taxa de regulamentação. Os governos e os órgãos reguladores estão desenvolvendo e implementando estruturas regulatórias, como a Lei de IA, para reger o uso responsável das tecnologias de IA. Essas estruturas priorizam a transparência, a responsabilidade, a justiça e a segurança nos sistemas de IA e, ao mesmo tempo, protegem a privacidade, a segurança e os direitos humanos.

No entanto, todos têm um papel a desempenhar, sejam eles consumidores ou produtores de sistemas de IA. Devemos nos manter atualizados com os últimos desenvolvimentos no cenário da IA e aprimorar continuamente nossas medidas de defesa para mitigar os danos e riscos que inevitavelmente acompanham os benefícios da IA. Ao incorporar proativamente a ética da IA no processo de design, você pode se preparar melhor para enfrentar os desafios éticos do futuro.

Conclusão

O poder transformador da IA é inegável, mas as considerações éticas devem acompanhar esse ritmo. Os vieses nos dados de treinamento podem levar a resultados discriminatórios, enquanto a falta de transparência pode minar a confiança.

A ética da IA aborda essas questões estabelecendo princípios para o desenvolvimento responsável, promovendo a justiça, a responsabilidade, a transparência e a privacidade.

Os cientistas de dados que entendem e aplicam esses princípios podem garantir que a IA beneficie a todos.

Se você quiser saber mais sobre a ética da IA, não deixe de conferir estes recursos:

• Curso de Estratégia de Inteligência Artificial (IA)
• Criando uma IA confiável com Beena Ammanath, diretora global do Deloitte AI Institute
• Entendendo a ética da IA geradora: Riscos, preocupações e práticas recomendadas