Ética na IA generativa

Até alguns anos atrás, você imaginaria uma máquina capaz de criar arte, escrever histórias ou até entender dados complexos como documentos médicos e jurídicos?

Provavelmente não. Para a maioria de nós, isso ficava no campo da ficção científica, algo distante da realidade.

Mas a chegada da era da IA generativa redefiniu nossa noção do que as máquinas podem fazer.

O que é IA generativa?

IA generativa é um ramo avançado da IA que permite às máquinas criar conteúdo novo a partir de conteúdo existente, em formatos como texto, áudio, vídeo e até código.

A Gartner a classifica como “uma das tecnologias mais impactantes e que mais evoluem, com potencial para impulsionar uma revolução de produtividade”.

Ela já é uma realidade em rápida expansão, dando origem a aplicações inovadoras que estão transformando setores: acelerando e ampliando a criatividade em mídia e marketing no varejo, oferecendo tratamentos de saúde mais personalizados e promovendo aprendizagem e educação adaptativas.

Preocupações éticas da IA generativa

A velocidade com que essas aplicações chegam ao mercado é impressionante.

Mas quando Sam Altman, CEO da OpenAI, nos alerta sobre os perigos dos modelos de linguagem, o risco é real. Por isso, é essencial equilibrar benefícios com cautela e usar essa tecnologia potente de forma responsável.

Fonte da imagem: Business Insider

Vamos entender algumas das principais preocupações éticas no uso de IA generativa.

Distribuição de conteúdo nocivo

Embora a capacidade dos sistemas de IA generativa de produzir conteúdo com qualidade humana possa aumentar a produtividade, ela também pode gerar conteúdo nocivo ou ofensivo. A ameaça mais preocupante vem de ferramentas como deepfakes, que criam imagens, vídeos, textos ou áudios falsos, muitas vezes com viés ideológico ou incitando discurso de ódio.

Recentemente, um golpista clonou a voz de uma jovem para exigir resgate da mãe simulando um sequestro. Essas ferramentas ficaram tão sofisticadas que se torna difícil distinguir vozes falsas das reais.

Além disso, o conteúdo gerado automaticamente pode perpetuar ou amplificar vieses aprendidos nos dados de treinamento, resultando em linguagem tendenciosa, explícita ou violenta. Esse tipo de conteúdo exige intervenção humana para alinhá-lo à ética do negócio da organização que utiliza a tecnologia​​.

Direitos autorais e exposição legal

Como a maioria dos modelos de IA, os modelos generativos são treinados com grandes volumes de dados. Por natureza, isso pode infringir direitos autorais e de propriedade intelectual de terceiros. O uso de modelos pré-treinados pode expor empresas a riscos legais, reputacionais e financeiros, além de impactar negativamente criadores e detentores de direitos.

Violações de privacidade de dados

Os dados de treinamento podem conter informações sensíveis, incluindo dados pessoalmente identificáveis (PII). PII, conforme definido pelo Departamento do Trabalho dos EUA, são dados “que identificam diretamente uma pessoa, como nome, endereço, número de seguridade social ou outro número ou código identificador, telefone e e-mail.”

A violação da privacidade pode levar a roubo de identidade e ser usada para discriminação ou manipulação.

Por isso, é fundamental que tanto os desenvolvedores de modelos pré-treinados quanto as empresas que fazem fine-tuning para tarefas específicas sigam diretrizes de privacidade e garantam a remoção de PII no treinamento.

Temos um webinar que explica as regulamentações de privacidade de dados, em especial o GDPR, para orientar o uso ético de dados.

Divulgação de informações sensíveis

Reforçando a importância do uso diligente de dados, é preciso considerar os riscos de divulgação acidental de informações sensíveis, preocupação ampliada pela rápida democratização de recursos de IA​​. A curiosidade e a conveniência de ferramentas como o ChatGPT podem levar usuários a negligenciar a segurança dos dados ao explorar novas plataformas.

Os riscos aumentam significativamente se um colaborador enviar detalhes sensíveis como um contrato jurídico, código-fonte de um software ou informações proprietárias, entre outras.

As consequências podem ser severas — financeiras, reputacionais ou legais — para as organizações. Por isso, torna-se essencial ter uma política clara de segurança da informação.

Amplificação de vieses existentes

Modelos de IA são tão bons (ou ruins) quanto os dados em que são treinados. Se os dados refletem vieses da sociedade, é esperado que o modelo os reproduza — ou assim pensávamos. Um estudo recente publicado pela Bloomberg mostra que esses modelos podem ser ainda mais enviesados do que os dados reais que os alimentam.

O estudo expõe uma realidade dura ao afirmar que “o mundo segundo o Stable Diffusion é comandado por CEOs homens brancos. Mulheres raramente são médicas, advogadas ou juízas. Homens de pele escura cometem crimes, enquanto mulheres de pele escura trabalham em fast-food.”

Para construir um mundo mais justo, é preciso que os dados reflitam diversidade, com equipes e perspectivas diversas ao longo de todo o ciclo de desenvolvimento do modelo.

Papéis de trabalho e moral da equipe

De um lado, a IA generativa é vista como a próxima onda de produtividade; de outro, surge o temor de perda de empregos, já que menos pessoas seriam necessárias para realizar o mesmo volume de trabalho.

O mais recente relatório da McKinsey ecoa a preocupação com a substituição de competências atuais: “As tecnologias atuais, incluindo a IA generativa, podem automatizar atividades que hoje consomem de 60% a 70% do tempo dos colaboradores.”

Embora isso não deva frear a transformação trazida pela IA generativa, é indispensável adotar medidas de capacitação e requalificação para os novos papéis que surgem com a evolução da IA avançada.

Proveniência de dados

Grande parte das preocupações no uso de ferramentas de IA está ligada aos dados, incluindo a privacidade do usuário e a geração de dados sintéticos multimodais como textos, imagens, vídeos ou áudios.

Esses sistemas exigem manter garantia e integridade dos dados para evitar o uso de dados enviesados ou de origem duvidosa​.

Falta de transparência

Sistemas de IA têm natureza de “caixa-preta”, o que dificulta entender como chegaram a determinada resposta ou quais fatores influenciaram suas decisões.

As capacidades emergentes de modelos grandes ampliam essa lacuna, já que até os desenvolvedores se surpreendem com funcionalidades, destacando que “pesquisadores correm para identificar novas capacidades emergentes e entender por que e como elas surgem, na tentativa de prever o imprevisível.”

Exemplos de desinformação gerada por IA

Recentemente, um estudo avaliou se participantes conseguem reconhecer conteúdo gerado por IA em comparação com textos escritos por humanos. Sem surpresa, os resultados mostram que as pessoas têm dificuldade em distinguir conteúdos criados por modelos de linguagem, evidenciando a capacidade desses modelos de espalhar desinformação em escala.

Um exemplo inédito veio à tona na justiça dos EUA, quando um advogado citou um caso inexistente, confiando em uma resposta gerada pelo ChatGPT.

A ONU também manifestou preocupação com conteúdos enganosos gerados por IA, que podem levar a conflitos e crimes.

Boas práticas éticas para IA generativa

Os avanços tecnológicos trazidos pelos modelos de IA generativa têm enorme potencial de beneficiar a sociedade quando usados de forma controlada e regulada. Isso exige a adoção de boas práticas éticas para reduzir os possíveis danos que acompanham seus benefícios.

Mantenha-se informado e aja

Aprofunde-se no cenário atual e futuro da ética de dados. Entenda as diretrizes para aplicá-la, seja você um contribuidor individual ou líder de uma organização.

Você pode ler mais sobre o cenário atual e futuro da ética de dados e as diretrizes para aplicação em um artigo à parte.

Esteja alinhado a padrões globais

Vale a pena conhecer as diretrizes de ética em IA da UNESCO, adotadas pelos 193 Estados-Membros em novembro de 2021.

As diretrizes enfatizam quatro valores centrais:

• Direitos humanos e dignidade
• Sociedades pacíficas e justas
• Diversidade e inclusão
• Preservação do meio ambiente

Elas também definem dez princípios, incluindo proporcionalidade, segurança, privacidade, governança multissetorial, responsabilidade, transparência, supervisão humana, sustentabilidade, conscientização e equidade.

As diretrizes ainda trazem áreas de ação em políticas públicas para governança de dados, meio ambiente, gênero, educação, pesquisa, saúde e bem-estar social.

Participe de comunidades de IA ética

Há diversos grupos, como o AI Ethics Lab e o Montreal AI Ethics Institute, dedicados ao letramento ético. Os princípios comuns incluem transparência, responsabilização, privacidade de dados e robustez, com foco nos provedores de tecnologia.

Manter-se informado sobre os avanços nessas áreas e participar do debate em torno da ética em IA é essencial para garantir que a IA generativa permaneça segura para todos os usuários.

Cultive consciência e aprenda

Cabe a nós, como usuários, abandonar a ideia de que tudo que está no mundo digital é confiável à primeira vista.

Em vez disso, muitos problemas se resolvem quando passamos a questionar e desconfiar das informações disponíveis, checando fatos e verificando sua autenticidade e origem antes de colocá-las em prática.

A conscientização é a chave para acertar no uso da IA generativa — e é esse o objetivo deste post.

Considerações finais

A IA generativa tem enorme potencial para revolucionar setores como saúde e educação, criando novos conteúdos e aumentando a produtividade.

No entanto, essa tecnologia poderosa também traz preocupações éticas importantes, como a distribuição de conteúdo nocivo, violações de direitos autorais, quebras de privacidade e amplificação de vieses já existentes.

À medida que continuamos a explorar as capacidades da IA generativa, é crucial adotar boas práticas éticas.

Você pode começar sua jornada hoje com nosso curso de Generative AI Concepts e explorar projetos de IA generativa para começar agora.