O lançamento do ChatGPT no fim de 2022 marcou um marco sem precedentes no desenvolvimento da IA. Desenvolvido pela Microsoft e pela OpenAI, o ChatGPT é um chatbot de nova geração que consegue criar diferentes tipos de textos com qualidade humana em questão de segundos. Embora seja o mais popular, o ChatGPT é apenas uma das muitas ferramentas de IA generativa, um subcampo da IA focado na criação de conteúdo, como texto, imagens, vídeo e áudio.
Ferramentas de IA generativa como o ChatGPT devem transformar praticamente todos os setores e indústrias. No entanto, essa revolução em IA traz não só benefícios, mas também riscos sociais, econômicos e ambientais que precisam ser avaliados com cuidado.
Empresas e governos estão pensando em formas de regular a IA. Por exemplo, para ganhar tempo para definir padrões de segurança e mitigar possíveis perigos, líderes de tecnologia pediram recentemente uma pausa de seis meses no desenvolvimento de ferramentas poderosas de IA como o ChatGPT. Do lado público, governos ao redor do mundo estão propondo medidas e regulações de IA para garantir que essas ferramentas cheguem à sociedade de maneira segura, transparente e responsável.
Neste artigo, vamos avaliar a importância de ter padrões legais para regular a IA, qual será o impacto das propostas de legislação sobre ferramentas populares como o ChatGPT e como a existência de regulações vai moldar o futuro do desenvolvimento de IA.
Por que as regulações de IA são importantes?
Tecnologias de ponta como a IA têm potencial para transformar profundamente a nossa forma de viver. A revolução da IA ainda está no início, e é cedo para saber como será a sociedade de amanhã. Mas, para garantir que a IA gere apenas resultados positivos, a sociedade precisa das ferramentas certas para controlar e orientar seu desenvolvimento. É aqui que a regulação de IA ganha importância.
A seguir, alguns motivos fortes para regular a IA:
- A IA pode afetar significativamente direitos fundamentais. Governos e empresas usam IA para tomar decisões que podem impactar profundamente a nossa vida, com implicações sérias para direitos fundamentais, como o direito à vida, à honra, à privacidade e à proteção de dados.
- A IA pode amplificar a discriminação. Quando ferramentas de IA apresentam vieses, elas frequentemente resultam em decisões que discriminam grupos minorizados.
- A IA pode aumentar a desinformação e a instabilidade social. A IA tem sido usada para criar fake news e espalhar boatos, gerando tensões sociais e polarização.
- A IA precisa ser responsabilizada. Os agentes envolvidos no desenvolvimento e no uso de IA devem responder pelo uso adequado dessas tecnologias. É preciso um conjunto de regras e padrões para garantir segurança e confiança em IA.
- A IA precisa ser transparente. A opacidade algorítmica é uma das principais preocupações associadas à IA. A regulação pode prever medidas de transparência necessárias para auditá-la e entender melhor os custos e impactos de ferramentas como o ChatGPT.
O estado atual da regulação de IA
Após o lançamento do ChatGPT e de outras poderosas ferramentas de IA generativa, governos começaram a agir para regular a IA.
Veja alguns dos desenvolvimentos mais recentes na regulação de IA pelo mundo:
- Estados Unidos. O governo anunciou recentemente uma consulta técnica para avaliar se medidas regulatórias devem ser aplicadas a ferramentas como o ChatGPT. Resta ver como essa possível regulação se relaciona com o chamado Algorithmic Accountability Act, proposto em 2022 e ainda em rascunho. Enquanto isso, os EUA já avançaram parcialmente com a AI Bill of Rights e a Initiative on AI and Algorithmic Fairness.
- União Europeia. Proposta em 2021 e atualmente em negociação, a EU AI Act é a primeira tentativa de um grande bloco de regular a IA. Ela propõe uma abordagem baseada em risco, em que certas IAs são proibidas, enquanto IAs consideradas de alto risco precisarão cumprir requisitos para chegar ao mercado. Com o recente boom da IA generativa, são esperadas novas revisões no texto.
- Canadá. O país debate sua própria lei de IA, chamada Artificial Intelligence and Data Act, que segue abordagem semelhante, baseada em risco, à europeia. Novas revisões devem tratar o impacto da IA generativa.
- China. Em movimento recente, a China propôs regras para controlar ferramentas de IA similares ao ChatGPT desenvolvidas no país. As regras tornarão as empresas responsáveis pelo conteúdo gerado e exigirão conformidade com determinados padrões antes do lançamento.
Implicações das regulações de IA para o ChatGPT
Apesar dos bons motivos para regular a IA e das iniciativas recentes, regular tecnologias de ponta é um grande desafio: governos precisam encontrar meios de proteger a sociedade de riscos e armadilhas inesperados, sem sufocar a inovação e o acesso aos benefícios que essas tecnologias oferecem. Por isso, por enquanto, a IA segue pouco regulada.
Como ainda não há legislação específica em vigor, grandes tentativas de regulação têm ocorrido por meio de leis existentes, como as de proteção de dados. Por exemplo, a Itália chegou a proibir temporariamente o ChatGPT por possíveis violações ao Regulamento Europeu de Proteção de Dados. Outros países europeus, como França, Espanha e Alemanha, aguardam para tomar medidas semelhantes até que o tema seja discutido em nível europeu.
As próximas regulações de IA provavelmente vão abordar preocupações que surgiram após o lançamento do ChatGPT, como:
- Tratamento de informações confidenciais. O ChatGPT usa dados fornecidos pelos usuários, inclusive dados sensíveis, para treinar seus modelos. Especialistas em privacidade alertam que essa política pode levar a vazamentos de dados pessoais ou informações confidenciais. Por exemplo, funcionários da Samsung descobriram recentemente que vazaram código sigiloso para o ChatGPT sem perceber. Novas regras de IA podem garantir que o tratamento de dados sensíveis não viole leis de proteção de dados.
- Conteúdo sem moderação. Embora o ChatGPT tenha alguns filtros, eles podem ser contornados com certos prompts. Além disso, há preocupações de que usuários vulneráveis, como crianças, possam ser expostos a linguagem inadequada e temas adultos. A regulação pode definir salvaguardas claras para esses casos.
- Fontes das respostas do ChatGPT. Atualmente, o ChatGPT não indica as fontes usadas para gerar suas respostas. Isso pode dificultar a verificação da veracidade e precisão das informações, aumentando o risco de desinformação.
- Plágio e direitos autorais. Há diversas questões legais sobre a atribuição dos dados usados para treinar o ChatGPT e a titularidade do conteúdo que ele gera. Não há precedentes claros em direitos autorais e propriedade intelectual. Futuras regulações de IA devem esclarecer esses pontos.
- Onde usar o ChatGPT. As possibilidades do ChatGPT são vastas, mas seu uso em certos cenários pode levar a resultados negativos. Por exemplo, há um debate intenso sobre as implicações do ChatGPT na educação. E se alunos usarem para responder provas ou redigir trabalhos? Professores devem usar o ChatGPT em sala? Essas questões seguem em aberto, mas é provável que leis futuras de IA tratem parte delas.
Conclusão
As empresas de tecnologia por trás de ferramentas como o ChatGPT pegaram o mundo de surpresa. Elas lideram a revolução da IA, mas cabe aos governos direcioná-la e garantir que gere resultados positivos. Legisladores ao redor do mundo começam a agir com propostas ambiciosas de regulação. Vale acompanhar de perto esses avanços legais, pois a forma como encaramos a IA hoje vai definir o mundo em que viveremos amanhã.
Enquanto isso, recomendamos que você acompanhe o ChatGPT e a mágica por trás dele com estes materiais da DataCamp:
- Comece com o nosso curso Introduction to ChatGPT.
- Baixe este prático cheat sheet de prompts do ChatGPT para data science.
- Ouça este episódio do podcast sobre How ChatGPT and GPT-3 Are Augmenting Workflows para entender como o ChatGPT pode beneficiar o seu negócio.
- Leia nosso artigo Bard vs ChatGPT for Data Science
- Tutorial sobre a Whisper API
- Comece a aprender IA com a DataCamp
