Prepare sua equipe para a Lei de IA da UE
Garanta a conformidade e promova a inovação equipando sua equipe com as habilidades de alfabetização em IA necessárias. Comece hoje mesmo a criar seu programa de treinamento em IA com o DataCamp for Business.
A IA finge ser uma pessoa. A IA finge ter um relacionamento com você. Não tem. E isso é confiança social. Do mesmo jeito que você confia no seu celular, no seu buscador, no seu provedor de e-mail. É uma ferramenta e, como todas essas coisas, é uma ferramenta bem pouco confiável. Certo? Seu celular, seu provedor de e-mail, sua rede social. Todos espionam você, não é? Todos operam contra seus melhores interesses. Meu receio é que com a IA será igual, que a IA é fundamentalmente controlada por grandes corporações com fins lucrativos.
Bruce Schneier, Security Technologist
Principais disposições do EU AI Act
Os principais componentes do EU AI Act são:
1. Classificação baseada em risco
Os sistemas de IA geralmente se enquadram em quatro categorias principais de risco sob o EU AI Act:
- Risco inaceitável
- Alto risco
- Risco limitado
- Risco mínimo/nenhum risco.
De acordo com o relatório da Comissão Europeia sobre o AI Act, cada uma é classificada segundo dois fatores principais:
- Sensibilidade dos dados envolvidos
- O caso de uso ou aplicação específica de IA
Os requisitos variam para cada categoria de risco, com a maior parte do texto tratando dos sistemas de IA de alto risco.
2. Requisitos para sistemas de IA de alto risco
Para a categoria de alto risco, o EU AI Act impõe requisitos que as organizações devem cumprir para que esses sistemas possam ser disponibilizados no mercado da UE.
Incluem:
- Ter um sistema de gestão de riscos ao longo de todo o ciclo de vida do sistema.
- Construir programas de governança de dados para garantir que os conjuntos de dados de treinamento, validação e teste sejam relevantes e suficientemente representativos. A condução deve ser feita, na melhor medida possível, de forma livre de erros e completa segundo o propósito pretendido.
- Registrar documentação técnica para demonstrar conformidade às autoridades durante as avaliações.
- Projetar o sistema para registrar automaticamente eventos relevantes para identificar riscos em nível nacional e modificações substanciais para fins de registro. Isso deve ocorrer ao longo de todo o ciclo de vida do sistema.
- Fornecer instruções de uso a implementadores a jusante para permitir a conformidade.
- Projetar para permitir que os implementadores apliquem supervisão humana.
- Projetar para alcançar níveis apropriados de acurácia, robustez e cibersegurança.
- Estabelecer um sistema de gestão da qualidade para conformidade.
Esses pontos estão especificados em Conformidade com os Requisitos (Art. 8–17).
Requisitos para sistemas de IA de alto risco - criado com Napkin.ai
Além disso, o Ato determina que as organizações garantam que seus colaboradores e demais envolvidos no desenvolvimento ou uso de sistemas de IA tenham letramento em IA em nível suficiente. Isso inclui entender a tecnologia, suas aplicações e potenciais riscos.
As empresas são responsáveis por oferecer treinamentos adequados para assegurar que os sistemas de IA sejam operados de forma responsável e ética, de acordo com seus contextos de uso. Mais adiante, veremos como o DataCamp for Business pode ajudar sua organização a elevar seus níveis de letramento em IA.
Melhore as habilidades de IA da sua equipe
Transforme seus negócios capacitando sua equipe com habilidades avançadas de IA por meio do DataCamp for Business. Obtenha melhores insights e eficiência.
3. Práticas de IA proibidas
O EU AI Act proíbe explicitamente certas práticas consideradas inaceitáveis e que trazem riscos extremos para indivíduos ou para a sociedade. Incluem:
- Sistemas de IA que exploram vulnerabilidades de grupos específicos (por exemplo, crianças, pessoas com deficiência)
- Pontuação social com base na análise de comportamento por IA
- Uso de técnicas subliminares para manipular comportamentos
Essas práticas constam em Práticas Proibidas (Art. 5).
Categorias de risco no EU AI Act
O EU AI Act categoriza sistemas de IA em quatro níveis de risco — risco inaceitável, alto risco, risco limitado e risco mínimo ou inexistente. Cada categoria possui requisitos e medidas regulatórias distintas. Em geral, quanto maior o risco, maiores as obrigações.
Fonte: curso Introduction to EU AI Act, DataCamp
1. Risco inaceitável
Sistemas de IA considerados uma ameaça inaceitável à segurança ou aos direitos das pessoas são proibidos. Exemplos incluem aplicações de IA que manipulam o comportamento humano, exploram vulnerabilidades ou habilitam pontuação social por governos.
Segundo o Artigo 5, Práticas de IA proibidas, esses sistemas não podem ser colocados no mercado ou usados na União Europeia.
Resumo das práticas de IA proibidas:
- Implantar sistemas de IA que manipulem comportamento, decisões ou opiniões por técnicas subliminares
- Usar sistemas de IA para explorar vulnerabilidades de grupos específicos (por exemplo, crianças, idosos com deficiência)
- Implantar pontuação social baseada na análise de comportamento por IA
- Modelos de IA que envolvam a classificação de pessoas naturais ou grupos de pessoas
- Prever o risco de uma pessoa natural cometer um delito criminal
- Usar raspagem não direcionada de imagens faciais da internet ou de CFTV para reconhecimento facial
- Usar IA para inferir emoções de uma pessoa natural em ambientes de trabalho e instituições de ensino
- Categorizar individualmente pessoas naturais com base em dados biométricos
- Usar sistemas de identificação biométrica remota em "tempo real" fora de fins de aplicação da lei
2. Alto risco
Um sistema de IA de alto risco, conforme o Artigo 6: regras de classificação para sistemas de IA de alto risco, é aquele destinado a ser usado como componente de segurança de um produto e que precisa passar por avaliação de conformidade de terceira parte.
Além disso, qualquer sistema de IA, conforme indicado no Anexo III, pertencente aos seguintes casos de uso também será considerado de alto risco:
- Biometria
- Infraestrutura crítica
- Educação
- Emprego
- Serviços essenciais
- Aplicação da lei
- Migração
- Justiça
3. Risco limitado
Sistemas de IA classificados como "risco limitado" apresentam alguns riscos potenciais para indivíduos ou para a sociedade, mas não são considerados de alto risco ou inaceitáveis. Não exigem a mesma supervisão regulatória rigorosa aplicada aos sistemas de alto risco, porém devem cumprir obrigações específicas de transparência.
Para sistemas de risco limitado, o Ato normalmente exige que os provedores assegurem que os usuários saibam que estão interagindo com um sistema de IA. Isso significa, por exemplo, que chatbots ou outras interfaces movidas por IA devem deixar claro que o usuário está interagindo com IA e não com uma pessoa. Essa transparência evita confusão e informa o usuário sobre a natureza da tecnologia.
Embora sujeitos a obrigações de transparência, sistemas de risco limitado não precisam cumprir requisitos de conformidade mais rigorosos dos sistemas de alto risco, como documentação extensa, processos de gestão de risco ou avaliações obrigatórias. Essa categoria busca equilibrar a conscientização do usuário com o estímulo à inovação, sem sobrecarregar desenvolvedores e provedores.
Sistemas que usam IA de uso geral (GPAI), como GPT-4, Midjourney e os modelos LLaMA da Meta, também são regulados nesta categoria.
Fonte: curso Introduction to EU AI Act, DataCamp
Um modelo GPAI é um modelo de IA treinado com grande volume de dados por auto-supervisão em escala, que apresenta alta generalidade e consegue executar uma ampla gama de tarefas distintas, integrando-se a diversos sistemas e aplicações a jusante.
Independentemente dos casos de uso desses modelos, aplicam-se as regras do EU AI Act.
Estes são os requisitos:
- Documentação técnica deve ser registrada.
- Informações e documentação devem ser fornecidas a provedores a jusante.
- Uma política para respeitar a Diretiva de Direitos Autorais deve ser elaborada.
- Um resumo detalhado do conteúdo usado para treinar o modelo GPAI deve ser redigido.
Mais informações estão no Artigo 53: obrigações para provedores de modelos de IA de uso geral.
Se o GPAI for considerado um modelo de IA de uso geral com risco sistêmico, aplica-se outro conjunto de obrigações conforme o Artigo 55: obrigações para provedores de modelos de IA de uso geral com risco sistêmico.
4. Risco mínimo
A categoria de risco mínimo é uma categoria não regulamentada.
Alguns exemplos de tais sistemas de IA incluem:
- Jogos de vídeo com IA
- Filtros de spam
Não há regulamentação atual para sistemas de IA nessa categoria no EU AI Act.
Impacto geral no mercado de IA
Espera-se que o EU AI Act tenha implicações de grande alcance para pessoas e organizações. O Ato também poderá ser impactado por regras futuras da UE e orientações emitidas por reguladores europeus.
Veja alguns possíveis impactos decorrentes da implementação do EU AI Act:
Para o ChatGPT/IA generativa
Para modelos de linguagem de grande porte com amplo alcance sobre conteúdo da internet e comportamento do usuário, como o ChatGPT da OpenAI, o Gemini do Google, o Llama 3.1 da Meta e o Claude AI, podem ser exigidas medidas de conformidade mais rígidas para garantir uso ético. Isso pode resultar em mais supervisão e limites sobre como esses modelos são utilizados, o que pode afetar sua popularidade e lucratividade.
Além disso, a OpenAI pode ter que ajustar o modelo ChatGPT para garantir que não haja práticas proibidas listadas no Artigo 5 do EU AI Act, caso se enquadre em algum dos usos banidos.
Para empresas
A nova lei também trará mudanças para negócios além desses modelos de LLM.
Empresas que desenvolvem ou usam sistemas de IA de alto risco terão que cumprir requisitos rigorosos e passar por testes, o que pode elevar custos de conformidade. Será necessário investir mais em expertise jurídica e técnica. Consequentemente, startups podem hesitar em adotar modelos de IA com aplicações de maior risco devido aos custos de conformidade na comercialização de IA.
Esse alto custo de escalar um modelo de IA pode levar à concentração do mercado em empresas de “big tech”, monopolizando o setor.
Outro impacto é a proteção de segredos comerciais nas empresas cujo principal produto envolve modelos de IA. A nova lei exige transparência sobre os dados usados no treinamento dos modelos, essenciais para as operações.
Além disso, regras rígidas podem inibir a inovação e a entrada de novas tecnologias no mercado europeu. Por exemplo, a Meta reteve seu mais recente modelo multimodal de IA da União Europeia, indicando possível resistência à inovação.
Apesar dos desafios, o Ato também abre oportunidades de inovação. Os novos padrões, claros, nivelam o campo de jogo para que empresas desenvolvam tecnologias de IA que atendam a critérios de ética e segurança.
Organizações que priorizam conformidade e práticas éticas em IA podem ganhar vantagem competitiva, construir confiança com consumidores e se posicionar como líderes em IA responsável. Essa diferenciação atrai consumidores e investidores conscientes, fortalecendo a reputação da marca e a participação de mercado.
Com essas mudanças, a necessidade de letramento em IA se torna ainda maior, como veremos adiante.
Para consumidores
Para consumidores, o Ato traz benefícios principalmente em:
- Mais transparência e explicabilidade dos sistemas de IA
- Maior confiança em produtos de IA aprovados
- Proteção confiável contra práticas discriminatórias de IA
- Canal para registrar preocupações e reclamações
No futuro, consumidores poderão exigir conformidade com o EU AI Act de empresas que desenvolvem ou usam sistemas de IA de alto risco. Isso ajudará a proteger sua privacidade de dados e garantir que suas informações pessoais não sejam usadas de forma antiética.
Para os estados-membros da UE
Os estados-membros precisarão adaptar seus marcos regulatórios nacionais ao novo EU AI Act. A Comissão Europeia também pode emitir diretrizes e orientações mais específicas a serem seguidas.
No entanto, como destacou uma reportagem recente da Reuters,
"A adoção acelerada de IA no último ano ajudou a colocar a Europa no caminho para atingir suas metas da Década Digital." — Tanuja Randery, Managing Director na AWS
Para países ao redor do mundo
O EU AI Act tende a influenciar a regulação de IA como padrão global. Sendo um dos primeiros marcos regulatórios abrangentes, estabelece um precedente que outras regiões podem seguir. Empresas que atuam internacionalmente devem acompanhar essas evoluções para se manter competitivas.
Quando o EU AI Act entra em vigor? Linha do tempo de implementação
Veja uma linha do tempo preliminar para a implementação do EU AI Act:
- 1º de agosto de 2024: data de entrada em vigor do AI Act
- 2 de fevereiro de 2025: começam a valer as proibições sobre certos sistemas de IA (Capítulo 1 e Capítulo 2). É quando os requisitos de letramento em IA começam a valer.
- 2 de agosto de 2025: passam a valer as regras sobre: Organismos notificados (Capítulo III, Seção 4), modelos GPAI (Capítulo V), Governança (Capítulo VII), Confidencialidade (Artigo 78), Penalidades (Artigos 99 e 100)
- 2 de agosto de 2026: o restante do AI Act passa a valer, exceto o Artigo 6(1).
- 2 de agosto de 2027: o Artigo 6(1) e as obrigações correspondentes no Regulamento passam a valer.
Em resumo, a lei só estará plenamente implementada em 2027, dando tempo para empresas e estados-membros se adaptarem e entrarem em conformidade.
Para a linha do tempo completa, acesse a página de implementação do EU AI Act.
EU AI Act: requisitos de letramento em IA
Além de regular como os modelos de IA são desenvolvidos, o EU AI Act também enfatiza o treinamento de equipes em letramento em IA.
De acordo com o Capítulo I: Disposições gerais, Artigo 4: letramento em IA:
"Provedores e implementadores de sistemas de IA devem tomar medidas para assegurar, na melhor medida possível, um nível suficiente de letramento em IA de seus colaboradores e de outras pessoas que lidem com a operação e o uso de sistemas de IA em seu nome, levando em conta seu conhecimento técnico, experiência, educação e treinamento, bem como o contexto de uso dos sistemas de IA, e considerando as pessoas ou grupos de pessoas sobre as quais os sistemas de IA serão utilizados."
Em outras palavras, as empresas devem garantir que seus colaboradores e quaisquer pessoas envolvidas no desenvolvimento ou uso de sistemas de IA recebam treinamento adequado para compreender a tecnologia, suas aplicações e possíveis riscos.
Essa visão está alinhada ao que vimos no State of Data & AI Literacy Report 2024 do DataCamp. 62% dos líderes que entrevistamos acreditam que o letramento em IA é importante para as tarefas do dia a dia de seus times. Da mesma forma, 70% apontaram a compreensão básica de conceitos de IA como a mais importante para a equipe, destacando a necessidade de entender os princípios que fundamentam essas tecnologias.
Apesar disso, o treinamento em dados e IA ainda é incipiente nas organizações. 26% dos líderes relatam não oferecer nenhum tipo de treinamento em IA. Outros 26% indicam que o treinamento é reservado apenas a funções técnicas, enquanto só 18% o estendem a equipes não técnicas.
De forma preocupante, apenas 25% dos líderes pertencem a organizações com programas abrangentes de letramento em IA em toda a empresa.
Com o DataCamp For Business você pode começar a construir um programa de letramento em IA que cubra as habilidades necessárias em dados e IA para garantir conformidade com o EU AI Act, treinando desde um time de 2 até 10.000+ pessoas. Além de ensinar como trabalhar e construir ferramentas de IA, você pode criar um programa abrangente que cobre ética em IA, gestão de risco e implantação de modelos, começando pela nossa trilha de aprendizado EU AI Act Fundamentals.
Prepare sua equipe para a Lei de IA da UE
Garanta a conformidade e promova a inovação equipando sua equipe com as habilidades de alfabetização em IA necessárias. Comece hoje mesmo a criar seu programa de treinamento em IA com o DataCamp for Business.
