A inteligência artificial está rapidamente revolucionando cada setor, da saúde às finanças, passando pelo marketing e pela administração pública. Mas quem vigia esses sistemas? Como podemos garantir que a AI não viole os direitos fundamentais?
É a partir destas perguntas que nasce o EU AI Act, a primeira legislação no mundo que regula o desenvolvimento, a distribuição e o uso da inteligência artificial segundo um princípio chave: o risco.
Sumário
O que prevê o EU AI Act?
Aprovado em 2024, o Regulamento Europeu sobre Inteligência Artificial introduz uma abordagem baseada no risco. Os sistemas de IA são classificados em quatro categorias principais:
🔹 IA de risco mínimo
🔹 IA de alto risco
🔹 IA proibida
🔹 Modelos para fins gerais (GPAI)
Práticas proibidas: a IA que não terá futuro
Alguns usos da inteligência artificial são considerados eticamente inaceitáveis ou perigosos e serão proibidos a partir de 2 de fevereiro de 2025.
Exemplos de AI proibida:
- Pontuação social (estilo “Black Mirror”): avaliar as pessoas com base no seu comportamento, com consequências na vida real.
- Manipulação psicológica: sistemas que levam os usuários a tomar decisões prejudiciais ou inconscientes.
- Raspagem de rostos da Internet para bancos de dados biométricos.
- Reconhecimento das emoções em escolas e locais de trabalho (exceto por motivos de saúde ou segurança).
- Vigilância biométrica em tempo real por parte das forças da lei, exceto em casos excepcionais autorizados.
IA de alto risco: regras e requisitos
Os sistemas de alto risco são aqueles que impactam diretamente os direitos, a segurança ou o acesso aos serviços essenciais. Deverão respeitar requisitos rigorosos.
Exemplos concretos:
- IA usada para assumere candidati o valutare performance.
- Sistemas que determinam a idoneidade ao crédito ou aos benefícios sociais.
- Algoritmos em dispositivos médicos ou infraestruturas críticas (energia, transportes).
- Ferramentas de IA que influenciam o sistema judiciário ou eleições democráticas.
Os fornecedores deverão:
- Adotar sistemas de gestão de risco contínuo
- Garantir alta qualidade dos dados de training e test
- Documentar cada fase com transparência técnica
- Implementar planos de monitoramento pós-comercialização
Os utilizadores deverão:
- Utilizar os sistemas seguindo as instruções específicas
- Conservar os log do sistema AI
- Avaliar os impactos sobre os direitos fundamentais em contextos públicos ou sensíveis
As regras entrarão em vigor a partir de 2 agosto 2026.
Regras para os modelos de IA genéricos (GPAI)
O regulamento também introduz uma disciplina específica para os foundation models como Granite di IBM ou LLaMA 3 di Meta, que podem ser utilizados em várias aplicações diferentes.
Obrigações dos fornecedores GPAI:
- Respeito do copyright UE
- Resumo público dos dataset de training
- Marcação automática dos conteúdos gerados (deepfake, textos, imagens)
Se um modelo ultrapassar o limite de 10²⁵ FLOP durante a fase de treinamento, é considerado um risco sistêmico e deverá:
- Relatar incidentes graves
- Adotar medidas avançadas de cybersecurity
As regras aplicam-se aos novos modelos a partir de 2 agosto 2025, com um período de adaptação até 2027 para os já existentes.
A quem se aplica o EU AI Act?
O regulamento aplica-se a:
- Fornecedores (quem desenvolve ou comercializa AI)
- Utilizadores (quem usa sistemas AI na sua atividade)
- Importadores e distribuidores na UE
Também as empresas extra-UE estão sujeitas à regulamentação se os seus sistemas ou resultados forem utilizados na União Europeia. Nesse caso, devem nomear um representante autorizado na UE.
Sanções: até 35 milhões de euros
As multas são proporcionais à gravidade da violação:
| Tipo de Violação | Sanção Máxima |
| Uso de AI proibida | €35 milhões ou 7% do faturamento global |
| Violação de requisitos para AI de alto risco | €15 milhões ou 3% do faturamento global |
| Informações enganosas às autoridades | €7,5 milhões ou 1% do faturamento global |
As PMI e startup beneficiam de um regime sancionatório proporcional.
Datas chave
1° agosto 2024: entrada em vigor oficial
2 fevereiro 2025: proibição de práticas de AI proibidas
2 agosto 2025: GPAI (novos modelos)
2 agosto 2026: AI de alto risco
2 agosto 2027: sistemas regulados por outras normativas da UE
FAQ – Perguntas frequentes sobre o AI Act
▶ O AI Act também se aplica ao uso pessoal da inteligência artificial?
Não. Os usos pessoais ou para pesquisa científica estão isentos.
▶ Os sistemas open source são regulamentados?
Sim, se tiverem impacto sistêmico ou forem utilizados em contextos de risco.
▶ O que significa “marcar os conteúdos gerados”?
Adicionar metadados ou etiquetas legíveis por máquinas que indicam que o conteúdo (ex. um vídeo deepfake) foi gerado ou alterado por uma IA.
Conclusão
O AI Act da UE é muito mais do que uma lei: é uma declaração de intenções sobre o futuro da inovação digital europeia. As empresas que desenvolvem, distribuem ou usam AI devem agir imediatamente para avaliar os seus riscos, adequar os processos e investir em transparência e governança.




