Publicações

Terminou em 2 de fevereiro de 2025 o prazo de algumas determinações do EU AI Act que exigem que empresas e organizações se adaptem às novas regras que proíbem usos de aplicações de inteligência artificial (IA) consideradas de “risco inaceitável”. Entre essas práticas vedadas, destacam-se o reconhecimento facial em tempo real e sistemas de pontuação social[o1] [EC2] , além disso as determinações exigem literacia digital quanto as decisões tomadas por I.A. Em caso de descumprimento, as penalidades podem chegar a 35 milhões de euros ou 7% do faturamento global anual das companhias.

Esse marco regulatório, que entrou em vigor em agosto de 2024, é pioneiro no estabelecimento de padrões para a utilização responsável da IA. O EU AI Act promove maior transparência no desenvolvimento de sistemas de IA e cria o EU AI Office, órgão encarregado de monitorar o cumprimento das normas. Embora seja visto como um avanço para a segurança jurídica e a confiança do consumidor, há receios de que possa limitar a competitividade europeia frente a potências tecnológicas, como Estados Unidos e China. Por outro lado, especialistas veem potencial para a Europa consolidar um padrão global de conformidade, a exemplo do que ocorreu com o GDPR na área de proteção de dados.

A implementação dessas normas será gradativa. Em 2 de maio de 2025, passa a valer um código de conduta para desenvolvedores, que abrange regras de conformidade, indicadores de desempenho e requisitos de transparência. A partir de agosto deste ano, sistemas de IA de uso geral — como chatbots — deverão obedecer às normas de direitos autorais e apresentar resumos dos dados utilizados em seu treinamento. A previsão é de que o EU AI Act seja plenamente aplicável em 2 de agosto de 2026, já os sistemas classificados como “alto risco”, empregados em áreas como  infraestrutura, serviços essenciais e justiça, terão até agosto de 2027 para se adequarem, com obrigatoriedade de supervisão humana e avaliação contínua de riscos.

Além das proibições relativas à manipulação cognitivo-comportamental e ao monitoramento de emoções de funcionários, o regulamento veda o uso de IA para incentivar gastos financeiros excessivos e impede agências de assistência social de adotarem pontuação social baseada em dados pessoais não relacionados, como origem e raça. Empresas e desenvolvedores de IA deverão realizar auditorias frequentes, avaliar vieses algorítmicos e comprovar a segurança de suas soluções.

A abrangência do AI Act pode influenciar outras legislações ao redor do mundo. No Brasil, por exemplo o Projeto de Lei n° 2338, de 2023 a respeito da regulação de I.A no Brasil, tramita no Congresso Nacional.