Por João Pedro Delgado
No dia 10 de dezembro, o Senado Federal aprovou o substitutivo ao Projeto de Lei 2338/2023, que estabelece o Marco Legal da Inteligência Artificial no Brasil. Agora, o texto segue para a Câmara dos Deputados, onde ainda pode passar por mudanças. A versão aprovada foi a finalizada pela Comissão Temporária Interna sobre Inteligência Artificial (CTIA), que buscou um equilíbrio entre os direitos das pessoas afetadas por sistemas de IA e as obrigações regulatórias dos desenvolvedores, distribuidores e implementadores desses sistemas.
O texto aprovado traz impactos em diversas áreas, sendo as principais:
Direitos Autorais e Desenvolvimento de IA
- Será obrigatório remunerar os titulares de direitos autorais quando seus conteúdos forem usados para treinar sistemas de IA.
- Será necessário publicar um sumário informando quais conteúdos protegidos foram utilizados no desenvolvimento dos sistemas.
- O uso das obras poderá ser negociado livremente entre as partes, inclusive de forma gratuita.
- Objetivo de proteger o setor cultural e criativo, garantindo remuneração pelo uso de conteúdo.
Sistema de Governança
- Será criado o Sistema Nacional de Regulação e Governança de IA (SIA), coordenado pela ANPD.
- Competências setoriais específicas serão estabelecidas, mantendo as atribuições dos reguladores existentes.
- Haverá regimes simplificados para startups e pequenas empresas.
Autoridade Nacional de Proteção de Dados
- A ANPD será a autoridade competente para impor sanções, aplicar multas, expedir normas sobre certificação, avaliação de impacto algorítmico e comunicação de incidentes graves.
- A ANPD deverá se manifestar sobre processos normativos dos órgãos reguladores e exercerá competência normativa, regulatória e sancionatória quanto ao uso de IA em atividades econômicas sem regulador específico.
- A ANPD zelará pelos direitos fundamentais, estimulará boas práticas, receberá denúncias e representará o Brasil em organismos internacionais.
- A ANPD coordenará o SIA, que será integrado por órgãos estatais de regulação setorial, entidades de autorregulação e certificação, pelo Conselho de Cooperação Regulatória de IA (Cria) e pelo Comitê de Especialistas e Cientistas de IA (Cecia).
Classificação de Risco
- Definição de sistemas proibidos, categorizados como “risco excessivo”, cuja listagem será providenciada e atualizada pela autoridade competente.
- Sistemas de alto risco terão requisitos específicos.
- Haverá obrigações especiais para IA generativa e de propósito geral.
- A avaliação preliminar será obrigatória apenas para sistemas generativos e de propósito geral.
Trabalhadores e processos seletivos automatizados
- Candidatos terão direito a explicação e revisão humana de decisões que impactem processos de recrutamento, triagem, avaliação, promoções ou cessações de contratos de trabalho, e avaliação de desempenho.
- Sistemas de identificação biométrica deverão garantir proteção contra discriminação direta, indireta, ilegal ou abusiva.
Direitos e Obrigações
O texto adota uma abordagem baseada em risco, classificando sistemas de IA como de risco excessivo (proibidos) ou de alto risco (com avaliações de impacto algorítmico obrigatórias), conforme demonstrado, cuja utilização é vedada em determinadas hipóteses (art. 13), e alto risco (art. 14), cuja aplicação ensejará a obrigatoriedade de avaliações de impacto algorítmico tanto para quem implementa IA em suas atividades e como para quem desenvolve (arts. 25 a 28), além das obrigações específicas, que incluem:
Para implementadores de IA:
- Documentação de avaliações em todos os ciclos de vida da IA.
- Avaliação da acurácia e robustez para prevenir resultados discriminatórios.
- Documentação sobre confiabilidade, segurança e supervisão humana.
- Disponibilização de informações sobre a interpretação dos resultados e funcionamento dos sistemas de IA.
Para desenvolvedores de IA:
- Registro das medidas de governança adotadas.
- Registro da operação do sistema para avaliação de acurácia e robustez.
- Realização de testes de segurança.
- Fornecimento de informações necessárias aos implementadores.
- Medidas para mitigar vieses discriminatórios.
- Transparência sobre políticas de gestão e governança.
Como mencionado, agora o texto segue para debate e votação na Câmara dos Deputados, ocasião em que espera-se debate amplo de diversas questões, principalmente sobre a integridade informacional, especialmente quanto ao combate à desinformação alinhada à liberdade de expressão, bem como sobre os direitos autorais, novamente no que tange o uso automatizado de conteúdos protegidos para pesquisa e desenvolvimento de IA, com remuneração aos titulares de direitos ou proibição da utilização pelos titulares.
Muito embora a tramitação da lei ainda dependa da análise pela Câmara dos Deputados e posterior sanção presidencial, determinadas medidas já podem ser adotadas desde logo pelos agentes de IA, baseando-se nas boas práticas atuais, antevendo a regulação, como providenciar avaliação de risco da IA que desenvolve, desenvolvimento de políticas e guias de boas práticas, atualização de contratos/licenças de uso da IA, dentre outras.