32
Ínicio
>
Direito Digital
DIREITO DIGITAL
Mais um passo em direção à regulação da inteligência artificial
Ana Frazão
11/07/2023
No dia 14 de junho, o Parlamento Europeu deu importante passo para a regulação da inteligência artificial, consolidando a intenção de que a Europa tenha a primeira regulação compreensiva de inteligência artificial[1].
Embora não se trate do texto final, o Parlamento Europeu adotou a posição de negociação sobre o Artificial Inteligence Act, de forma que agora se iniciam as negociações em cada país do bloco, no bojo de processo que está previsto para ser concluído até o final do ano.
Apesar das inúmeras discussões em torno do projeto, já ficou claro que não há maiores divergências em torno do fato de que a utilização da inteligência artificial precisa atender aos princípios da segurança, transparência, rastreabilidade, não discriminação e compatibilidade com o meio ambiente. Outro vetor importante é a necessidade de supervisão humana para o controle de resultados nefastos, o que restringe consideravelmente a automação.
Trata-se de uma regulação por riscos, os quais se dividem em três grandes categorias, a exemplo do anteprojeto apresentado pela Comissão de Juristas nomeada pelo Senado, que teve forte inspiração no texto europeu e foi recentemente apresentado como projeto pelo senador Rodrigo Pacheco (PSD-MG).
A categoria mais emblemática certamente é a dos riscos inaceitáveis e, consequentemente, vedados, dentre os quais se encontram as utilizações de inteligência artificial que envolvam manipulação comportamental cognitiva de pessoas ou grupos vulneráveis, social scoring e identificação biométrica remota e em tempo real, como o reconhecimento facial, embora haja exceções para a utilização posterior de identificação biométrica para a apuração de crimes graves e apenas mediante ordem judicial.
Já o alto risco, embora permitido, enseja uma regulação mais rigorosa, composta por inúmeras obrigações ex ante a fim de se evitar comprometimentos aos direitos daqueles que serão afetados pelos sistemas de inteligência artificial. Dentre as hipóteses previstas no AI Act, estão os sistemas de inteligência artificial utilizados para a fabricação de produtos já sujeitos à legislação de segurança de produtos na Europa (como brinquedos, aviação, carros, equipamentos médicos e elevadores, assim como as seguintes aplicações: 1) identificação biométrica e categorização de pessoas naturais, 2) gerenciamento e operação de infraestruturas críticas, 3) educação e treinamento vocacional, 4) emprego, gerenciamento de trabalhadores e acesso a empregos, 5) acesso e fruição de serviços privados essenciais, assim como de serviços públicos e benefícios, 6) aplicação e enforcement do direito, 7) migração, asilo e controle de fronteiras e 8) assistência em interpretação jurídica e aplicação do direito.
Diante das recentes preocupações decorrentes das inteligências artificiais generativas, como é o caso do ChatGPT, a iniciativa europeia propõe obrigações de transparência quando o conteúdo for gerado por inteligência artificial, desenho de modelos que previnam a geração de conteúdos ilícitos e publicação de sumários sobre os dados protegidos por propriedade intelectual que foram usados no treinamento.
Aliás, é interessante ressaltar que foram as inteligências artificiais generativas que deram grande impulso ao debate em torno da regulação da inteligência artificial, na medida em que expuseram, de uma forma clara e acessível, os inúmeros riscos que lhes são inerentes[2].
Alertas sobre o descompasso da evolução tecnológica
Não é sem razão que, nos últimos meses, assistimos a diversas iniciativas, seja em prol de uma regulação da inteligência artificial, seja ao menos em prol de uma moratória[3]. O que todas essas discussões têm em comum é alertarem para o fato de que a evolução tecnológica está em descompasso para os cuidados e proteções que seriam exigíveis.
Consequentemente, se a discussão antes se colocava no patamar sobre se a inteligência artificial deveria ser regulada, parece que agora se coloca no patamar de como deveria ser regulada. Nesse sentido, a iniciativa do Parlamento Europeu reforça a necessidade e a urgência de regulação, além de apresentar importante dimensão política.
Com efeito, de acordo com a análise do New York Times[4], os formuladores de políticas públicas em todo o mundo, de Washington a Pequim, estão agora em uma verdadeira corrida para controlar uma tecnologia em desenvolvimento. Dessa maneira, espera-se que a postura da União Europeia sirva de incentivo para que outros países iniciem ou intensifiquem seus respectivos processos regulatórios.
É interessante que, mesmo nos Estados Unidos, o Blueprint for an AI Billl of Rights[5] deixa claro que sistemas de inteligência artificial precisam ser seguros, efetivos, com proteções à privacidade e com o reconhecimento de importantes direitos, tais como o direito a não discriminação abusiva, o direito de saber quando um sistema automatizado é utilizado e o direito de obter explicações, dentre outros.
Não deixa de ser simbólico que a decisão do Parlamento Europeu tenha ocorrido no mesmo dia em que se abriu nova investigação antitruste contra o Google em Bruxelas[6], o que mostra que as grandes big techs estão às voltas com inúmeras iniciativas que procuram contestar ou conter o imenso poder que adquiriram.
Necessidade de regulação da Inteligência Artificial
Sob vários ângulos, a iniciativa europeia é um convite para refletirmos com mais profundidade sobre por que e para que se deve regular a inteligência artificial. Eu mesma já tive a oportunidade de, em diversas colunas, alertar para a necessidade de regulação da inteligência artificial, não somente diante dos riscos já mapeados, mas também diante do princípio da precaução, que é tão caro ao Direito Ambiental e precisa ser igualmente observado nos setores de tecnologia[7].
Por todas as razões já mencionadas, é fundamental o envolvimento de todos no debate sobre esse assunto, pois ele diz respeito a todos nós e aos esforços de construção de uma cidadania digital. No caso específico dos juristas, o engajamento na discussão é ainda mais premente, pois a inteligência artificial ainda pode mudar por completo o exercício da nossa profissão, além do fato de que precisaremos cada vez mais de profissionais habilitados para lidar com as aplicações de inteligência artificial nas mais diversas complexas dimensões da interação humana, que vão dos negócios às utilizações pelo poder público.
Outra razão que justifica a maior participação dos juristas no debate é que as questões relacionadas à utilização de inteligência artificial no Judiciário e na administração da justiça são sensíveis e envolvem altos riscos. Não surpreende que, como já salientado, o AI Act europeu define esse tipo de utilização como sendo de alto risco, orientação que foi também seguida pelo projeto de lei apresentado pelo senador Rodrigo Pacheco.
Dessa forma, a iniciativa europeia é mais um importante acontecimento para aprofundar as discussões a respeito do tema no Brasil, ocasião em que se deve aprofundar o debate, evitando polarizações e maniqueísmos superficiais, tais como o de que a regulação será um freio intransponível para a inovação.
Mais do que nunca, precisamos de um debate sério e sereno, que procure encontrar o adequado equilíbrio entre os incentivos à inovação e a proteção dos direitos de todos os afetados pela inteligência artificial, tanto em âmbito individual, como em âmbito coletivo, o que inclui as preocupações com a preservação das instituições democráticas.
CLIQUE E CONHEÇA O LIVRO DE ANA FRAZÃO!
LEIA TAMBÉM
- Aplicação Territorial da LGPD e Eficácia Extraterritorial
- Curso de Proteção de Dados Pessoais: assista à apresentação dos autores
- Curso de Proteção de Dados: os fundamentos da LGPD devendados por quem entende do assunto
NOTAS
[2] Ver episódio 22 do Podcast Direito Digital sobre Chat GPT, apresentado por Ana Frazão e Caitlin Mulholland. https://open.spotify.com/episode/2JoIV6deiUOowZIjIoup8K.
[3] Ver episódio 23 do Podcast Direito Digital sobre Moratória da Inteligência Artificial, apresentado por Ana Frazão e Caitlin Mulholland. https://open.spotify.com/episode/1xz5FIB2qPB13wnvT7jiNP
[4] https://www.nytimes.com/2023/06/14/technology/europe-ai-regulation.html
[5] https://www.whitehouse.gov/ostp/ai-bill-of-rights/#safe
[6] https://www.washingtonpost.com/technology/2023/06/14/eu-parliament-approves-ai-act/
[7] FRAZÃO, Ana. Marco da Inteligência Artificial em análise. Já não foram mapeados riscos suficientes para justificar uma regulação adequada e com efeitos práticos? Jota. https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/marco-inteligencia-artificial-15122021; FRAZÃO, Ana. Marco da Inteligência Artificial e os ‘cisnes digitais’. As incertezas podem ser o maior e o melhor motivo para a ação regulatória. Jota. https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/inteligencia-artificial-cisnes-digitais-26012022