A recente resolução da ONU em prol de uma IA segura e confiável

Ana Frazão

28/05/2024

No último mês de março, a ONU adotou resolução em prol de regulação que garanta uma inteligência artificial segura e confiável, que possa beneficiar o desenvolvimento sustentável inclusivo, ao mesmo tempo em que respeite, proteja e promova os direitos humanos no design, desenvolvimento, aplicações e uso da inteligência artificial[1].

Apesar de já haver muitas iniciativas internacionais nesse sentido, trata-se da primeira vez em que a Assembleia Geral da ONU adota resolução para regular esse campo emergente, o que representa um passo importante para o uso seguro da inteligência artificial.

Sob a premissa de que os mesmos direitos que as pessoas têm offline devem também ser protegidos online e em todas as etapas do ciclo de vida de tais sistemas tecnológicos, a ONU insiste no papel dos Estados-membros e dos stakeholders em frear ou mesmo impedir o uso de sistemas de inteligência artificial que não possam ser operados em conformidade com direitos humanos ou que apresentem riscos indevidos para a fruição desses direitos.

Por essa razão, a Assembleia da ONU conclamou estados, setor privado, sociedade, mídia, academia e organizações de pesquisa para aderirem ao projeto comum de desenvolver e apoiar abordagens e frameworks de suporte e de governança em busca de uma inteligência artificial confiável e compatível com os direitos humanos.

Resolução da ONU sobre Inteligência Artificial

O texto da Resolução[2] é bastante esclarecedor no sentido dos benefícios de sistemas de inteligência artificial seguros e confiáveis em todos os estágios do seu ciclo de vida, assim como explicáveis, éticos, inclusivos e respeitadores da promoção e proteção de direitos humanos. Segundo a ONU, sistemas que obedeçam a tais premissas apresentam o potencial de (i) acelerar e possibilitar, de uma forma equilibrada e integrada, o desenvolvimento sustentável nas três dimensões – econômica, social e ambiental –, (ii) promover transformação digital, (iii) promover paz, (iv) superar divisões digitais entre os países e dentro deles e (v) promover a fruição de direitos humanos e liberdades fundamentais mantendo a pessoa humana no centro.

A Resolução da ONU também esclarece que sistemas falhos ou problemáticos colocam em risco a agenda 2030 de desenvolvimento sustentável nas suas três dimensões, além de aumentarem a divisão digital entre os países, reforçarem desigualdades estruturais e vieses, permitirem discriminações, minarem a integridade informacional e o acesso a informação, impedirem a proteção, a promoção e a fruição de direitos humanos e fundamentais – incluindo o direito de não ser sujeito a interferências ilegais ou arbitrárias na privacidade – e aumentar o potencial risco para acidentes e ameaças por parte de atores maliciosos.

Tais aspectos são importantes porque, com a utilização progressiva da inteligência artificial em todos os assuntos humanos, cada vez mais funções públicas e privadas são terceirizadas para as máquinas que, sob vários aspectos, passam a classificar e a determinar quem são os indivíduos e que oportunidades e direitos cada um deve titularizar ou usufruir, bem como as políticas de ação e de decisão tanto do setor público como do setor privado.

Há, portanto, uma crescente perda de protagonismo e de capacidade de agência dos seres humanos a respeito de questões estratégicas da vida individual e coletiva, o que foi muito bem representado na frase de Thomas Greenfield, ao ressaltar o motivo para a regulação da inteligência artificial: é melhor governar a inteligência artificial do que deixar que ela nos governe[3].

É com base nessas preocupações que a Resolução propõe diversas metas, dentre as quais:

desenvolver abordagens regulatórias e de governança, bem como de frameworks domésticos, para atingirem os objetivos de uma inteligência artificial segura e confiável, tendo por fio condutor a ideia de que direitos humanos e liberdades fundamentais precisam ser respeitados, protegidos e promovidos em todo o ciclo de utilização da inteligência artificial, especialmente diante de vulneráveis;
promover inovação para identificação, classificação, avaliação, teste, prevenção e mitigação das vulnerabilidades e riscos durante o design e o desenvolvimento dos sistemas antes mesmo do seu uso;
incorporar mecanismos de feedbacks que permitam, por meio de uma abordagem baseada em evidências, inclusive por meio de reportes de usuários e terceiros, descobrir vulnerabilidades técnicas e maus usos dos sistemas de inteligência artificial, assim como os incidentes;
aumentar a consciência e a compreensão do público sobre as funções centrais, capacidades, limitações e domínios para o uso apropriado dos sistemas de inteligência artificial;
desenvolver mecanismos de monitoramento e gerenciamento de risco durante todo o ciclo dos sistemas de inteligência artificial;
desenvolver e implementar salvaguardas efetivas, incluindo a segurança física dos sistemas;
possibilitar que os usuários identifiquem casos de manipulação de informação, diferenciem a origem de conteúdos digitais autênticos de conteúdos gerados por inteligência artificial
aumentar o letramento em mídia e informação;
impedir discriminações, vieses, maus usos ou danos;
limitar as divisões raciais e de gênero;
proteger dados pessoais;
aprimorar práticas baseadas em evidências para maximizar benefícios e mitigar potenciais riscos em todas as fases do ciclo;
encorajar a pesquisa e a cooperação internacional para entender, equilibrar e endereçar os potenciais benefícios e os riscos relativos ao papel da inteligência artificial;
reconhecer que governos, setor privado, sociedade civil, organizações internacionais e domésticas, academia e instituições de pesquisa, comunidades técnicas e outros stakeholders precisam trabalhar em conjunto;
implementar medidas para a diversidade cultural e linguística, assim como para atenuar as diferenças entre países desenvolvidos e em desenvolvimento.

Ao se ler o diagnóstico e as soluções apresentadas pela ONU, observa-se que a Resolução responde as principais indagações sobre se, porque, quando e como a inteligência artificial pode ou deve ser regulada. Fica claro que a regulação da inteligência artificial em prol do imperativo de proteção de direitos humanos e liberdades individuais é necessária e urgente, assim como não é incompatível com a inovação e com os benefícios que dela se esperam. Pelo contrário, a regulação nesses moldes é pressuposto para que os benefícios sejam alcançados sem riscos excessivos e com os devidos cuidados e salvaguardas para os altos riscos.

Considerando que a Resolução da ONU ocorre depois do Decreto do Presidente Biden em favor de uma inteligência artificial segura e confiável[4] e depois da recente aprovação, pelo Parlamento Europeu, do AI Act, não há dúvidas que o atual cenário internacional será importante para a discussão dos projetos em trâmite no Congresso Nacional, dentre os quais o PL 2338/2023, que propõe interessante modelo de regulação por riscos e por direitos, com grande convergência com as preocupações da ONU e com o AI Act europeu[5].

Fonte: Jota

CLIQUE E CONHEÇA O LIVRO DE ANA FRAZÃO!

Lei de Liberdade Econômica - Análise Crítica: conheça o lançamento

LEIA TAMBÉM

NOTAS

[1]Assembleia Geral adota resolução histórica sobre inteligência artificial | Notícias da ONU (un.org)

[2]n2406592.pdf (un.org)

[3]Assembleia Geral adota resolução histórica sobre inteligência artificial | Notícias da ONU (un.org)

[4]https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/

[5] Ver FRAZÃO, Ana. Jota.https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/classificacao-de-riscos-a-solucao-adotada-pelo-pl-2338-23-04042024