![A recente resolução da ONU em prol de uma IA segura e confiável](https://admin-blog.grupogen.com.br/app/uploads/sites/2/2024/05/A-recente-resolucao-da-ONU-em-prol-de-uma-IA-segura-e-confiavel.jpg)
32
Ínicio
>
Artigos
>
Direito Digital
ARTIGOS
DIREITO DIGITAL
A recente resolução da ONU em prol de uma IA segura e confiável
![Ana Frazão](https://admin-blog.grupogen.com.br/app/uploads/sites/2/2021/06/bn_autor_blog_138x138_ana_frazao.jpg)
Ana Frazão
28/05/2024
No último mês de março, a ONU adotou resolução em prol de regulação que garanta uma inteligência artificial segura e confiável, que possa beneficiar o desenvolvimento sustentável inclusivo, ao mesmo tempo em que respeite, proteja e promova os direitos humanos no design, desenvolvimento, aplicações e uso da inteligência artificial[1].
Apesar de já haver muitas iniciativas internacionais nesse sentido, trata-se da primeira vez em que a Assembleia Geral da ONU adota resolução para regular esse campo emergente, o que representa um passo importante para o uso seguro da inteligência artificial.
Sob a premissa de que os mesmos direitos que as pessoas têm offline devem também ser protegidos online e em todas as etapas do ciclo de vida de tais sistemas tecnológicos, a ONU insiste no papel dos Estados-membros e dos stakeholders em frear ou mesmo impedir o uso de sistemas de inteligência artificial que não possam ser operados em conformidade com direitos humanos ou que apresentem riscos indevidos para a fruição desses direitos.
Por essa razão, a Assembleia da ONU conclamou estados, setor privado, sociedade, mídia, academia e organizações de pesquisa para aderirem ao projeto comum de desenvolver e apoiar abordagens e frameworks de suporte e de governança em busca de uma inteligência artificial confiável e compatível com os direitos humanos.
Resolução da ONU sobre Inteligência Artificial
O texto da Resolução[2] é bastante esclarecedor no sentido dos benefícios de sistemas de inteligência artificial seguros e confiáveis em todos os estágios do seu ciclo de vida, assim como explicáveis, éticos, inclusivos e respeitadores da promoção e proteção de direitos humanos. Segundo a ONU, sistemas que obedeçam a tais premissas apresentam o potencial de (i) acelerar e possibilitar, de uma forma equilibrada e integrada, o desenvolvimento sustentável nas três dimensões – econômica, social e ambiental –, (ii) promover transformação digital, (iii) promover paz, (iv) superar divisões digitais entre os países e dentro deles e (v) promover a fruição de direitos humanos e liberdades fundamentais mantendo a pessoa humana no centro.
A Resolução da ONU também esclarece que sistemas falhos ou problemáticos colocam em risco a agenda 2030 de desenvolvimento sustentável nas suas três dimensões, além de aumentarem a divisão digital entre os países, reforçarem desigualdades estruturais e vieses, permitirem discriminações, minarem a integridade informacional e o acesso a informação, impedirem a proteção, a promoção e a fruição de direitos humanos e fundamentais – incluindo o direito de não ser sujeito a interferências ilegais ou arbitrárias na privacidade – e aumentar o potencial risco para acidentes e ameaças por parte de atores maliciosos.
Tais aspectos são importantes porque, com a utilização progressiva da inteligência artificial em todos os assuntos humanos, cada vez mais funções públicas e privadas são terceirizadas para as máquinas que, sob vários aspectos, passam a classificar e a determinar quem são os indivíduos e que oportunidades e direitos cada um deve titularizar ou usufruir, bem como as políticas de ação e de decisão tanto do setor público como do setor privado.
Há, portanto, uma crescente perda de protagonismo e de capacidade de agência dos seres humanos a respeito de questões estratégicas da vida individual e coletiva, o que foi muito bem representado na frase de Thomas Greenfield, ao ressaltar o motivo para a regulação da inteligência artificial: é melhor governar a inteligência artificial do que deixar que ela nos governe[3].
É com base nessas preocupações que a Resolução propõe diversas metas, dentre as quais:
- desenvolver abordagens regulatórias e de governança, bem como de frameworks domésticos, para atingirem os objetivos de uma inteligência artificial segura e confiável, tendo por fio condutor a ideia de que direitos humanos e liberdades fundamentais precisam ser respeitados, protegidos e promovidos em todo o ciclo de utilização da inteligência artificial, especialmente diante de vulneráveis;
- promover inovação para identificação, classificação, avaliação, teste, prevenção e mitigação das vulnerabilidades e riscos durante o design e o desenvolvimento dos sistemas antes mesmo do seu uso;
- incorporar mecanismos de feedbacks que permitam, por meio de uma abordagem baseada em evidências, inclusive por meio de reportes de usuários e terceiros, descobrir vulnerabilidades técnicas e maus usos dos sistemas de inteligência artificial, assim como os incidentes;
- aumentar a consciência e a compreensão do público sobre as funções centrais, capacidades, limitações e domínios para o uso apropriado dos sistemas de inteligência artificial;
- desenvolver mecanismos de monitoramento e gerenciamento de risco durante todo o ciclo dos sistemas de inteligência artificial;
- desenvolver e implementar salvaguardas efetivas, incluindo a segurança física dos sistemas;
- possibilitar que os usuários identifiquem casos de manipulação de informação, diferenciem a origem de conteúdos digitais autênticos de conteúdos gerados por inteligência artificial
- aumentar o letramento em mídia e informação;
- impedir discriminações, vieses, maus usos ou danos;
- limitar as divisões raciais e de gênero;
- proteger dados pessoais;
- aprimorar práticas baseadas em evidências para maximizar benefícios e mitigar potenciais riscos em todas as fases do ciclo;
- encorajar a pesquisa e a cooperação internacional para entender, equilibrar e endereçar os potenciais benefícios e os riscos relativos ao papel da inteligência artificial;
- reconhecer que governos, setor privado, sociedade civil, organizações internacionais e domésticas, academia e instituições de pesquisa, comunidades técnicas e outros stakeholders precisam trabalhar em conjunto;
- implementar medidas para a diversidade cultural e linguística, assim como para atenuar as diferenças entre países desenvolvidos e em desenvolvimento.
Ao se ler o diagnóstico e as soluções apresentadas pela ONU, observa-se que a Resolução responde as principais indagações sobre se, porque, quando e como a inteligência artificial pode ou deve ser regulada. Fica claro que a regulação da inteligência artificial em prol do imperativo de proteção de direitos humanos e liberdades individuais é necessária e urgente, assim como não é incompatível com a inovação e com os benefícios que dela se esperam. Pelo contrário, a regulação nesses moldes é pressuposto para que os benefícios sejam alcançados sem riscos excessivos e com os devidos cuidados e salvaguardas para os altos riscos.
Considerando que a Resolução da ONU ocorre depois do Decreto do Presidente Biden em favor de uma inteligência artificial segura e confiável[4] e depois da recente aprovação, pelo Parlamento Europeu, do AI Act, não há dúvidas que o atual cenário internacional será importante para a discussão dos projetos em trâmite no Congresso Nacional, dentre os quais o PL 2338/2023, que propõe interessante modelo de regulação por riscos e por direitos, com grande convergência com as preocupações da ONU e com o AI Act europeu[5].
CLIQUE E CONHEÇA O LIVRO DE ANA FRAZÃO!
![Lei de Liberdade Econômica - Análise Crítica: conheça o lançamento Lei de Liberdade Econômica - Análise Crítica: conheça o lançamento](https://admin-blog.grupogen.com.br/app/uploads/sites/2/2022/09/emkt-juridico-ana-frazao-lei-da-liberdade-economica-06092022.jpg)
LEIA TAMBÉM
- O papel e a responsabilidade dos influencers
- TSE e as regras para o uso de inteligência artificial nas eleições
- Mercado de ideias econômicas
- A privatização da Sabesp
NOTAS
[1]Assembleia Geral adota resolução histórica sobre inteligência artificial | Notícias da ONU (un.org)
[3]Assembleia Geral adota resolução histórica sobre inteligência artificial | Notícias da ONU (un.org)
[4]https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/
[5] Ver FRAZÃO, Ana. Jota.https://www.jota.info/opiniao-e-analise/colunas/ia-regulacao-democracia/classificacao-de-riscos-a-solucao-adotada-pelo-pl-2338-23-04042024