Os caminhos da valorização dos direitos fundamentais da inteligência artificial na sociedade brasileira.

Os sistemas de inteligência artificial (IA) não podem ultrapassar e violar os direitos dos cidadãos. Transparência, equidade e participação do Estado e da população são necessárias na definição do arcabouço legal sobre o tema. Essas são algumas das posições defendidas no seminário internacional aberto na manhã desta quinta-feira (9) pela comissão de juristas que vai elaborar proposta de regulamentação da IA no Brasil.

O seminário ajudará na produção e conclusão de uma proposta de marco regulatório, que resultará em projeto a ser relatado pelo senador Eduardo Gomes (PL-TO). A jurista Laura Schertel Mendes, professora de direito civil, é a relatora da comissão, e o presidente é o ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça (STJ).

Ao abrir o seminário, Eduardo Gomes confirmou a prorrogação do prazo da comissão em mais 120 dias e disse que o trabalho do colegiado vai oferecer subsídios à elaboração do projeto substitutivo que o Senado preparará aos projetos de lei já aprovados na Câmara dos Deputados.

— É inegável a magnitude da importância que os recursos eletrônicos têm na vida humana. No Brasil, há hoje duas vezes mais dispositivos digitais do que pessoas. (...) Faz-se necessário um arcabouço robusto a dar suporte a esse incrível desenvolvimento tecnológico — apontou o senador.

Segundo o ministro Villas Bôas Cueva, o debate acerca da conveniência de se regular a inteligência artificial divide opiniões. Enquanto há “um fundado receio de que haja interferência estatal”, por outro lado “há a preocupação de que a falta de um marco legal possa perpetuar a insegurança jurídica, desencorajando investimentos”, avaliou.

Regulação da AI e democracia
O seminário internacional foi dividido em três painéis nesta quinta-feira. O primeiro tratou do tema “Democracia e direitos fundamentais: fundamentos da regulação de Inteligência Artificial”. 

Professor de direito e inovação na Bucerius Law School, em Hamburgo, Wolfgang Hoffmann-Riem disse que é preciso se organizar para trabalhar com harmonia e transparência, no intuito de criar leis que possam alcançar todas as dimensões do tema, de forma a não se correr riscos desnecessários.

Deve haver, segundo o professor, uma legislação que se oriente não apenas nos riscos, mas na questão de proteção de dados e dos cidadãos. Para Hoffmann-Riem, a autorregulamentação não pode estar presente.

— Os sistemas de inteligência artificial não podem ultrapassar os direitos dos cidadãos. (...) O Estado tem de trabalhar no controle e na cooperação com o sistema de inteligência artificial.

A professora e pesquisadora na Vrije Universiteit Brussels (VUB) Mireille Hildebrandt apresentou detalhamento para os sistemas de alto risco e tratou da importância de se regular o sistema de responsabilização.

— Temos de ter um sistema de gestão de risco, para garantir que não haja nenhum direito individual violado. Com documentação técnica detalhada e uma regulamentação do mercado.

Os impactos que a inteligência artificial pode exercer sobre os direitos humanos e individuais, seus propósitos e quem são os beneficiários dessa tecnologia foram questões levantadas pela advogada e diretora-executiva da Derechos Digitales (DD), Maria Paz Canales.

— É inalienável a obrigação que o Estado tem para a regulamentação desses sistemas. Precisamos observar uma proposta [de lei] que abranja todo os elementos que concretizem os princípios fundamentais. (...) As escolhas envolvidas na IA não podem ser tomadas sem um exercício aberto com o público — afirmou.

O professor na Universidade da Califórnia Stuart Russell fechou o painel. Ex-vice-presidente do Conselho de IA e Robótica do Fórum Econômico Mundial e ex-consultor da ONU para o controle de armas, ele lembrou que o direito mais fundamental é o direito à vida e ressaltou, assim como outros palestrantes, que o algoritmo nunca pode superar os direitos humanos.

Experiências comparadas
O segundo painel do dia tratou do tema “Desafios da regulação de Inteligência Artificial: experiências comparadas”.

A chefe da Caneles Política Setorial de IA da Comissão Europeia, Irina Orssich, e a diretora do Centro de Pesquisas em Proteção de Dados na Universidade de Frankfurt, Indra Spiecker, trouxeram ao seminário as experiências de regulamentação na Europa e os riscos associados.

Segundo Irina, em abril de 2018 a União Europeia implementou a primeira estratégia para as regras de regulamentação da IA no bloco.  

— Percebemos a IA como algo produtivo e, nesse espírito, desenvolvemos com quatro estados-membros um plano coordenado. Definimos as ações que poderíamos apoiar para contribuir para um ecossistema de inteligência artificial.

Em abril do ano passado, foi apresentado um pacote de IA, que oferece um rascunho de estrutura legal. A Comissão, o Conselho e o Parlamento Europeu elaboraram um texto final e espera-se que haja sua aprovação até o final do próximo ano.

— Queremos harmonizar as regras e as leis e, com essa abordagem de segurança, abordamos os temas de IA que estão no mercado, de forma que todos tenham de cumprir com as mesmas regras. (...) Estamos fazendo uma abordagem baseada em risco. Não queremos regular toda a tecnologia. É um ato horizontal, aplica-se igualmente a todos os setores.

Para Indra Spiecker, a IA lida com coisas que o ser humano não conseguiria, mas é uma tecnologia que tem seus efeitos colaterais. Para a professora, não se deve apenas cuidar da regulamentação, sendo preciso se preocupar também em colocá-la em vigor.

— De modo geral, o que precisamos é que tudo seja mais especifico para que possamos controlar o desenvolvimento da tecnologia — afirmou.

Membro do Conselho Futuro Global sobre Riscos de Fronteira do Fórum Econômico Mundial, o advogado e pesquisador Jake Okechukwu Effoduh destacou que o Brasil é o primeiro país na América Latina e no Caribe a elaborar uma legislação de IA e que pode vir a servir como exemplo para os países africanos.

Para Effoduh, a legislação brasileira deve reforçar os direitos fundamentais e oferecer informações sobre os impactos e danos que essa tecnologia pode causar.

Professor e chefe de departamento no Instituto Universitário Europeu (EUI), Hans Wolfgang Micklitz salientou a preocupação com o consumidor no Brasil, diferentemente do que ocorre na legislação da União Europeia.

Fonte: Agência Senado

Texto II

Diante das sérias ameaças representadas pela inteligência artificial aos direitos humanos, a alta-comissária da ONU para os Direitos Humanos, Michelle Bachelet, defende uma pausa no uso e vendas destas tecnologias até que políticas adequadas de proteção entrem em vigor.

Bachelet também recomendou a proibição de aplicativos de inteligência artificial que não são usados de acordo com a legislação internacional de direitos humanos.

O pedido foi feito em conjunto com o lançamento de um relatório sobre o tema. Entre as maiores preocupações trazidas pelo documento estão o uso de tecnologias biométricas, incluindo reconhecimento facial, em espaços públicos, o viés discriminatório que o uso de dados pode ter e a falta de transparência no setor.
A alta comissária das Nações Unidas para os Direitos Humanos pediu uma moratória na venda e no uso da Inteligência Artificial (IA). Para Michelle Bachelet, esses sistemas “causam um sério risco aos direitos humanos” e, por isso, ela defende uma pausa até que políticas de proteção entrem em vigor.  
Bachelet divulgou um comunicado nesta quarta-feira (15), em Genebra, pedindo também a proibição de aplicativos de IA que não são usados de acordo com a legislação internacional de direitos humanos.
Efeito catastrófico - Para a alta-comissária, “a inteligência artificial pode ajudar as sociedades a enfrentarem os maiores desafios dos nossos tempos”, mas podem também ter um “impacto negativo e até catastrófico se for utilizada sem levar em consideração como afetam os direitos das pessoas”.  
Michelle Bachelet defende que quanto maior for o risco para os direitos humanos, mais rígidas devem ser as leis sobre o uso da inteligência artificial. Mas até que estes riscos sejam avaliados, os países devem aplicar a moratória.  
Nesta quarta-feira, o Escritório do Alto Comissariado de Direitos Humanos da ONU (ACNUDH) publicou um relatório analisando como a inteligência artificial afeta o direito das pessoas à privacidade e também à liberdade de movimento, à liberdade de expressão e ao direito de se reunirem para manifestações pacíficas.  

Reconhecimento facial - De acordo com o relatório, os Estados e as empresas muitas vezes correm para incorporar tecnologia de IA, deixando de realizar a devida diligência. Como no caso das tecnologias biométricas, incluindo reconhecimento facial, estão sendo cada vez mais utilizadas pelos países, organizações internacionais e empresas de tecnologia. Por isso, é necessário, com urgência, implementar regras baseadas em direitos humanos.  
O documento defende ainda moratória no uso das tecnologias biométricas em espaços públicos, especialmente no monitoramento de pessoas nas ruas. Essa medida seria aplicada pelo menos até que as autoridades provem que os sistemas cumprem com altos padrões de privacidade e de proteção.

Texto III:

Os algoritmos de inteligência artificial que ameaçam os direitos humanos devem ser proibidos, até que sejam incluídas as salvaguardas necessárias para o uso seguro desses programas. Essa é a opinião da Alta Comissária das Nações Unidas para os Direitos Humanos, Michelle Bachelet.

No informe divulgado em setembro deste ano, Bachelet argumenta que essas tecnologias podem conduzir a decisões discriminatórias, com risco maior para as populações já marginalizadas, podendo afetar, por exemplo, quem recebe um serviço público, quem terá uma oportunidade de emprego e até quem será preso.

No Brasil, o projeto de lei que regulamenta a inteligência artificial está em regime de urgência na Câmara dos Deputados. O texto traz como princípios da tecnologia: o respeito à dignidade humana, a não discriminação e a transparência sobre o funcionamento dos algoritmos, salvo quando se tratar de segredos comerciais e industriais.

Para o professor do Instituto de Informática da Universidade Federal do Rio Grande do Sul, Edson Prestes, é preciso definir ainda as responsabilidades em casos de falhas nos sistemas.

A legislação deve proibir ou limitar certas práticas identificadas como de alto risco, opina o professor do Departamento de Ciência da Computação da Universidade Federal de Minas Gerais, Virgílio Almeida.

Uma das aplicações de inteligência artificial considerada de alto risco é o reconhecimento facial em espaços públicos, como destacou a coordenadora de Inteligência Artificial do Laboratório de Políticas Públicas e Internet, Ingrid Soares.

Casos de pessoas presas por engano devido a erros no sistema de reconhecimento facial têm se repetido nos Estados Unidos e inclusive no Brasil. O informe da Alta Comissária da ONU para os Direitos Humanos recomenda que o uso dessas ferramentas em espaços públicos seja proibido até que as autoridades demonstrem que não existem efeitos discriminatórios.