A inteligência artificial pode causar preconceitos históricos se for utilizada com bases de dados de maneira contrária. A Unesco traz um alerta sobre a tecnologia e seus desafios que podem levar o aumento de atitudes com tendência sobre gênero, etnia, dignidade, riscos sobre privacidade e o perigo de vigilância em peso.

É possível imaginar que a forte tecnologia cada vez mais presente em nosso cotidiano pode nos expor a riscos e na alteração de nossas decisões? Esse tema tem sido um dos debates mais acalorados no setor de tecnologia em 2021 e também sobre a regulação da Inteligência Artificial. A presença de algoritmos nos sistemas de busca de informações, como redes sociais, aplicativos de delivery e de mobilidade urbana e outros formatos utilizam dados pessoais sem termos a noção da entrega valiosa que estamos proporcionando para empresas trocarem com terceiros, analisar perfis e até sugerir opções baseadas nos nossos gostos e comportamento.

Em nível global, esse debate que orbita em torno da inteligência artificial tem suas preocupações por envolver princípios éticos. Em outubro, a ONU (Organização das Nações Unidas) solicitou a suspensão da utilização de sistemas de IA consideravelmente invasivos, podendo ser utilizados apenas com regulamentação sobre o uso dessa tecnologia, como rastrear através de câmeras de vigilância pessoas em locais públicos.

A diretora no gabinete da Alta Comissária da ONU, Peggy Hicks disse que “a Inteligência Artificial já faz parte das nossas vidas, mas é preciso cuidar para que não seja um instrumento de discriminação, que invade a nossa privacidade e mina os nossos direitos“.

No Brasil, o Marco legal da Inteligência Artificial, que fora aprovado em setembro de 2021 na Câmara dos Deputados, teve diversas horas de debate que com a participação da sociedade civil, especialistas em tecnologia, políticos e juristas. O projeto de lei passará por uma nova análise e propostas de melhorias no Senado. Dessa forma, será possível um resgate de temas com alta relevância e que podem ter sido debatidos de maneira superficial pelos deputados.

É possível perceber que o texto se esquiva da regulamentação sobre o trato como tecnologia nascente. A relatora Luisa Canziani (PTB-PR) diz que “assumimos antes de tudo que a inteligência artificial é uma tecnologia dinâmica, diversa, em constante evolução. Por isso, buscamos construir uma lei principiológica, que fomente o uso da tecnologia, e tenha em mente que no centro deste debate estão as pessoas“.

Luisa ainda afirma que a Lei Nacional é necessária, já que alguns estados estavam arquitetando suas legislações próprias. “E cada estado com a sua lei seria prejudicial à inovação“, afirmou. Porém, os sistemas de IA levam consigo o risco de destacar preconceitos históricos caso sua utilização seja baseada com dados de maneira contrária. A Unesco (Organização das Nações Unidas para Educação, Ciência e Cultura) traz o alerta para o ponto em que a tecnologia mostra seus desafios com o aumento de ações tendenciosas de sobre gênero, etnia, dignidade, riscos sobre privacidade e o perigo de vigilância em peso, inclusive a utilização de maneira insegura de tecnologias aplicadas à lei.

Sem uma orientação de padrões, muitas perspectivas encontram-se sem respostas.
Audrey Azoulay, chefe da Unesco, informou que é necessário ter regras sobre inteligência artificial sob o âmbito mundial para que haja benefícios para humanidade. Para a Unesco, a Inteligência Artificial é benéfica para a humanidade, porém, precisa diminuir seus riscos com possibilidade de avanço mais retardado para que a sociedade civil consiga assimilar o tempo com as mudanças adquiridas e ter o poder de avaliação feitos através de seus impactos.

No Brasil, 25 juristas brasileiros de grande destaque, disseram sobre o texto do Marco legal da Inteligência Artificial sobre a necessidade de alteração no projeto de lei. O texto indica que “a norma contraria entendimento que vem sendo construído pela doutrina jurídica, estudos e propostas nacionais e internacionais a respeito da matéria, colocando em sério risco a possibilidade das vítimas de danos causados por Inteligências Artificiais obterem a devida reparação integral e, por consequência, comprometendo a garantia dos direitos fundamentais previstos pelos incisos V e X do artigo 5º da Constituição da República”.

Os juristas informam que como o texto diz sobre as orientações das regulamentações pelo Poder Público, “normas sobre responsabilidade dos agentes que atuam na cadeia de desenvolvimento e operação de sistemas de inteligência artificial devem, salvo disposição legal em contrário, se pautar na responsabilidade subjetiva, levar em consideração a efetiva participação desses agentes, os danos específicos que se deseja evitar ou remediar, e como esses agentes podem demonstrar adequação às normas aplicáveis por meio de esforços razoáveis compatíveis com padrões internacionais e melhores práticas de mercado”.

É sabido que impedir o avanço tecnológico da Inteligência Artificial não cabe a realidade, mas o zelo e cuidado com as regras de uso para a não violação de direitos e ter a tecnologia como instrumento potencializador das desigualdades é a saída positiva. Cabe lembrar que a construção de uma base de dados não está sob nosso controle individual apenas com um compartilhamento de informações nas redes sociais, por exemplo, baseados em nossos perfis de navegação na internet, compras online e até no consumo de plataformas de streaming.

Quando um sistema de pontos para crédito se baseia na inteligência artificial não deve, por exemplo, receber como prova final baseada em dados de geolocalização, raça, orientação sexual e credo para conceder o crédito para uma pessoa. Se isso acontecer durante uma análise de risco, o sistema pode entender que pessoas de determinada região podem oferecer um risco maior de inadimplência, destacando então um fator de desigualdade.

Isso também cabe quando um aplicativo de seleção para empregos corre de destacar perfis com histórico desviados através do preconceito, independente de uma intervenção humana. Como exemplo, um sistema pode entender que o perfil padrão para ser o presidente de uma empresa é o homem branco, com idade entre 40 e 50 anos, tornando o acesso mais difícil para o recrutador de currículos que buscam executivos com perfis diversos. A tendência para induzir as máquinas para decisões pode ser um caso a pensar para que não haja prejuízos futuros com decisões inapropriadas.

Fonte: Terra