Nova Zelândia lidera iniciativa pedindo transparência em algoritmos

O governo da Nova Zelândia lançou no mês passado o que está sendo chamado de "Primeira Carta de Algoritmos do Mundo". O objetivo é demonstrar o valor da transparência sobre processos algorítmicos que afetam a vida diária. O documento indica uma série de princípios e regras a serem observadas pelos países signatários da Carta, que também pretende evitar o enviesamento de inteligência artificial (IA).

No cotidiano, a solução baseada em algoritmos é utilizada extensivamente - esses sistemas ajudam empresas privadas e governos a tomarem decisões - e automatizá-las completamente exige o uso de IA. Entre os compromissos estabelecidos pelo documento, está garantir que seus algoritmos não perpetuem o preconceito e permitir uma revisão por pares para evitar "consequências indesejadas". A Carta também prevê que os países participantes disponibilizem um canal de contato para que o público possa sanar dúvidas sobre algoritmos, bem como sobre qualquer decisão por eles tomada.

Enviesamento de IA

Para entender a importância da iniciativa de revelar o que há na "caixa preta" dos algoritmos, é necessário saber o que realmente significa "enviesamento de IA". O termo “viés” refere-se à capacidade que o nosso cérebro possui de fazer associações de forma quase que automática, segundo o PrograMaria. Para isto são usados cenários e experiências vividas pela pessoa.

Esta associação também é aplicada na IA com o objetivo de tornar as decisões mais rápidas, assim como a resolução de problemas. Estes algoritmos são criados e nutridos com informações inseridas por humanos, e é ai que está o problema. Esta tecnologia acaba refletindo os valores e pensamentos de quem a está alimentando, podendo fazer com que as ações tomadas por meio dos algoritmos tornem-se parciais e repitam padrões inadequados.

O The New York Times relatou, neste ano, um exemplo de como isso pode ser aplicado na vida cotidiana. A publicação destacou como Estados Unidos utilizavam de algoritmos para sentenças de prisão, regras para liberdade condicional, entre outras decisões importantes que poderiam impactar de forma significativa várias vidas. Além disso, o ProPublica descobriu que um algoritmo usado para pontuar grau de risco de pessoas detidas em uma delegacia de polícia pontuava erroneamente negros como mais perigosas em relação aos brancos.

A grande questão é que normalmente não é possível saber quais informações foram usadas na decisão tomada pelo computador, nem se elas foram utilizadas de forma justa. Se o cálculo tomar o rumo em direção ao "viés por proxy", onde não há uma conexão verdadeira entre as informações e decisão, os danos podem ser irreparáveis para várias vidas.

"Primeira Carta de Algoritmos do Mundo"

Na Nova Zelândia, entre os órgãos já signatários da Carta estão o Ministério da Educação, Ministério do Meio Ambiente, Estatísticas da Nova Zelândia, Força de Defesa da Nova Zelândia, entre outros setores. As forças polícias do país e agências de espionagem, como Government Communications Security Bureau, ainda não aderiram ao documento. Cabe frisar que algoritmos por meio de IA também são usados de forma significativa nas rotinas de polícias, como na definição de rondas, patrulhamentos e operações, o que torna estas corporações também sujeitas à erros proporcionados pelas decisões de computadores.

Fonte: olhardigital