Inteligência artificial pode desenvolver preconceito por contra própria

A inteligência artificial não precisará ser incorporada em máquinas complexas para criar seus próprios perigos. Por isso, pesquisadores defendem uma Lei Única da Robótica

Preconceito de máquina

Pode parecer que o preconceito seja um fenômeno específico do ser humano, que requer que a cognição humana forme uma opinião ou estereótipo de determinada pessoa ou grupo.

Contudo, especialistas em ciência da computação e psicologia da Universidade de Cardiff (Reino Unido) e do MIT (EUA) demonstraram matemática e experimentalmente que grupos de máquinas autônomas podem demonstrar preconceito simplesmente identificando, copiando e aprendendo esse comportamento umas das outras – sim, uma máquina se baseando nas outras, independentemente de seres humanos que as ensinem a odiar.

Embora alguns tipos de algoritmos de computador já tenham apresentado preconceitos, como racismo e sexismo, baseados no aprendizado de registros públicos e outros dados gerados por humanos, este novo trabalho demonstra a possibilidade de a inteligência artificial desenvolver grupos preconceituosos por conta própria.

Mais do que isso, o trabalho prova que a emergência do preconceito não requer um alto nível de capacidade cognitiva, ou seja, ele pode ser desenvolvido por máquinas bem simples. Esse comportamento pode ser facilmente incorporado por robôs ou programas de computador projetados seguindo os mecanismos da inteligência artificial

Todas estas conclusões foram baseadas em simulações em computador de como agentes virtuais podem formar um grupo e interagir uns com os outros.

Os resultados envolvem indivíduos virtuais que atualizam seus níveis de preconceito copiando preferencialmente aqueles que obtêm um retorno mais alto em curto prazo de suas decisões, o que significa que essas decisões não exigem necessariamente habilidades cognitivas avançadas – elas podem ser apresentadas, por exemplo, pela capacidade computacional incorporada em veículos autônomos ou mesmo em dispositivos simples, como os da Internet das Coisas.

Outra constatação interessante da simulação foi que, sob condições particulares, que incluem subpopulações mais distintas estando presentes em uma população, é mais difícil para que o preconceito se estabeleça.

Origem: Inovação Tecnológica

Marcelo Peres

mpperes@guiadocftv.com.br

GuiadoCFTV

Avalie esta notícia, mande seus comentários e sugestões. Encontrou alguma informação incorreta ou algum erro no texto?

Importante: ‘Todos os Conteúdos divulgados decorrem de informações provenientes das fontes aqui indicadas, jamais caberá ao Guia do CFTV qualquer responsabilidade pelo seu conteúdo, veracidade e exatidão. Tudo que é divulgado é de exclusiva responsabilidade do autor e ou fonte redatora.’

Quer enviar suas notícias? Envie um e-mail para noticias@guiadocftv.com.br