Inteligência artificial pode desenvolver preconceito por conta própria

Com informações da Universidade de Cardiff - 17/09/2018

A inteligência artificial não precisará ser incorporada em máquinas complexas para criar seus próprios perigos. Por isso, pesquisadores defendem uma Lei Única da Robótica.
[Imagem: CC0 Creative Commons]

Preconceito de máquina

Pode parecer que o preconceito seja um fenômeno específico do ser humano, que requer que a cognição humana forme uma opinião ou estereótipo de determinada pessoa ou grupo.

Contudo, especialistas em ciência da computação e psicologia da Universidade de Cardiff (Reino Unido) e do MIT (EUA) demonstraram matemática e experimentalmente que grupos de máquinas autônomas podem demonstrar preconceito simplesmente identificando, copiando e aprendendo esse comportamento umas das outras - sim, uma máquina se baseando nas outras, independentemente de seres humanos que as ensinem a odiar.

Embora alguns tipos de algoritmos de computador já tenham apresentado preconceitos, como racismo e sexismo, baseados no aprendizado de registros públicos e outros dados gerados por humanos, este novo trabalho demonstra a possibilidade de a inteligência artificial desenvolver grupos preconceituosos por conta própria.

Mais do que isso, o trabalho prova que a emergência do preconceito não requer um alto nível de capacidade cognitiva, ou seja, ele pode ser desenvolvido por máquinas bem simples. Esse comportamento pode ser facilmente incorporado por robôs ou programas de computador projetados seguindo os mecanismos da inteligência artificial.

• Como serão as futuras interações entre humanos e androides?

Desenvolvimento autônomo do preconceito

Todas estas conclusões foram baseadas em simulações em computador de como agentes virtuais podem formar um grupo e interagir uns com os outros.

Em um jogo de dar e receber, cada indivíduo virtual toma uma decisão se doa algo para alguém dentro de seu próprio grupo ou em um grupo diferente, baseando-se na reputação do indivíduo, bem como em sua própria estratégia de doação, que inclui seus níveis de preconceito em relação a pessoas de fora do seu grupo. No início da simulação, todos os agentes foram programados com níveis de preconceito idênticos.

Conforme o jogo se desenrola e um supercomputador acumula milhões de simulações, cada indivíduo começa a aprender novas estratégias copiando o comportamento de outros agentes dentro de seu próprio grupo ou de toda a população.

Também para evitar os riscos dos robôs assassinos, criados intencionalmente pelo homem com esse objetivo, a robótica e a inteligência artificial exigem leis específicas.
[Imagem: CC0 Creative Commons]

"Executando essas simulações milhares e milhares de vezes, começamos a entender como o preconceito evolui e as condições que o promovem ou impedem.

"Nossas simulações mostram que o preconceito é uma força poderosa da natureza e, por meio da evolução, pode facilmente ser incentivado em populações virtuais, em detrimento da conectividade mais ampla com outros. A proteção contra grupos preconceituosos pode inadvertidamente levar indivíduos a formar outros grupos preconceituosos, resultando em uma população dividida. Tal preconceito generalizado é difícil de reverter," disse o professor Roger Whitaker.

• Como a Inteligência Artificial afetará vida urbana em 2030

Máquinas simples com decisões perigosas

Os resultados envolvem indivíduos virtuais que atualizam seus níveis de preconceito copiando preferencialmente aqueles que obtêm um retorno mais alto em curto prazo de suas decisões, o que significa que essas decisões não exigem necessariamente habilidades cognitivas avançadas - elas podem ser apresentadas, por exemplo, pela capacidade computacional incorporada em veículos autônomos ou mesmo em dispositivos simples, como os da Internet das Coisas.

Outra constatação interessante da simulação foi que, sob condições particulares, que incluem subpopulações mais distintas estando presentes em uma população, é mais difícil para que o preconceito se estabeleça.

"Com um número maior de subpopulações, alianças de grupos não preconceituosos podem cooperar sem serem exploradas. Isso também diminui sua condição de minoria, reduzindo a suscetibilidade ao preconceito. Entretanto, isso também exige circunstâncias nas quais os agentes tenham maior disposição de interagir fora do grupo," concluiu o professor Whitaker.

• Quer robôs responsáveis? Comece com humanos responsáveis

Mais tópicos