Há risco de que a IA cause extinção dos humanos, dizem cientistas

Com informações da New Scientist - 11/01/2024

Outra pesquisa mostrou que um terço dos especialistas acredita que IA pode causar uma catástrofe global.
[Imagem: Danqing Wang]

Risco de extinção humana

Na maior pesquisa já realizada entre cientistas e profissionais de inteligência artificial (IA), a maioria afirma que existe um risco não trivial de extinção da raça humana devido ao possível desenvolvimento de IAs sobre-humanas.

Muitos pesquisadores de inteligência artificial já se pronunciaram a respeito do possível desenvolvimento futuro da IA sobre-humana como trazendo uma possibilidade não trivial de causar a extinção humana - mas há também desacordo generalizado e incerteza sobre tais riscos.

A pesquisa pediu aos participantes que compartilhassem suas ideias sobre possíveis cronogramas para futuros marcos tecnológicos de IA (a pesquisa apresentou uma lista das capacidades esperadas para a IA no futuro), bem como as consequências sociais boas ou ruins dessas conquistas. Foram ouvidos 2.700 especialistas, selecionados entre os que publicaram recentemente trabalhos em seis das principais conferências de inteligência artificial em todo o mundo, tornando esta a maior pesquisa desse tipo até o momento.

Quase 58% dos entrevistados afirmaram considerar que existe uma probabilidade de ao menos 5% de extinção humana ou de outros resultados extremamente negativos relacionados com a IA em diversos horizontes temporais.

"É um sinal importante que a maioria dos pesquisadores de IA não considera fortemente implausível que a IA avançada destrua a humanidade," disse Katja Grace, uma das autoras do trabalho. "Acho que esta crença geral num risco não minúsculo é muito mais reveladora do que a porcentagem exata de risco."

Não conseguiremos controlar computadores superinteligentes.
[Imagem: Manuel Alfonseca et al. - 10.1613/jair.1.12202]

Previsão do futuro

Prever o futuro está longe de ser uma ciência exata, e na verdade não existem bons registros da aferição de previsões feitas por cientistas. Contudo, uma versão anterior desta mesma pesquisa mostrou resultados razoáveis na previsão dos especialistas sobre os marcos que a IA atingiria nos anos seguintes.

Em comparação com as respostas anteriores, muitos pesquisadores de IA agora preveem que a IA atingirá alguns marcos antes do que eles previram anteriormente.

As previsões agora são de que, na próxima década, os sistemas de IA terão uma probabilidade de 50% ou mais de resolver com sucesso a maioria das 39 tarefas de exemplo, incluindo escrever novas músicas indistinguíveis de um sucesso ou codificar um site inteiro de processamento de pagamentos a partir do zero. Espera-se que outras tarefas, como projetar a fiação elétrica em uma nova casa ou resolver mistérios matemáticos de longa data, demorem mais.

O possível desenvolvimento de uma IA que possa superar os humanos em todas as tarefas alcançou 50% de probabilidade de acontecer até 2047, enquanto a possibilidade de todos os trabalhos humanos se tornarem totalmente automatizáveis teve 50% de probabilidade de acontecer até 2116. Estas estimativas estão 13 anos e 48 anos, respectivamente, antes dos indicados na pesquisa do ano passado.

Quais são os riscos existenciais para a humanidade?
[Imagem: US Department of Energy]

Riscos mais imediatos

Existem também preocupações mais imediatas, sem chegar ao nível dos riscos sobre-humanos da inteligência artificial: A grande maioria dos especialistas ouvidos - 70% ou mais - descreveu os cenários alimentados pela IA, envolvendo notícias falsas, manipulação da opinião pública, projetos de armas, controle autoritário das populações e agravamento da desigualdade econômica, como sendo de preocupação substancial ou extrema.

A pesquisa também destaca a preocupação de que a IA contribua para a desinformação em torno de questões existenciais, como as mudanças climáticas e as ameaças à democracia.

"Já temos a tecnologia, aqui e agora, que pode minar seriamente a democracia," disse Émile Torres, da Universidade Case Western, nos EUA. "Veremos o que acontece nas eleições de 2024."

Mais tópicos