Não há impeditivo teórico para que Inteligência Artificial atinja consciência

Com informações da New Scientist - 30/08/2023

Têm aumentado as preocupações de que a inteligência artificial nos leve a uma "singularidade tecnológica", quando a inteligência das máquinas superaria nossa própria inteligência e passaria a melhorar-se de modo autônomo.
[Imagem: Danqing Wang]

A IA ficará autoconsciente

As inteligências artificiais disponíveis e publicamente conhecidas hoje já atingiram algum nível de consciência?

Não, é a conclusão da investigação mais completa e rigorosa da questão feita até agora, apesar das capacidades impressionantes dos modelos de IA mais recentes, como o ChatGPT.

Mas a equipe de especialistas em filosofia, computação e neurociências por trás do estudo afirma que não há barreira teórica para que a IA alcance a autoconsciência.

O debate sobre se a IA é - ou mesmo pode ser - senciente tem durado décadas e só tem aumentado nos últimos anos, graças ao advento dos grandes modelos de linguagem, capazes de manter conversas convincentes e gerar texto sobre uma variedade de tópicos.

No início deste ano, a Microsoft testou o GPT-4 da OpenAI e afirmou que o modelo já exibia "faíscas" de inteligência geral. Blake Lemoine, um ex-engenheiro do Google, deu um passo além, alegando que a inteligência artificial LaMDA da empresa havia realmente se tornado senciente - ele até contratou um advogado para proteger os direitos da IA antes de deixar a empresa.

Agora, uma equipe do Centro para a Segurança da IA, uma organização sem fins lucrativos com sede em São Francisco, nos EUA, analisou várias teorias proeminentes da consciência humana para criar uma lista de 14 "propriedades indicadoras" que um modelo de IA consciente provavelmente apresentaria.

A computação inteligente levanta 10 questões científicas fundamentais.
[Imagem: Pete Linforth/Pixabay]

Sinais indicadores de consciência

Usando sua lista de "sinais de consciência", os pesquisadores examinaram os modelos atuais de IA, incluindo o Agente Adaptivo da DeepMind e o PaLM-E, em busca de sinais dessas propriedades.

Mas eles não encontraram nenhuma evidência significativa de que qualquer modelo atual fosse consciente. Eles afirmam que os modelos de IA que apresentam mais indicadores que sinalizam consciência têm maior probabilidade de serem conscientes, e que alguns modelos já possuem propriedades individuais - mas que não há sinais significativos de consciência.

A equipe defende que é suficientemente plausível que a IA se torne consciente no curto prazo, o que justificaria mais pesquisas na área e uma melhor preparação dos humanos para lidar com a situação - novas pesquisas poderão mudar, aumentar ou diminuir a lista de 14 indicadores indicativos de consciência que eles listam em seu artigo, ressaltam os pesquisadores.

"Nós esperamos que o esforço [para examinar a consciência da IA] continue," disse Robert Long, membro da equipe. "Gostaríamos de ver outros pesquisadores modificarem, criticarem e ampliarem nossa abordagem. A consciência da IA não é algo que qualquer disciplina possa enfrentar sozinha. Isso requer conhecimentos especializados das ciências da mente, IA e filosofia."

Como testar se estamos vivendo em uma simulação de computador?
[Imagem: NASA/ESA/CSA/STScI]

Ética nos dois sentidos

Long acredita que, assim como estudar a consciência animal, a investigação da consciência da IA deve começar com o que sabemos sobre os humanos - mas não devemos nos ater rigidamente a isso.

"Há sempre o risco de confundir a consciência humana com a consciência em geral," diz ele. "O objetivo do artigo é obter algumas evidências e pesá-las rigorosamente. Neste momento, a certeza sobre a consciência da IA é um padrão alto demais para ser atingido."

Já Colin Klein, da Universidade Nacional Australiana, também membro da equipe, afirma que é vital que entendamos como detectar a consciência de máquina se e quando ela chegar, por dois motivos: Para ter certeza de que não a trataremos de forma antiética e para garantir que ela não nos trate de forma antiética.

"Esta é a ideia de que, se pudermos criar essas IAs conscientes, iremos tratá-las basicamente como escravas, e fazer todo tipo de coisas antiéticas com elas," detalha Klein. "O outro lado é, se nos preocupamos conosco e o que a IA fará se ela atingir esse estado, que tipo de controle terá sobre nós - Será ela capaz de nos manipular?"

• Inteligência Organoide: Minicérebros poderão virar biocomputadores?

Mais tópicos