Problema da Banana Solitária expõe falha da IA para entender mundo real

Redação do Site Inovação Tecnológica - 29/06/2023

Os pedidos para desenhar uma única banana renderam duas bananas em todas as imagens.
[Imagem: Digital Science/Daniel Hook]

Mas eu só quero uma banana!

Até uma criança consegue desenhar uma banana, mas peça a um programa de inteligência artificial (IA) gerador de arte para fazer isso e os resultados podem surpreendê-lo!

Ao menos surpreenderam o professor o professor Daniel Hook, que saiu da Universidade de Cambridge, no Reino Unido, para liderar sua própria empresa de pesquisas, a Digital Science, que pretende usar a IA para realizar pesquisas colaborativas.

Ele pegou os programas de IA mais usados para geração de imagens e então fez a eles um pedido simples: "Desenhe uma única banana lançando uma sombra sobre um fundo cinza".

Para surpresa do pesquisador, em vez de uma banana, a IA desenhou duas bananas - e repetiu as duas bananas todas as vezes, mesmo com o pedido sendo refeito de diversas maneiras.

Hook continuou o experimento por um período de semanas, com a IA falhando até o final. E isso é importante para ele porque ele pretende que sua empresa use essa tecnologia em seus produtos.

O pesquisador finalmente Hook publicou os resultados de seu experimento de arte com IA em um artigo chamado "O Problema da Banana Solitária".

• Inteligência Artificial é reprovada em testes no mundo real

Este foi o resultado ante o pedido "Desenhe um macaco invisível segurando uma única banana".
[Imagem: Digital Science/Daniel Hook]

O Problema da Banana Solitária

Na tentativa inicial, usando um programa de IA gerador de arte chamado Midjourney, o pesquisador obteve quatro resultados (a primeira imagem deste artigo), todos mostrando duas bananas, e não uma.

Pensando que devia ter cometido um erro, Hook tentou diferentes solicitações, como: "Uma banana madura perfeita sobre um fundo cinza puro projetando uma sombra clara, hiper-realista", ou "Uma única banana madura perfeita sozinha sobre um fundo cinza puro projetando um sombra de luz, fotografia hiper-realista" e "Uma banana perfeita sozinha em uma superfície cinza-clara uniforme, tirada de cima, fotografia hiper-realista". Todos esses pedidos também resultaram em duas ou mais bananas.

E a coisa podia piorar: Quando o pesquisador pediu "Um macaco invisível com uma única banana", todos os resultados renderam macacos muito visíveis segurando duas ou mais bananas.

"Todas as imagens que pedi ao Midjourney produzir continham duas (ou mais) bananas, aparentemente não importando como eu tivesse pedido. Os resultados foram os mesmos, com alienígenas e outros animais segurando bananas. De modo um tanto bizarro, vários dos macacos acabaram vestindo bananas ou tendo cor de banana," contou Hook.

• Ensinando a Inteligência Artificial a dizer "Eu não sei"

Estes foram os melhores resultados, depois que o pesquisador tentou se ajustar ao máximo à IA. Mesmo aqui, contudo, uma das imagens trouxe duas bananas.
[Imagem: Digital Science/Daniel Hook]

Por que o erro da IA importa?

O Dr. Hook diz que o Problema da Banana Solitária destaca que "mesmo que esta tecnologia esteja se desenvolvendo rapidamente e que seus resultados sejam impressionantes, ainda existem lacunas e, embora nem sempre sejam imediatamente notáveis, elas não são pequenas".

"As IAs em seu nível atual de desenvolvimento não percebem objetos do modo que nós percebemos - elas entendem padrões que ocorrem comumente. Sua realidade é fundamentalmente diferente da nossa - ela não nasce no mundo físico, mas em um mundo lógico. Certamente, à medida que sucessivas gerações de IA são desenvolvidas, é fácil para nós ter interações com elas que sugerem que elas realmente entendem... E, ainda assim, sem uma noção do mundo físico, uma IA tem um problema com o conceito de uma única banana."

Saber que as IAs não entendem o mundo real ou as pessoas da maneira que pensamos é "um passo importante para assumir responsabilidade ao desenvolver com base nessas tecnologias quando criamos novas ferramentas," defende o pesquisador.

"[...] acreditamos que temos a responsabilidade de garantir que as tecnologias que lançamos sejam bem testadas e bem compreendidas. Os casos de uso em que implantamos IA devem ser apropriados para o nível em que sabemos que a IA pode funcionar, e qualquer funcionalidade precisa vir com um 'aviso de saúde' para que as pessoas saibam o que precisam procurar - quando podem confiar em uma IA e quando não deveriam," concluiu o pesquisador.

• Computação inteligente levanta 10 questões científicas fundamentais

Mais tópicos