Ensinando a Inteligência Artificial a dizer Eu não sei

Redação do Site Inovação Tecnológica - 04/01/2022

Os modelos de IA atuais sempre dão respostas - sem especificar o grau de incerteza da previsão.
[Imagem: Leonidas Drosis]

Incerteza na IA

Os modelos de inteligência artificial (IA) já estão sendo usados em saúde pública, internet das coisas e outras aplicações críticas.

Contudo, por serem dependentes de dados passados, há crescentes preocupações quanto aos vieses que esses modelos projetem nas decisões futuras, reproduzindo ou até mesmo ampliando preconceitos passados.

Aditya Prakash e Chao Zhang, da Universidade de Tecnologia da Geórgia, nos EUA, acreditam que dá para fazer melhor se conseguirmos agregar um pouco de sabedoria filosófica a esses algoritmos.

Procurando maneiras de quantificar a incerteza nos modelos de IA, que usam dados de séries temporais para fazer previsões, eles esperam essencialmente ensinar aos modelos o que é conhecido como o paradoxo socrático: "Só sei que não nada sei."

"O principal obstáculo é que os modelos neurais de aprendizado profundo atuais são pobres em quantificar sua incerteza e muitas vezes são excessivamente confiantes em suas previsões. Quantificar a incerteza permitirá que um modelo diga, 'Eu não sei', ao enfrentar situações desconhecidas ou inesperadas," disse Prakash.

Contra o viés na IA

Por não reconhecerem o que não sabem - o que não está em seus dados -, os modelos atuais de inteligência artificial acabam fazendo conjecturas ou suposições - não muito diferente de "chutar" uma resposta - e seguindo em frente como se tivessem chutado corretamente. Isso é particularmente problemático com dados de séries temporais - como monitoramento e previsão de saúde pública - onde suposições e respostas erradas podem levar a níveis mais baixos de confiança nas previsões geradas pelos modelos.

Para resolver essas limitações, além da quantificação da incerteza, a dupla está trabalhando para entender melhor os tipos e fontes de incerteza preditiva.

"Qualificar a incerteza nos permitirá selecionar dinamicamente um subconjunto de modelos que seja mais confiável, o que poderá melhorar a eficiência do sistema e as decisões em tempo de execução," disse Zhang. "Precisamos de modelos que partam de princípios que sejam flexíveis o suficiente para modelar incertezas de múltiplas fontes nos conjuntos de dados e também produzir previsões precisas."

A incerteza é inseparável da ciência, talvez porque a incerteza seja parte intrínseca da própria realidade.
[Imagem: S. J. Weber et al./Nature]

Com tanta dependência de tarefas e dados específicos, os pesquisadores afirmam que é difícil fornecer estimativas precisas de melhorias de eficiência com base em sua nova abordagem. Os resultados preliminares na previsão de doenças, no entanto, indicam que os novos modelos, algoritmos e técnicas da dupla podem superar os modelos de última geração anteriores em até 2,5x em precisão e 2,4x em confiabilidade.

As técnicas e ferramentas resultantes deste projeto serão de código aberto, permitindo que os resultados sejam divulgados em cursos, tutoriais e livros, e integrados em novos sistemas de modo livre.

Ferramentas não-paramétricas

Prakash e Zhang também estão adotando outra abordagem para melhorar o estado atual da modelagem preditiva.

Segundo eles, métodos estatísticos não-paramétricos podem ser muito flexíveis e eficazes para modelar dados de séries temporais quando há muitas incógnitas em um conjunto de dados.

De modo geral, isso ocorre porque as ferramentas não-paramétricas analisam as medianas dos grupos, em vez das médias dos grupos. Como resultado, torna-se possível entender melhor os valores discrepantes e usá-los para fortalecer o modelo.

"Nosso objetivo é desenvolver modelos de ponta a ponta com princípios que incorporem restrições e comportamentos hierárquicos. Também incorporaremos sinais de diferentes pontos de vista, como sinais demográficos, sinais de séries temporais e modelos mecanicísticos, para permitir que eles se reforcem mutuamente para tornar os modelos mais precisos, confiáveis e robustos," disse Zhang.

A pesquisa chamou a atenção da empresa Meta, antigo Facebook, que já garantiu financiamento para o trabalho.

Mais tópicos