Inteligência artificial aprende a lembrar, generalizar e abstrair

Redação do Site Inovação Tecnológica - 30/09/2020

Embora as redes complexas sejam capazes de evoluir e até prever alguns minutos no futuro, o esquecimento catastrófico tem levado especialistas a defender novas formas de inteligência artificial.
[Imagem: Research on Complex Systems Group/Northwestern University]

Esquecimento catastrófico

O chamado problema do esquecimento catastrófico tem sido um dos maiores entraves ao desenvolvimento da inteligência artificial.

Esses programas têm sua "inteligência" derivada de um treinamento com gigantescos bancos de dados, quando eles aprendem a derivar conclusões a partir desses dados. Ocorre que, tão logo você dê a eles novas informações, eles aprendem o novo e esquecem totalmente o que haviam aprendido antes, sem ponderar se as duas coisas podem ocorrer em situações diferentes, por exemplo.

"Uma solução seria armazenar exemplos encontrados anteriormente e revisitá-los ao aprender algo novo. Embora essa 'repetição' ou 'ensaio' resolva o esquecimento catastrófico, o constante retreinamento em todas as tarefas aprendidas anteriormente é altamente ineficiente e a quantidade de dados que teria de ser armazenada torna-se rapidamente incontrolável," descrevem Gido van de Ven e seus colegas da Universidade de Massachusetts, nos EUA.

Mas eles afirmam ter encontrado uma maneira de contornar esse esquecimento repentino usando uma característica do funcionamento do cérebro humano, um mecanismo de memória conhecido como "repetição", ou replay, uma forma de o cérebro proteger memórias contra o esquecimento repetindo os padrões neurais responsáveis por elas.

Repetição com abstração

A grande sacada da equipe foi perceber que a repetição neural do cérebro não armazena dados. Em vez disso, o cérebro gera representações de memórias em um nível mais alto e mais abstrato, sem a necessidade de gerar memórias detalhadas.

Inspirando-se nesse mecanismo, a equipe criou uma repetição semelhante a um cérebro artificial, em um processo no qual nenhum dado é armazenado. Em vez disso, como o cérebro, a rede gera representações de alto nível do que havia aprendido antes.

Em termos simples, eles substituíram a repetição do aprendizado anterior, que exige rever todos os dados passados, por uma representação interna do conhecimento atual feito pela própria rede de aprendizado profundo.

Por exemplo: "Se nossa rede com reprodução generativa primeiro aprender a separar gatos de cachorros e, em seguida, separar ursos de raposas, ela também distinguirá gatos de raposas sem ser especificamente treinada para isso. E, notavelmente, quanto mais o sistema aprende, melhor aprenderá novas tarefas," disse van de Ven.

A técnica, batizada de "repetição cerebral generativa abstrata", mostrou-se altamente eficiente, com a repetição de apenas algumas memórias sendo suficiente para lembrar coisas aprendidas anteriormente e aprender novas e generalizar aprendizados de uma situação para outra.

"Nosso método faz várias previsões interessantes sobre como a repetição pode contribuir para a consolidação da memória no cérebro. Já estamos realizando um experimento para testar algumas dessas previsões," adiantou o pesquisador.

Mais tópicos