O Prêmio Nobel e a Insondabilidade da Inteligência Artificial

Imagine que você construiu um relógio extremamente complexo. Você sabe como cada engrenagem funciona individualmente, mas quando todas elas se encaixam e o relógio começa a marcar as horas, você não consegue acompanhar mentalmente cada movimento de cada peça. É algo similar ao que acontece com as redes neurais.

As redes neurais modernas possuem milhões, senão bilhões, de conexões entre neurônios artificiais. Essa complexidade cria um sistema com um comportamento emergente que é difícil de prever e explicar completamente.

Ao alimentar uma rede neural com grandes quantidades de dados, ela "aprende" a identificar padrões e fazer previsões. No entanto, o processo exato pelo qual ela chega a essas conclusões permanece obscuro. A rede neural é uma caixa preta: sabemos o que entra e o que sai, mas não o que acontece dentro.

Geoffrey Hinton, um dos pioneiros da inteligência artificial e um dos vencedores do Prêmio Nobel de Física de 2024, tem se destacado por suas profundas reflexões sobre a natureza das redes neurais artificiais. Uma das suas afirmações mais intrigantes é que, mesmo tendo criado essas redes, não compreendemos completamente o que ocorre dentro delas durante o processo de aprendizado.

Se não sabemos como uma rede neural chega a suas decisões, como podemos confiar em seus resultados, especialmente em áreas críticas como medicina e justiça? A falta de interpretabilidade dificulta a identificação e a correção de erros nas redes neurais.

Se conseguirmos desvendar os mistérios das redes neurais, poderemos criar modelos ainda mais poderosos e eficientes.

Pesquisadores em todo o mundo estão trabalhando em técnicas para tornar as redes neurais mais transparentes e interpretáveis, como criar ferramentas para visualizar o que acontece dentro das redes neurais, como mapas de ativação e gráficos de atenção. Ou mesmo criar algoritmos que possam gerar explicações humanas para as decisões tomadas pelas redes neurais.

Um dos cientistas que mais contribuíram para o entendimento das redes neurais foi Shun'ichi Amari, especialmente sob o aspecto da teoria da informação. Foi meu mestre no RIKEN quando fui estagiário e depois pesquisador/cientista.

A teoria da informação é um ramo da matemática e da engenharia que lida com a transmissão, processamento e armazenamento de informações. Ela foca principalmente em quantificar a quantidade de informação em mensagens, determinando a capacidade máxima de canais de comunicação (como cabos e ondas de rádio) para transmitir dados, e na criação de métodos para codificar e comprimir dados de modo que possam ser transmitidos com o mínimo de erros e de uso de recursos.

Amari é conhecido por seus trabalhos em geometria da informação, onde ele aplica conceitos geométricos e estatística em redes neurais. Essa abordagem quer entender as propriedades de sistemas computacionais, oferecendo uma perspectiva única sobre a eficiência e a computação em redes neurais e como ela efetivamente imita o cérebro.

Seguindo o caminho dele, pesquisadores concluíram que a teoria da informação pode ser um princípio computacional fundamental utilizado pelo cérebro para processar informações visuais, apoiando a compreensão de como o sistema visual se adapta para representar um ambiente complexo de forma econômica.

Ou seja, em vez de imitar o cérebro, em seus arranjos de neurônios, tentar entender matematicamente como as diferentes partes do cérebro se comunicam. O trabalho teve sucesso! É possível obter representações que se assemelham às respostas dos neurônios no córtex visual primário.

A pesquisa sugere que processos que ferramentas da teoria da inforrmação podem ser um princípio computacional fundamental utilizado pelo cérebro para processar informações visuais de maneira eficiente, apoiando a compreensão de como o sistema visual adapta-se para representar um ambiente complexo de forma econômica.

Comparo as redes neurais atuais como as que estão no ChatGPT como essas que estão implementadas àquelas televisões à válvula, da década de 1970: imensas, ineficientes e consumidoras de energia. 

O caminho é entender como o cérebro funciona, como tem feito, há décadas, Shun'ichi Amari. Que merecia, claramente, o Nobel.

*Allan Kardec Duailibe Barros Filho, 55 anos, é doutor em engenharia da informação pela Universidade de Nagoya (Japão). É professor titular da UFMA (Universidade Federal do Maranhão). Foi diretor da ANP (Agência Nacional do Petróleo, Gás Natural e Biocombustíveis) e atualmente é presidente da Gasmar (Companhia Maranhense de Gás)

As opiniões, crenças e posicionamentos expostos em artigos e/ou textos de opinião não representam a posição do Imirante.com. A responsabilidade pelas publicações destes restringe-se aos respectivos autores.

Leia outras notícias em Imirante.com. Siga, também, o Imirante nas redes sociais X, Instagram, TikTok e canal no Whatsapp. Curta nossa página no Facebook e Youtube. Envie informações à Redação do Portal por meio do Whatsapp pelo telefone (98) 99209-2383.