Geoffrey Hinton, um dos principais responsáveis pelo desenvolvimento da inteligência artificial (IA) moderna, voltou a alertar para os riscos de a tecnologia escapar ao controle humano. Em entrevista ao jornal britânico The Guardian, o cientista afirmou que existe uma possibilidade significativa de os sistemas de IA se tornarem capazes de agir contra os interesses da humanidade. Ele também criticou o presidente dos Estados Unidos, Donald Trump, por defender a autorregulação do setor e utilizar o termo “superinteligência” de maneira que considera equivocada.

Conhecido como o “padrinho da inteligência artificial”, Hinton recebeu o Prêmio Nobel de Física em 2024 por suas contribuições ao desenvolvimento de métodos que possibilitaram o aprendizado de máquinas por meio de redes neurais artificiais. Em 2023, deixou o Google para falar publicamente sobre os riscos associados ao avanço da tecnologia.

Um dos principais pontos de preocupação do cientista é a possibilidade de os sistemas de IA desenvolverem capacidades superiores às humanas e se tornarem difíceis de controlar. Hinton estima que exista uma probabilidade de 10% a 20% de a inteligência artificial provocar a extinção da humanidade nas próximas décadas.

O executivo-chefe da Nvidia, Jensen Huang, contestou essa estimativa. Segundo ele, o percentual não está fundamentado em pesquisas científicas capazes de sustentar uma previsão desse tipo. Hinton respondeu que sua intenção não é apresentar uma previsão precisa, mas demonstrar a dimensão de um risco que considera sério.

Para o cientista, a incerteza sobre o comportamento futuro da tecnologia não elimina a necessidade de medidas preventivas. Ele argumenta que, caso a humanidade perca o controle de sistemas superinteligentes, talvez não exista uma oportunidade de corrigir o problema posteriormente.

O avanço das redes neurais

A trajetória de Hinton está diretamente ligada ao desenvolvimento das redes neurais artificiais, tecnologia inspirada no funcionamento do cérebro humano e fundamental para os atuais sistemas de inteligência artificial.

Durante décadas, essa linha de pesquisa recebeu pouco reconhecimento. Hinton e seus colaboradores defendiam que computadores poderiam aprender padrões a partir de grandes volumes de dados, em vez de depender apenas de regras programadas previamente.

Em 2012, um sistema de reconhecimento de imagens desenvolvido por Hinton e seus alunos alcançou resultados superiores aos dos concorrentes. No mesmo ano, o Google adquiriu a empresa DNNresearch, criada pelo pesquisador, por US$ 44 milhões.

As redes neurais passaram a ocupar uma posição central no desenvolvimento de sistemas capazes de reconhecer imagens, compreender linguagem e produzir textos. Essas tecnologias também estão na base de modelos utilizados por empresas como Google, OpenAI e Anthropic.

A experiência acumulada no setor levou Hinton a acompanhar o crescimento das capacidades dos sistemas que ajudou a desenvolver. Desde que deixou o Google, ele tem defendido maior atenção aos riscos de longo prazo e à necessidade de mecanismos de segurança.

Críticas a Trump e às empresas

Hinton também criticou a posição de Donald Trump sobre a regulamentação da inteligência artificial. O presidente norte-americano tem defendido que as empresas do setor tenham liberdade para desenvolver a tecnologia com poucas restrições governamentais.

O cientista comparou essa proposta à possibilidade de permitir que empresas de setores como petróleo, amianto e tabaco definam suas próprias regras de segurança. Para ele, a experiência dessas indústrias demonstra a importância de mecanismos externos de fiscalização.

Hinton também questionou o uso do termo “superinteligência” por Trump. Na definição apresentada pelo cientista, o conceito se refere a sistemas com capacidade intelectual superior à humana. O emprego da palavra como uma denominação genérica para a inteligência artificial, segundo ele, não altera as capacidades reais da tecnologia.

O pesquisador ainda manifestou preocupação com a concentração de poder entre empresários e investidores do setor. Na avaliação dele, as convicções políticas de alguns dos principais financiadores e executivos da indústria podem influenciar o futuro das instituições democráticas.

Máquinas e consciência

Outro tema abordado por Hinton é a dificuldade de compreender como os sistemas de inteligência artificial processam informações e produzem respostas. Para ele, a capacidade desses modelos de interpretar perguntas e responder a situações complexas exige uma discussão mais aprofundada sobre o significado de compreensão e consciência.

O cientista rejeita a ideia de que exista necessariamente uma característica exclusiva da mente humana que impeça máquinas de apresentar algum tipo de experiência subjetiva. A questão, porém, permanece em debate entre pesquisadores e filósofos, e a capacidade de produzir respostas coerentes não demonstra, por si só, que um sistema tenha consciência.

Hinton compara a transformação provocada pela inteligência artificial a mudanças históricas na compreensão da posição humana no Universo. Ele cita as ideias de Nicolau Copérnico, que retiraram a Terra do centro do modelo cosmológico, e a teoria da evolução de Charles Darwin, que modificou a compreensão sobre a origem das espécies.

Na avaliação do pesquisador, a possibilidade de desenvolver sistemas intelectualmente superiores aos seres humanos exigirá uma mudança semelhante na maneira como a sociedade compreende sua própria posição.

Ética e segurança

A discussão sobre os riscos da IA também envolve a maneira como os sistemas são treinados para responder a situações complexas. Modelos expostos a grandes volumes de conteúdo disponível na internet podem reproduzir preconceitos, informações falsas e comportamentos prejudiciais. As empresas procuram reduzir esses problemas por meio de treinamento adicional e mecanismos de segurança.

Hinton argumenta que impedir respostas inadequadas não equivale necessariamente a desenvolver sistemas capazes de agir de maneira consistentemente ética. Para ele, a segurança deve considerar não apenas a inteligência dos modelos, mas também os comportamentos que apresentam e a forma como interagem com os seres humanos.

A Anthropic, responsável pelo chatbot Claude, promoveu encontros com estudiosos da religião, teólogos e filósofos para discutir questões relacionadas à ética, à virtude e à possibilidade de consciência em sistemas artificiais.

Hinton defende que os países compartilhem conhecimentos sobre segurança da inteligência artificial, inclusive com rivais geopolíticos. Segundo ele, existe um interesse comum em impedir que a tecnologia seja utilizada para dominar outras nações.

O cientista também propõe que o desenvolvimento da IA considere a possibilidade de uma convivência de longo prazo entre humanos e máquinas. Para isso, afirma, as empresas precisam avaliar os efeitos de seus sistemas para além do aumento da capacidade intelectual.