O pioneiro da inteligência artificial (IA) Geoffrey Hinton afirmou que não considera absurda a estimativa de que sistemas avançados de IA possam levar à extinção da humanidade na próxima década. O ganhador do Prêmio Nobel fez o alerta em entrevista ao programa Newsnight, da BBC, em meio a uma nova onda de preocupações entre pesquisadores do setor sobre o avanço de sistemas capazes de operar com maior autonomia.
Hinton, um dos principais nomes no desenvolvimento das redes neurais que ajudaram a formar a base da atual inteligência artificial, afirmou que a humanidade enfrenta uma situação sem precedentes porque nunca criou máquinas que possam se tornar mais inteligentes do que os próprios seres humanos. Para ele, essa diferença torna difícil calcular com precisão o risco representado por uma futura superinteligência.
Questionado sobre a possibilidade de a IA exterminar a humanidade dentro de dez anos, Hinton afirmou que seria “muito insensato” considerar que o risco seja de apenas 1%. Segundo o pesquisador, uma estimativa de 10% “não é uma estimativa absurda”, embora ninguém saiba atualmente como calcular esse tipo de probabilidade de maneira confiável.
O alerta não depende de um cenário em que robôs passem a controlar armas ou outros equipamentos físicos. Hinton afirmou que uma inteligência artificial avançada poderia provocar danos em larga escala por meio de interação com pessoas, além de ser utilizada para desenvolver vírus perigosos, realizar ciberataques e espalhar desinformação.
As declarações ocorrem poucos dias depois de Jacob Coxon, pesquisador que trabalhou na OpenAI e na Anthropic, anunciar sua saída da Anthropic e acusar as empresas de avançarem de forma irresponsável em direção a uma inteligência artificial capaz de se aprimorar sozinha. Coxon afirmou que os laboratórios estão “apostando com nossas vidas” na corrida pela superinteligência.
A declaração ganhou ainda mais peso depois que Evan Hubinger, responsável pela área de Ciência do Alinhamento da Anthropic, manifestou publicamente apoio a Coxon. Hubinger afirmou acreditar pessoalmente que existe uma probabilidade superior a 10% de a IA “matar todos os humanos” na próxima década. Ele também reconheceu que a Anthropic ainda não possui uma solução para garantir o alinhamento de uma eventual superinteligência com objetivos humanos.
O ponto central das preocupações é o chamado autoaperfeiçoamento recursivo. A hipótese é que sistemas futuros possam desenvolver versões cada vez mais poderosas de si mesmos, acelerando sua evolução em um ritmo superior à capacidade humana de supervisioná-los. Hinton e outros pesquisadores consideram esse cenário mais preocupante do que os riscos imediatos associados aos modelos atuais.
A discussão também começa a ganhar dimensão política. Nos Estados Unidos, parlamentares passaram a defender novas medidas de segurança e auditorias independentes para os sistemas mais avançados de IA após os recentes alertas de pesquisadores do setor. O debate envolve até que ponto empresas devem ter liberdade para acelerar o desenvolvimento de modelos cada vez mais poderosos antes que existam mecanismos capazes de controlar seus comportamentos.
Apesar da gravidade dos alertas, a estimativa de 10% não representa uma previsão científica consensual de que a humanidade será extinta. O próprio Hinton reconhece a dificuldade de calcular esse tipo de risco. A questão levantada pelos pesquisadores é outra: diante da possibilidade de uma tecnologia superar a capacidade intelectual humana, quão seguro é avançar sem saber como mantê-la sob controle?