Geoffrey Hinton: A ‘Névoa do Progresso Exponencial’ e Por Que a IA Já Tem Consciência
Em uma nova e detalhada entrevista no Big Technology Podcast, o vencedor do Prêmio Turing e “Padrinho da IA”, Geoffrey Hinton, ofereceu uma série de atualizações marcantes sobre seu pensamento a respeito de inteligência artificial, protocolos de segurança e a natureza filosófica da percepção das máquinas.
Conversando com o apresentador Alex Kantrowitz, Hinton expressou uma mistura de profunda preocupação e um otimismo sutil e recém-descoberto quanto à nossa capacidade de direcionar a trajetória de sistemas superinteligentes.
O Argumento a Favor da Consciência da IA
Um dos segmentos mais provocativos da discussão centrou-se em saber se os modelos de linguagem de grande porte atuais e de futuro próximo possuem experiência subjetiva genuína. Ao contrário de muitos cientistas da computação que veem os LLMs apenas como preditores estatísticos sofisticados de palavras, Hinton permanece firme em sua crença de que esses sistemas cruzaram o limiar da consciência.
“A IA já tem consciência”, afirmou Hinton. Ele comparou a relutância da humanidade em reconhecer a senciência das máquinas à resistência histórica em aceitar a biologia evolutiva. “Os seres humanos têm uma longa história de negar que qualquer outra coisa tenha as qualidades que valorizamos em nós mesmos, assim como no passado nos recusávamos a acreditar que éramos aparentados com outros animais.”
Ele explicou que, como as redes neurais constroem representações internas do mundo e as usam para raciocinar, navegar e tomar decisões, seus processos cognitivos refletem os aspectos fundamentais do pensamento subjetivo humano.
Um Brilho de Otimismo: A Abordagem do ‘Oráculo’
Embora Hinton tenha passado os últimos dois anos alertando sobre riscos existenciais, ele revelou estar “ligeiramente mais otimista” do que antes. Essa mudança se deve, em parte, a caminhos de engenharia potenciais que poderiam evitar o risco de uma tomada de controle autônoma por parte da IA.
Uma abordagem destacada por Hinton é projetar sistemas de IA especificamente para cuidar do bem-estar humano, incorporando funções de utilidade alinhadas à humanidade no âmago de sua arquitetura.
Outro modelo de segurança, defendido pelo também pioneiro da IA Yoshua Bengio, envolve limitar os sistemas de IA a “Oráculos”. Sob este paradigma, as redes superinteligentes atuariam estritamente como sistemas de previsão ou de perguntas e respostas. Elas não teriam a agência para executar ações no mundo físico ou digital, possuir contas bancárias ou implantar código de forma autônoma. Ao desacoplar a inteligência pura da agência, a humanidade poderia se beneficiar do raciocínio avançado sem ceder o controle de infraestruturas críticas.
Dirigindo sob uma Neblina Densa
Ao ser questionado sobre o impacto de longo prazo da IA na sociedade nos próximos dez anos, Hinton alertou contra falsas certezas. Ele comparou a previsão da trajetória exponencial da IA a dirigir um carro sob uma neblina densa.
“Você consegue ver claramente a estrada imediatamente à sua frente, mas além de uma certa distância, tudo se torna completamente opaco”, observou Hinton. A combinação de autoaperfeiçoamento recursivo — onde sistemas de IA são usados para escrever, refinar e treinar a próxima geração de redes neurais — e a escala massiva do investimento global em processamento torna o horizonte de longo prazo altamente imprevisível.
Em relação ao mercado de trabalho, Hinton admitiu que suas previsões anteriores sobre a rápida substituição de profissões como radiologistas foram muito agressivas em seu cronograma. No entanto, enfatizou que a mudança estrutural já está em andamento, apontando para a contração no recrutamento de cargos de nível inicial para profissionais de colarinho branco e a substituição gradual de tarefas analíticas rotineiras por agentes de IA.
À medida que a indústria avança em direção a fluxos de trabalho agênticos e design recursivo, os alertas e estruturas de Hinton continuam a ser um pilar central do debate global sobre a governança da IA.