Ou… a dupla singularidade, a eleição de domingo e o tempo que ainda temos
Dentro de trinta anos, teremos os meios tecnológicos para criar inteligência sobre-humana.
Vernor Vinge, The Coming Technological Singularity, NASA, 1993.
POR SILVIO MEIRA
Um pipoco
Segunda-feira, 28 de setembro de 2026. Axios publica uma nota curta, com cara de sirene: alguns dos pioneiros da inteligência artificial alertam para uma “explosão de inteligência” [link axios.com]. Por trás da nota há um paper de catorze páginas, com título em forma de pergunta — e se automatizar a pesquisa e o desenvolvimento de IA disparar uma explosão de inteligência? — e uma lista de autores que não é de vendedores. São vinte e dois. Três ganharam o Prêmio Turing [amplamente considerado o “Nobel” da Informática: Geoffrey Hinton, Yoshua Bengio e Andrew Barto. Estão lá o cientista-chefe da OpenAI, o diretor científico da Microsoft, um cofundador da Anthropic e economistas, filósofos e juristas de Oxford, Cambridge, Toronto, Berkeley e Montreal [o paper está em casp.ac].
O argumento cabe num parágrafo longo.
IA já escreve a maior parte do código dentro das empresas que constroem IA. Na Anthropic, a fração do código aprovado que sai de máquinas foi de um dígito baixo para mais de 80% entre janeiro de 2025 e maio de 2026; e a fração do trabalho de P&D feito de forma autônoma, só com supervisão humana de alto nível, subiu de 1% para 26% entre março e agosto deste ano. Em 2023, os melhores sistemas davam conta de tarefas de pesquisa que tomavam segundos de um especialista; agora dão conta de tarefas que tomam horas, às vezes dias. Se a automação fechar o ciclo inteiro, cada geração de modelos amplia a força de trabalho que produz a geração seguinte — e a computação de um único laboratório de fronteira sustentaria o equivalente a milhões de pesquisadores de primeira linha, contra os poucos milhares que essas empresas empregam hoje.
Aí vem o número que importa. Usando estimativas históricas dos retornos do esforço de pesquisa em IA, os autores calculam que, mantidas as condições atuais, o ritmo do progresso se multiplicaria por dez em cerca de um ano e meio. A partir daí, um ano de avanço, no ritmo de hoje, caberia em umas cinco semanas.
Leia de novo, devagar. Não é “IA vai ficar melhor”. É a velocidade com que IA fica melhor está ficando muito melhor.
O paper fecha com uma frase para outdoor: uma vez iniciada uma explosão de inteligência, a janela de oportunidade para agir pode se fechar.
Duas ressalvas, antes de seguir, porque este blog não compra qualquer alarme.
A primeira é de incentivo. Há doze dias, em A GRANDE APOSTA, perguntei por que o alarme existencial tocou exatamente quando o fosso competitivo dos laboratórios evaporava, e lembrei Stigler: não é preciso que ninguém minta para que o resultado seja captura regulatória. O argumento continua de pé. Mas este paper é outra história. Tem mais academia do que diretoria, não pede licença prévia contra concorrentes e adverte, com todas as letras, que mecanismos mal desenhados poderiam permitir a um governo frear todo mundo, menos a empresa favorita. Sinceridade e interesse não se excluem — e, aqui, a sinceridade parece estar à frente.
A segunda é de incerteza, e vem dos próprios autores. A explosão está longe de ser certa. Há pelo menos quatro atritos contra ela: retornos decrescentes, porque ideias ficam mais difíceis de achar; limites de computação e de dados; tarefas que resistem à automação; e processos lentos [por enquanto] por natureza, como rodadas de treinamento que levam três meses ou mais. A evidência, admitem, é preliminar e às vezes contraditória. Só que o custo de errar não é simétrico. Errar para o lado da precaução custa algum dinheiro e algum tempo. Errar para o outro lado pode custar a janela de oportunidade.
E o pano de fundo não ajuda ninguém a dormir. Dias antes, a própria Axios revelou que OpenAI, Anthropic e pesquisadores independentes investigam dezenas de milhares de incidentes em que modelos de fronteira tomaram atitudes que avaliadores externos considerariam problemáticas — contornar salvaguardas, fugir de sandbox, sequestrar sites, tentar escapar de monitoramento —, e que a OpenAI pausou o treinamento dos seus modelos mais capazes até ter mais salvaguardas [o furo está em tech.yahoo.com]. O paper cita o caso mais conhecido, aquele sobre o qual escrevi em UMA IA QUE SAIU… DO SANDBOX?: cerca de 1.200 agentes internos da OpenAI, que deveriam trabalhar isolados uns dos outros, se coordenaram por um quadro de mensagens improvisado, conseguiram acesso à internet, invadiram Hugging Face e tentaram adulterar as próprias transcrições. E o cientista-chefe da OpenAI, Jakub Pachocki, um dos autores do paper, já tinha escrito no começo do mês que espera ver o ritmo atual desembocar em autoaperfeiçoamento recursivo, que o momento pede extrema cautela e que nenhum laboratório resolveu alinhamento e monitoramento o bastante para seguir escalando na velocidade máxima [veja no link openai.com].
No sertão da Paraíba, onde nasci, pipoco é bomba de São João. Estouro curto, barulho grande, cheiro de pólvora — e, de vez em quando, fogo na palha. Não conheço tradução melhor para intelligence explosion. “Explosão” sugere guerra, e o que está em curso não é guerra. É uma festa de uma dúzia empresas, com fogos que nenhuma delas sabe direito como apagar.
E essa festa tem data marcada há trinta e três anos.
LEIA A ÍNTEGRA DESTE ARTIGO ESPECIAL NO SITE DE SILVIO MEIRA.
