La democracia ante tecnologías capaces de acelerar su propia transformación
En mayo de 2026, Yoshua Bengio formuló durante una entrevista una preocupación que podía escucharse como una más entre las muchas que rodean a la inteligencia artificial. Las principales empresas del sector, explicó, estaban intentando utilizar sus propios sistemas para acelerar la investigación en IA. Ya no se trataba solamente de pedirle a una máquina que escribiera código. El objetivo era llegar al punto en que «la IA diseñe la próxima versión de la IA».
La frase contiene un cambio de escala.
Durante décadas, el progreso informático dependió de investigadores, ingenieros, inversión, energía, datos, infraestructura y tiempo. Nada de eso desaparece. Pero si una parte creciente del trabajo necesario para producir sistemas mejores empieza a ser realizada por los sistemas anteriores, aparece un circuito nuevo: una tecnología interviene sobre el proceso que produce su siguiente generación.
Bengio no presentó ese escenario como una certeza. Tampoco dijo que el cómputo dejara de importar ni que los límites materiales hubieran desaparecido. Su preocupación era otra: las mejoras algorítmicas, hasta entonces acumuladas mediante el trabajo lento y continuo de investigadores humanos, podían acelerarse si las empresas conseguían sistemas comparables con sus mejores investigadores de IA.
Y entonces agregó una frase menos espectacular, pero quizá más importante: la sociedad no está preparada para el ritmo de cambio que ya estamos viendo.
Cuatro meses después, el problema adquirió otro espesor.
El 28 de septiembre de 2026, el Cambridge Programme on AI Science & Policy (CASP) publicó What if automating AI R&D triggers an intelligence explosion?, firmado por veintidós autores, entre ellos Alan Chan, Andrew Barto, Geoffrey Hinton, Eric Horvitz, Yoshua Bengio, Dawn Song, Jack Clark y Jakub Pachocki.
El título está escrito como pregunta y conviene conservar ese signo de interrogación.
El trabajo no afirma que una «explosión de inteligencia» vaya a producirse. Examina la posibilidad de que la automatización creciente de la investigación y desarrollo de IA genere un proceso de realimentación capaz de comprimir años de avances en meses o menos. Los autores hablan de evidencia preliminar, reconocen una incertidumbre considerable y, precisamente por la magnitud de las consecuencias posibles, sostienen que el fenómeno merece atención antes de que esa incertidumbre desaparezca.
La diferencia con mayo no es solamente retórica. Entre ambos momentos aparecen indicadores internos de los laboratorios que vuelven más concreta la hipótesis. Según cifras de las propias compañías recogidas por el trabajo, Anthropic informó que en agosto sus sistemas completaban una proporción considerablemente mayor de tareas internas de I+D con supervisión humana de alto nivel que cinco meses antes; OpenAI comunicó en septiembre que sus sistemas realizaban de manera rutinaria tareas de investigación que a su personal podían demandarle días.
Son datos empresariales, no la constatación independiente de una explosión de inteligencia. Tampoco equivalen a decir que una cuarta parte de toda la investigación de una compañía sea autónoma. Pero señalan algo más modesto y suficiente para abrir el problema: la automatización de la producción de IA ya no pertenece solamente al terreno de la especulación.