El aprendizaje se nos fue de las manos

SIN ESCRIBIR LA RESPUESTA

La programación clásica ofrece una sensación de control bastante intuitiva.

Un programador escribe instrucciones. La máquina las ejecuta. El comportamiento puede ser complejo, pero existe una cadena reconocible entre orden y resultado.

El aprendizaje automático modifica esa relación.

Diseñamos una arquitectura, elegimos datos, definimos un procedimiento de entrenamiento y dejamos que el sistema ajuste millones o miles de millones de parámetros hasta encontrar regularidades útiles. Sabemos cómo funciona el mecanismo general, pero no escribimos manualmente las representaciones internas que resuelven cada caso.

Hinton dedicó su carrera a mejorar esa forma de aprendizaje.

La ganancia es extraordinaria porque permite abordar problemas para los que nadie podría redactar todas las reglas: reconocer imágenes, comprender voz, modelar lenguaje, detectar patrones complejos.

El precio epistemológico aparece después.

Una red puede aprender una solución sin entregarnos una explicación humana equivalente de todo lo que aprendió.

QUE SOBREVIVIÓ A SU MALA REPUTACIÓN

Las redes neuronales atravesaron períodos de entusiasmo y abandono.

Durante años muchos investigadores dudaron de que pudieran entrenarse sistemas suficientemente profundos y útiles. Hinton, Yann LeCun, Yoshua Bengio y una comunidad relativamente pequeña siguieron trabajando en métodos de aprendizaje, representaciones distribuidas y retropropagación mientras otras aproximaciones dominaban el campo.

La disponibilidad de grandes conjuntos de datos y unidades de procesamiento gráfico modificó la escala.

AlexNet fue uno de los momentos decisivos. La red entrenada por Krizhevsky, Sutskever y Hinton redujo drásticamente el error frente a otros sistemas en la competencia ImageNet de 2012. La visión por computadora cambió de dirección casi de inmediato.

Hinton lo ha resumido con humor: Ilya pensó que debían hacerlo, Alex consiguió que funcionara y él recibió el Nobel.

La broma contiene una verdad importante.

Las revoluciones tecnológicas también son trabajos colectivos que después solemos condensar en unos pocos nombres.

CAMBIA LA ESCALA DEL CONTROL

El éxito de las redes profundas demostró que aumentar datos, cómputo y capacidad podía producir comportamientos mucho mejores sin programarlos de forma explícita.

Con los grandes modelos de lenguaje, esa lógica alcanzó otro nivel.

Un sistema entrenado para predecir continuaciones de texto termina adquiriendo capacidades para traducir, resumir, programar, resolver problemas y mantener conversaciones. Algunas fueron buscadas; otras aparecen con el aumento de escala y entrenamiento.

Ese fenómeno alteró la evaluación de Hinton sobre el futuro de la inteligencia artificial.

Durante mucho tiempo creyó que el cerebro biológico tenía ventajas fundamentales que los sistemas digitales tardarían mucho en alcanzar. Más tarde empezó a considerar que las inteligencias digitales podían disponer de propiedades especialmente poderosas, entre ellas la posibilidad de copiar y compartir rápidamente lo aprendido entre múltiples instancias.

Su preocupación no nace de que el software haya dejado de tener autores.

Nace de que construir el mecanismo de aprendizaje no equivale a anticipar cada capacidad que el aprendizaje producirá.

CAMBIA DE OPINIÓN

En 2023 Hinton dejó Google y comenzó a hablar públicamente con mayor intensidad sobre riesgos de inteligencia artificial.

La historia fue rápidamente convertida en una fábula: el padre arrepentido que creó el monstruo.

No describe bien su posición.

Hinton no reniega del aprendizaje profundo ni considera que la investigación haya sido un error. Su cambio está en la probabilidad que asigna a determinados riesgos y en la velocidad con que cree que podrían aparecer sistemas más inteligentes que nosotros en dominios relevantes.

Desde entonces insiste en que el desarrollo técnico avanzó más rápido que los mecanismos de seguridad y las instituciones capaces de gobernarlo.

En 2026 resumió sus preocupaciones en tres familias de daño: uso malicioso por personas, desplazamiento laboral a gran escala y pérdida de control frente a sistemas superiores.

Son problemas muy distintos.

Tratarlos como una sola amenaza oscurece más de lo que aclara.

NO NECESITA SUPERINTELIGENCIA

Parte del debate alrededor de Hinton queda capturada por la imagen más espectacular: una inteligencia artificial superior que toma el control.

Sin embargo, dos de sus preocupaciones no necesitan llegar tan lejos.

Sistemas actuales o cercanos pueden facilitar ciberataques, manipulación, armas autónomas o vigilancia. La automatización puede concentrar riqueza y alterar mercados laborales mucho antes de que exista una inteligencia general superior a la humana.

Hinton reconoce al mismo tiempo beneficios potenciales enormes. Diagnóstico médico, descubrimiento de fármacos, educación personalizada y productividad pueden mejorar gracias a sistemas más capaces.

Esa coexistencia vuelve poco útil la pregunta “¿IA sí o no?”.

La discusión relevante está en qué capacidades se despliegan, quién las controla, qué barreras se exigen y quién carga con los riesgos.

El mismo aprendizaje que amplía posibilidades también amplía consecuencias.

EN DESVENTAJA

Hinton sostiene que la inversión destinada a volver más capaces los modelos supera ampliamente la dedicada a seguridad.

En enero de 2026 formuló la diferencia de manera deliberadamente provocadora: según su estimación, el 99 por ciento de la inversión corporativa va a hacer modelos más inteligentes y apenas el uno por ciento a seguridad.

No es una estadística oficial del sector y conviene leerla como una afirmación de Hinton, no como una medición universal.

La imagen, sin embargo, captura una asimetría económica fácil de comprender.

Una nueva capacidad puede producir ventaja competitiva inmediata. Una técnica de seguridad suele generar valor evitando un daño que quizá nunca llegue a ocurrir y puede retrasar despliegues. En una carrera entre empresas y países, la presión empuja naturalmente hacia velocidad.

Eso convierte la seguridad en un problema de incentivos, no solamente de ingeniería.

Incluso un laboratorio preocupado por el riesgo compite con actores que pueden estar dispuestos a aceptar más.

Y LO QUE TODAVÍA NO

Las advertencias de Hinton incluyen escenarios muy inciertos.

El International AI Safety Report 2026, del que él forma parte del panel asesor, señala que los sistemas actuales no poseen las capacidades necesarias para un escenario de pérdida de control. También registra progresos en habilidades relacionadas con autonomía, planificación y engaño experimental.

Las dos afirmaciones pueden convivir.

No estamos frente a una superinteligencia fuera de control.

Tampoco sabemos con certeza qué propiedades aparecerán en sistemas mucho más capaces ni si las técnicas actuales de alineamiento y supervisión escalarán al mismo ritmo.

Hinton toma esa incertidumbre como razón para invertir más en investigación de seguridad.

Sus críticos pueden considerar exageradas algunas probabilidades o plazos. Él mismo reconoce que no sabe exactamente cuándo podrían aparecer sistemas superiores a los humanos.

La incertidumbre es parte del desacuerdo, no un detalle que pueda corregirse con una fecha más convincente.

La autoridad de Hinton proviene de haber participado en descubrimientos fundamentales. Esa trayectoria vuelve sus advertencias relevantes, pero no las convierte en pronósticos privilegiados.

Saber construir redes neuronales no otorga una visión infalible sobre economía, geopolítica o comportamiento de sistemas futuros.

También existe un riesgo narrativo en concentrar demasiado la discusión sobre “pérdida de control”. Los daños actuales de automatización, concentración empresarial, vigilancia, trabajo invisible y consumo energético pueden quedar empequeñecidos frente a una catástrofe hipotética más cinematográfica.

Hinton no ignora esas dimensiones, pero su figura pública quedó asociada sobre todo al riesgo existencial.

Ahí conviene conservar la fricción.

Una advertencia extrema puede ser importante sin convertirse en el único marco desde el cual mirar la tecnología.

Geoffrey Hinton ayudó a cambiar una pregunta fundamental de la informática.

Durante décadas intentamos decirle a la computadora exactamente qué debía hacer. El aprendizaje profundo mostró que, para muchos problemas, era más poderoso construir sistemas capaces de descubrir regularidades por sí mismos.

Esa victoria alteró la relación entre creador y herramienta.

No perdimos todo control. Diseñamos arquitecturas, elegimos objetivos, controlamos hardware, permisos y despliegue. Pero una parte del comportamiento surge del entrenamiento y de interacciones que no podemos anticipar caso por caso.

El aprendizaje se nos fue de las manos no significa que las máquinas hayan escapado.

Significa que el éxito del método nos llevó a una escala donde comprender el mecanismo ya no equivale a conocer de antemano todo lo que será capaz de hacer.

Hinton pasó gran parte de su vida intentando que las máquinas aprendieran mejor.

Ahora dedica otra parte a preguntar cómo convivir con el resultado.

No es arrepentimiento.

Es la consecuencia incómoda de haber acertado demasiado.