La máquina también aprende a controlar.

ENTRA EN EL SISTEMA

La retroalimentación modificó una idea antigua de la máquina. Un mecanismo clásico podía pensarse como una secuencia: una causa produce un efecto. En un sistema con feedback, en cambio, parte del efecto vuelve como información y modifica la acción siguiente. El termostato compara temperatura real y temperatura deseada. Un servomecanismo mide desviaciones. Un organismo ajusta movimientos. La estabilidad ya no depende de ejecutar siempre lo mismo, sino de poder advertir que algo cambió.

Esa diferencia parece técnica hasta que se amplía la escala.

Medir, comparar y corregir también son operaciones de gobierno. Para regular algo primero hay que definir qué cuenta como estado deseable, qué variación será tolerada y qué señal activará una intervención. El control cibernético no necesita parecerse al mando de un soberano. Puede ser discreto, distribuido, continuo. A veces opera mejor cuanto menos se nota.

Ahí Wiener se vuelve un precursor incómodo para nuestro presente. No porque haya previsto las plataformas, los sistemas de recomendación o los modelos generativos, sino porque ayudó a construir el vocabulario con el que hoy funcionan muchos de ellos: señal, información, ruido, predicción, corrección, aprendizaje.

NO QUEDÓ AFUERA

Hay otro Wiener que suele quedar detrás del matemático.

En enero de 1947 publicó en The Atlantic “A Scientist Rebels”. El texto nació de una negativa: un investigador vinculado a una empresa aeronáutica le había pedido acceso a un trabajo realizado durante la guerra y Wiener se negó a colaborar. Después de Hiroshima, ya no aceptaba que proporcionar conocimiento técnico pudiera considerarse un acto moralmente neutro.

Ese gesto importa porque evita una lectura cómoda de su obra. Wiener no descubrió primero la cibernética y más tarde agregó una reflexión ética como apéndice humanista. La pregunta por la responsabilidad estaba incrustada en el mismo mundo que estaba ayudando a construir.

La información produce consecuencias.

La decisión de compartirla también.

Y una cadena técnica suficientemente extensa puede separar tanto a cada participante del resultado final que todos parezcan haber hecho solamente su trabajo.

REVOLUCIÓN INDUSTRIAL

En The Human Use of Human Beings, Wiener llevó la cibernética fuera del laboratorio. Le preocupaban el trabajo, la organización social, la comunicación y la posibilidad de que la automatización inaugurara otra transformación industrial. La promesa era evidente: liberar a las personas de tareas repetitivas y degradantes. El riesgo también: que las mismas máquinas capaces de aliviar trabajo fueran utilizadas para volver prescindibles a quienes trabajaban sin modificar la distribución del poder ni de la riqueza.

La cuestión no era si las máquinas serían buenas o malas. Era qué uso de los seres humanos acompañaría al uso de las máquinas.

Diez años más tarde volvió sobre el problema en la revista Science. Su artículo “Some Moral and Technical Consequences of Automation” discutía máquinas que podían aprender estrategias y actuar de modos no especificados paso por paso por quien las había construido. Eso obligaba a pensar de otra manera la relación entre orden y resultado: programar un sistema no equivalía necesariamente a anticipar cada una de sus acciones futuras.

Hoy esa observación parece corriente.

En 1960 no lo era.

NO ES QUERER

Wiener también se interesó por máquinas capaces de aprender. En God & Golem, Inc. examinó sistemas que mejoraban a partir de experiencia previa y máquinas capaces de participar en procesos de reproducción de otras máquinas. El tono no era el de quien había encontrado una nueva especie. Era el de alguien que advertía que ciertas propiedades reservadas culturalmente a los organismos podían empezar a describirse también en artefactos.

Conviene mantener esa precisión.

Una máquina que aprende no tiene por eso un deseo.

Un sistema que modifica su estrategia no adquiere automáticamente voluntad.

Y un mecanismo que toma decisiones dentro de un marco definido no decide por sí mismo qué marco debería existir.

El peligro aparece cuando estas diferencias se borran en el lenguaje público. Si se dice que “el algoritmo decidió”, el sujeto gramatical puede ocultar una cadena entera de elecciones humanas: quién fijó la meta, quién eligió los datos, qué variable se optimiza, qué error se acepta y quién carga con sus consecuencias.

La automatización puede desplazar una decisión.

No puede borrar su historia.

QUÉ, PARA QUIÉN

La cibernética tuvo descendencias muy distintas: ingeniería, biología, teoría de sistemas, ciencias cognitivas, organización empresarial, arte, informática. También pasó por experimentos políticos como Cybersyn, que intentó usar retroalimentación y comunicación para coordinar una economía sin convertir toda la red en un centro único de mando.

Ese abanico importa porque impide reducir a Wiener a una genealogía lineal de la inteligencia artificial.

La cibernética no llevaba inevitablemente hasta aquí.

Era un conjunto de herramientas conceptuales capaz de alimentar proyectos incompatibles entre sí.

Por eso su pregunta continúa abierta. Un sistema puede controlar una temperatura, estabilizar un vuelo, recomendar una película, ajustar una cadena logística o clasificar a una persona. En todos los casos hay bucles de información. Lo que cambia es la política de esos bucles: quién puede observarlos, quién puede impugnarlos, quién define el objetivo y quién tiene derecho a salir del circuito.

Wiener ayudó a comprender que el control moderno podía dejar de parecer una orden.

Setenta años después conviene agregar otra pregunta: ¿quién controla al sistema que controla?

Norbert Wiener no necesita ser convertido en profeta de la IA para seguir siendo útil.

Alcanza con volver al problema que dejó planteado entre las ruinas de una guerra y el comienzo de la automatización: cuanto más capaces sean nuestros sistemas de percibir, predecir, corregir y aprender, menos aceptable será fingir que sus consecuencias pertenecen solamente a la máquina.

La cibernética hizo del error una fuente de información.

Quizá su lección política más incómoda sea que también nosotros deberíamos ser capaces de recibir retroalimentación.

Y corregir.

Norbert Wiener no anticipó todos los rasgos del presente digital. Pero dejó un mapa conceptual sin el cual este presente se entiende peor.

La máquina también aprende a controlar.

La cuestión sigue siendo si nosotros conservamos la capacidad de decidir para qué, sobre quiénes y a favor de qué se ejerce ese control.

Materiales de reacción: cibernética · control · comunicación · retroalimentación · automatización · responsabilidad · predicción · sistemas