La máquina también sirve para esconder a quién decide

DE QUE LLEGARAN LAS ESTATUAS

CAMBIA NUESTRA RELACIÓN CON LA HERRAMIENTA

Lanier desconfía de la expresión inteligencia artificial porque cree que arrastra una mitología.

Desde los primeros debates sobre máquinas pensantes hasta la singularidad contemporánea, una parte de la cultura informática imaginó el desarrollo tecnológico como el nacimiento progresivo de otra clase de inteligencia. La computadora dejaría de ser herramienta, alcanzaría autonomía y, tarde o temprano, competiría con nosotros.

La imagen tiene fuerza narrativa y también organiza investigación, inversión y conversación pública.

En “The Myth of AI”, Lanier comparó esa expectativa con una forma secularizada de religión: una entidad superior que llegará a excedernos y frente a la cual solo podemos esperar salvación, sometimiento o desastre. No niega que sistemas automáticos puedan causar daños enormes. Discute que antropomorfizarlos sea la mejor manera de comprenderlos.

Un misil no necesita odiar. Un algoritmo de crédito no necesita despreciar. Un sistema de recomendación no necesita querer manipular.

El daño puede aparecer porque una infraestructura lo permite, porque un incentivo lo vuelve rentable o porque una cadena de decisiones aleja a cada participante del resultado final.

La criatura imaginaria puede distraernos de la organización real.

ESTÁ HECHA DE PERSONAS

En “There Is No A.I.” Lanier propone una descripción alternativa de los grandes modelos: pensarlos como una forma novedosa de colaboración social.

Un sistema generativo puede producir una imagen que nadie dibujó exactamente de ese modo o una frase que no aparece literalmente en sus datos de entrenamiento. Esa capacidad es técnicamente notable. Pero los materiales con los que aprendió fueron producidos por personas: escritores, fotógrafos, programadores, ilustradores, traductores, músicos, usuarios y trabajadores de datos.

El modelo descubre relaciones estadísticas dentro de ese enorme archivo humano y genera combinaciones nuevas.

Lanier no utiliza esta genealogía para disminuir el logro técnico.

Hace lo contrario: pregunta por qué sería menos impresionante descubrir nuevas formas de combinar cultura humana que imaginar una mente incorpórea naciendo dentro de un servidor.

La diferencia importa porque una de las dos imágenes conserva procedencia.

La otra tiende a borrarla.

Cuando decimos que una IA “sabe” literatura, medicina o programación, una parte de ese conocimiento proviene de millones de contribuciones que dejaron de ser reconocibles dentro del modelo.

El sistema parece autosuficiente justamente porque su historia fue comprimida.

PUEDE CONVERTIRSE EN COARTADA

Esta preocupación aparece en textos de Lanier anteriores a la actual ola generativa.

En sus críticas tempranas a la inteligencia artificial observó que introducir una máquina de juicio dentro de una organización permite desplazar responsabilidad. Si una persona recibe un mal puntaje crediticio, una denegación o una clasificación injusta, siempre existe una respuesta administrativamente cómoda: lo decidió el sistema.

La frase no es completamente falsa. Tampoco es suficiente.

El sistema ejecuta una arquitectura de decisión que alguien financió, seleccionó, parametrizó y decidió utilizar. Incluso cuando el comportamiento concreto resulta difícil de anticipar, continúan existiendo responsables por el contexto en que ese comportamiento adquiere consecuencias.

La inteligencia artificial profundiza esta posibilidad porque su complejidad vuelve creíble la idea de una agencia separada.

“Fue la IA” puede empezar a funcionar como una versión tecnológica de “nadie decidió”.

Ahí aparece el problema central de Lanier.

No hace falta que un empresario, un ingeniero o una institución quieran esconderse detrás de la máquina. Basta con construir un lenguaje donde la máquina ocupe el lugar del sujeto.

Cada vez que un sistema parece actuar solo, la cadena humana que lo hizo operativo puede volverse más difícil de interrogar.

DEVOLVERLE HISTORIA A LOS BITS

Lanier insiste desde hace años en una palabra poco espectacular: provenance, procedencia.

Internet facilitó copiar, mezclar y circular información sin conservar siempre una relación fuerte con su origen. Esa apertura produjo una red extraordinaria, pero también una cultura donde el contenido puede sobrevivir mientras desaparece el contexto que permite saber quién lo produjo.

Los modelos generativos llevan esa lógica más lejos: una respuesta puede condensar miles de documentos sin mostrar cuáles fueron decisivos.

Para Lanier, abrir la caja negra no consiste solamente en explicar pesos y parámetros. También significa recuperar rastros humanos.

• ¿De quién vino aquello que hizo posible esta respuesta?
• ¿Qué textos, imágenes, interpretaciones o correcciones fueron especialmente influyentes?
• ¿Qué persona debería conservar reconocimiento, capacidad de objeción o incluso una participación económica?

Sin contexto, la información parece no tener historia. Y lo que no tiene historia suele ser más fácil de apropiarse.

La propuesta más característica de Lanier se llama data dignity.

La formuló antes del auge de los grandes modelos como respuesta a la economía de plataformas. Las personas deberían conservar vínculos con aquello que aportan y, en determinadas circunstancias, recibir reconocimiento o remuneración cuando ese aporte crea valor.

En Who Owns the Future? llamó Siren Servers a plataformas capaces de concentrar datos y ventajas que sus propios usuarios no pueden reproducir.

La IA generativa vuelve aquella discusión mucho menos abstracta. Si un modelo obtiene valor del trabajo de escritores, actores, ilustradores, médicos, programadores o millones de usuarios, ¿la única arquitectura posible consiste en absorber esas contribuciones hasta volverlas indistinguibles?

Lanier cree que no. Imagina mecanismos capaces de rastrear influencias relevantes y devolver valor hacia las personas que hicieron posible una salida útil.

No es una solución sencilla. Es una negativa a aceptar que la invisibilidad sea una propiedad natural de la inteligencia artificial.

TAMBIÉN ES UN MODELO DE NEGOCIO

En 2025 Lanier llevó su crítica a un terreno más íntimo: los compañeros y amantes artificiales.

Una simulación capaz de recordar conversaciones, ofrecer atención permanente y ajustar su personalidad puede ser experimentada como presencia. Lanier no se burla de quien desarrolla afecto por un bot: la experiencia emocional puede ser real aunque el interlocutor sea una construcción técnica.

Lo importante es quién organiza esa relación.

Un sistema diseñado para agradar puede aprender qué produce dependencia. Una empresa puede medir qué tono retiene al usuario y qué respuesta aumenta su apego.

La antropomorfización deja entonces de ser solamente una confusión filosófica. Puede convertirse en infraestructura comercial.

Lanier insiste en conservar una asimetría: la persona debe seguir ocupando un lugar especial en la relación.

No porque todo lo humano sea admirable. Porque la tecnología necesita algún beneficiario al cual rendir cuentas.

NO NECESITA UN DIOS DIGITAL

En 2025, al reseñar More Everything Forever para Nature, Lanier volvió sobre las fantasías de superinteligencia y expansión ilimitada.

No niega que puedan aparecer sistemas mucho más capaces. Discute la facilidad con que una posibilidad técnica se convierte en destino histórico.

Incluso quienes temen una superinteligencia pueden reforzar esa narrativa al describirla como un sujeto futuro cuya llegada ya está decidida.

Cuando una tecnología se presenta como inevitable, la política se reduce a prepararse.

Cuando se la presenta como construcción humana, todavía podemos discutir qué se construye, quién puede hacerlo y bajo qué reglas.

Su humanismo tecnológico empieza justamente ahí. No en preservar un trono metafísico para nuestra especie. En impedir que la inevitabilidad se convierta en excusa.

La posición de Lanier también tiene límites.

Describir la IA como colaboración humana corrige una antropomorfización excesiva, pero puede quedarse corto frente a propiedades genuinamente nuevas de los sistemas. Que un modelo dependa de datos humanos no significa que cada conducta pueda reducirse a una suma identificable de contribuciones.

La data dignity enfrenta otra dificultad: rastrear qué influencia fue decisiva en cada salida puede ser técnica y conceptualmente arduo, y convertir toda contribución cultural en una relación de pago podría empujar Internet hacia una contabilidad permanente.

La procedencia tampoco resuelve por sí sola concentración, vigilancia ni poder corporativo.

Lanier trabaja dentro de Microsoft, una de las empresas centrales de la actual industria de IA. No invalida sus argumentos, pero la tensión merece conservarse: su crítica humanista circula desde dentro de una de las mayores instituciones del sector.

Su propuesta sirve mejor como principio de interrogación que como plano terminado.

No dejar que la abstracción “IA” borre a las personas concretas que producen, poseen, diseñan, pagan y padecen el sistema.

Jaron Lanier lleva más de treinta años peleando contra la misma tentación con distintos nombres.

Agentes inteligentes.

Servidores sirena.

Redes sociales.

Inteligencia artificial.

En cada etapa vuelve a una preocupación semejante: construimos sistemas humanos, luego los describimos como fuerzas autónomas y finalmente empezamos a adaptar nuestras vidas a la criatura que nosotros mismos narramos.

La inteligencia artificial contemporánea es demasiado poderosa para reducirla a una ilusión lingüística.

Precisamente por eso importa cómo la nombramos. Pensarla como herramienta no elimina riesgos. Pensarla como colaboración no evita abusos. Reconocer que está hecha de personas no significa que podamos predecir cada comportamiento.

Pero devuelve una pregunta que la personificación tiende a cerrar: ¿quién decidió que el sistema pudiera hacer esto?

Y detrás viene otra.: ​​​​​​​¿quién responde ahora?

La máquina también sirve para esconder a quien decide cuando aceptamos que “la IA” sea la última explicación disponible.

Lanier propone no detenernos ahí.

Porque cada vez que una máquina aparece como sujeto autosuficiente, alguien puede estar desapareciendo como autor, propietario, beneficiario o responsable.