Las cosas ya estaban pasando por separado

NORMALES Y NO TANTO

La pandemia produjo un shock de virtualización.

Trabajo. Educación. Trámites. Salud. Comercio. Vínculos.

Una parte enorme de la vida social fue empujada hacia sistemas digitales en muy poco tiempo. Muchas de esas mediaciones quedaron después incorporadas como normalidad.

Cuando a fines de 2022 la IA generativa pasó a ocupar el centro de la escena pública, esa infraestructura ya estaba allí.

También estaban las empresas capaces de escalarla.

Los centros de datos.

Las plataformas.

Los mercados de información.

Las cadenas globales de hardware.

Los modelos de negocio basados en captura, procesamiento y predicción.

Y estaban las desigualdades.

Costa no presenta la IA como una continuación sin novedades. Señala, por el contrario, un acontecimiento tecnopolítico capaz de alterar prácticas a gran velocidad.

Pero se resiste a una lectura que confunda novedad con nacimiento.

El problema no comienza cuando aparece ChatGPT.

El problema cambia de escala.

¿Qué clase de sociedad recibe una tecnología capaz de acelerar procesos que ya estaban en marcha?

UNA HERRAMIENTA SOLA

Una de las decisiones metodológicas más productivas de Vidas artificiales consiste en tratar la IA como metatecnología.

No estamos frente a una máquina con una única función.

Los mismos sistemas pueden intervenir en medicina, educación, justicia, seguridad, producción industrial, comunicación, administración pública, guerra, comercio o creación cultural.

Eso vuelve insuficiente preguntar solamente si una aplicación determinada funciona bien.

Hay que mirar el ensamblaje.

Hardware. Datos. Modelos. Energía. Infraestructura. Capital. Trabajo. Lenguaje. Normas. Instituciones. Usuarios.

La IA generativa agrega todavía otra capa: opera dentro de materiales culturales y lingüísticos producidos socialmente y devuelve resultados que vuelven a entrar en esa misma sociedad.

No se limita a procesar lo social. Participa en su reproducción.

De allí la provocación de Costa cuando habla de “sociedad artificial”: no porque la sociedad haya dejado de ser humana, sino porque una parte creciente de sus mediaciones empieza a ser producida, filtrada o modulada por ensamblajes sociotécnicos que ya no pueden pensarse como herramientas exteriores a la vida común.

El límite entre sistema y ambiente empieza a volverse borroso.

Y cuando eso ocurre, apagar una aplicación no equivale necesariamente a salir del sistema.

DE HUMO

Buena parte del debate público sobre inteligencia artificial quedó capturado por una pregunta espectacular: ¿podría una superinteligencia destruir a la humanidad?

Costa no descarta la discusión.

Tampoco ridiculiza los riesgos catastróficos.

Hace algo más incómodo: analiza la controversia que se formó alrededor de ellos.

Porque mientras algunos investigadores y empresarios anuncian un futuro de inteligencias fuera de control, otros sostienen que la superinteligencia es una exageración, una fantasía o directamente una operación promocional.

El problema aparece cuando esa pelea ocupa todo el campo visual.

Los modelos actuales ya producen conflictos suficientemente concretos:

• automatización de tareas; 
• desplazamiento y degradación del trabajo;
• concentración económica;
• desinformación;
• sesgos;
• consumo energético;
• impactos ambientales;
• vigilancia;
• dependencia tecnológica;
• erosión de capacidades humanas e institucionales.

La alternativa entre “Skynet” y “no pasa nada” resulta entonces demasiado pobre.

Puede haber riesgos futuros graves.

Puede haber también una industria que obtiene beneficios presentes al instalar determinadas imágenes del futuro.

Ambas cosas pueden ser ciertas al mismo tiempo.

Por eso importa preguntar no solo qué riesgo existe, sino también: quién consigue que ese riesgo se vuelva el centro de la conversación; qué otros problemas quedan fuera del encuadre; quién dispone de recursos para definir las prioridades; y quién se beneficia de que discutamos el futuro mientras se reorganiza el presente.

ES POLÍTICA

La palabra escala atraviesa todo el libro.

No se trata solamente de modelos más grandes.

Se trata de actores capaces de operar en niveles que ya no coinciden con los límites tradicionales de los Estados.

Las grandes corporaciones tecnológicas acumulan infraestructura, datos, capacidad de cómputo, propiedad intelectual, inversión y presencia planetaria.

Los Estados conservan herramientas decisivas: legislación, compras públicas, educación, política científica, sistemas de justicia, regulación laboral, seguridad, infraestructura.

Pero intervienen desde posiciones profundamente desiguales.

Y por debajo de ambos niveles aparecen instituciones, empresas pequeñas, universidades, hospitales, municipios, escuelas y personas que deben incorporar sistemas cuyas reglas muchas veces fueron definidas en otra escala.

Vidas artificiales propone leer esas capas juntas.

No existe “la gobernanza de la IA” como un único problema.

Hay una escala macro de corporaciones y disputas geopolíticas.

Una escala meso donde actúan Estados e instituciones.

Y una escala micro donde tecnologías concretas afectan derechos, trabajo, acceso, decisiones y vidas.

Cada escala produce riesgos distintos. 

Cada una exige herramientas distintas.

La dificultad consiste en que están acopladas.

Una escuela puede decidir incorporar un sistema.

Pero no decide cómo fue entrenado.

Un Estado puede regular una aplicación.

Pero puede no controlar la infraestructura donde esa aplicación funciona.

Una persona puede aceptar o rechazar unas condiciones de uso.

Pero no siempre puede rechazar el ecosistema completo sin quedar afuera de actividades esenciales.

La libertad individual se vuelve una respuesta demasiado pequeña para un problema de arquitectura.

LA PREGUNTA CAMBIA

La discusión global sobre inteligencia artificial suele formularse desde los lugares donde se concentran las empresas, el cómputo y buena parte del capital.

Desde América Latina la perspectiva cambia.

La pregunta no es solamente cómo regular una tecnología poderosa.

También es qué capacidad existe para decidir sobre ella.

Qué infraestructura controlamos. Qué conocimiento producimos. Qué dependencias aceptamos. Qué datos entregamos. Qué políticas científicas sostenemos. Qué capacidad pública conservamos para auditar, disputar o rechazar sistemas diseñados en otros lugares.

Costa insiste en que el desarrollo técnico nunca es únicamente técnico.

Está atravesado por intereses, inversiones, disputas geopolíticas y decisiones acerca de qué territorios ocuparán el centro y cuáles quedarán como proveedores, consumidores o campos de experimentación.

Eso vuelve insuficiente el relato del progreso inevitable.

Si una trayectoria tecnológica fuera verdaderamente inevitable, la política solo podría adaptarse.

Pero si esa trayectoria depende de inversiones, regulación, infraestructura, contratos, investigación, normas y decisiones humanas, entonces todavía existe disputa.

La soberanía tecnológica no consiste en imaginar autarquías digitales.

Consiste, antes que nada, en conservar capacidad de decisión.

ENTRA EN EL MODELO

En este punto Vidas artificiales recupera una línea que Costa viene trabajando desde antes.

La biopolítica.

El poder moderno no actúa solamente prohibiendo.

Clasifica. Mide. Ordena. Predice. Administra. Conduce conductas.

Las tecnologías algorítmicas amplían ese campo porque permiten trabajar simultáneamente sobre poblaciones enormes y sobre perfiles cada vez más individualizados.

Datos biométricos. Conductas. Preferencias. Movimientos. Relaciones. Patrones de consumo. Rendimientos. Riesgos. Probabilidades.

Lo decisivo no es únicamente que esas informaciones puedan ser almacenadas.

Es que pueden transformarse en decisiones.

Acceso. Precio. Prioridad. Visibilidad. Crédito. Sospecha. Selección. Recomendación. Exclusión.

La inteligencia artificial acelera esa posibilidad.

Y agrega otra: sistemas capaces de intervenir sobre lenguaje, imágenes y producción de sentido ingresan también en una zona de la vida que no puede reducirse a eficiencia instrumental.

Por eso el debate sobre IA no pertenece solamente a la informática.

Pertenece también a la política, la sociología, la comunicación, el derecho, la filosofía, las artes y las ciencias de la vida.

La disputa no ocurre únicamente alrededor de qué pueden hacer las máquinas.

También alrededor de qué clase de humanos, instituciones y sociedades empezamos a producir con ellas.

NO ES PUBLICAR UN CÓDIGO ÉTICO

Vidas artificiales no termina en la denuncia.

El capítulo dedicado a riesgos, seguridad y gobernanza desplaza la discusión hacia algo más incómodo que una lista de principios bienintencionados.

Los principios importan. No alcanzan.

Transparencia. Equidad. Privacidad. Supervisión humana. Responsabilidad. Seguridad.

Son orientaciones necesarias.

Pero una declaración ética no modifica por sí sola los incentivos de una empresa, la capacidad de un Estado ni la arquitectura de una infraestructura.

Costa y el equipo con el que trabaja ese capítulo proponen mirar la gobernanza de manera sistémica y multiescalar.

Hay que identificar quién desarrolla.

Quién implementa. Quién compra. Quién regula. Quién audita. Quién puede exigir  explicaciones. Quién puede detener un sistema. Quién responde cuando falla.

Eso implica leyes, normas y políticas públicas, pero también capacidades técnicas dentro del Estado, documentación de modelos y datos, auditorías independientes, mecanismos de rendición de cuentas y discusión pública.

Y exige evitar una trampa bastante frecuente: regular solamente al usuario final mientras la arquitectura que produce el problema permanece intacta.

YA GOBIERNA

El epílogo de Vidas artificiales recupera la vieja discusión de C. P. Snow sobre las “dos culturas”: la científica y la humanística.

Costa agrega otra. La cultura ingenieril.

Su pregunta característica no es exactamente “¿por qué ocurre esto?” ni “¿qué significa esto?”.

Pregunta:

• ¿funciona?
• ¿se puede optimizar?
• ¿se puede automatizar?
• ¿se puede escalar?
• ¿se puede construir?

No hay nada ilegítimo en esas preguntas.

El problema aparece cuando se vuelven las únicas.

La racionalidad ingenieril ya no habita solamente laboratorios y empresas tecnológicas.

Está en políticas públicas. Universidades. Plataformas. Sistemas de evaluación. Educación. Administración. Diseño urbano. Aplicaciones.

En todas partes donde una situación compleja puede transformarse en variables, métricas, flujos y objetivos optimizables.

Por eso las ciencias sociales y las humanidades no llegan para ponerle un poco de ética a una máquina ya terminada.

Su función es anterior. Preguntar por los fines.

Por el sentido. Por aquello que no entró en la medición. Por las relaciones de poder que una solución da por supuestas. Por aquello que el sistema considera ruido porque todavía no sabe nombrarlo.

Costa propone una imagen especialmente útil para este presente: no alcanza con estudiar lo que los ingenieros saben.

También necesitamos investigar lo que no saben que no saben.

Ahí puede empezar una política de la inteligencia artificial que no consista solamente en administrar su despliegue.

Vidas artificiales no ofrece una posición cómoda frente a la inteligencia artificial.

No pide venerarla. No pide destruirla. No la presenta como magia. Tampoco como una simple herramienta neutral.

La ubica dentro de una transformación más grande. Una aceleración donde infraestructura, capital, geopolítica, datos, trabajo, cultura y poder empiezan a operar cada vez más juntos.

Eso explica también por qué resulta tan fácil perder el hilo.

Las noticias llegan separadas. Un nuevo modelo. Un despido. Una elección. Un centro de datos. Una regulación. Una inversión. Una filtración. Una guerra. Una huelga. Una demanda energética. Una universidad que incorpora una plataforma. Una empresa que promete inteligencia general.

Cada episodio parece tener su sección.

Tecnología. Economía. Política. Trabajo. Ambiente. Cultura.

Pero la separación pertenece muchas veces al modo en que recibimos la información, no necesariamente al modo en que funciona el sistema.

Ahí está el aporte de Costa para Los Precursores. 

No en haber anunciado el futuro.

En insistir en que, para comprender el presente, hay que volver a conectar los puntos.
Y después decidir qué hacemos con el dibujo que aparece.