El mapa esconde la extracción.

El atlas empieza por la extracción. Crawford toma el litio como ejemplo: el mineral que alimenta las baterías de los teléfonos, las laptops y los autos eléctricos. La mina de Thacker Pass, en Nevada, es uno de los sitios que analiza; allí se extrae litio de un territorio que fue de los pueblos originarios y que hoy es objeto de una disputa por el agua, la tierra y el paisaje.

La extracción es la condición de la industria. Sin litio, cobalto, coltán y tierras raras no hay chips, baterías ni centros de datos. La transición energética que se presenta como verde tiene una cara minera: más minerales, más minas, más territorios devastados. La IA forma parte de esa transición, y su huella material es parte del costo.

La geografía de la extracción repite la geografía colonial. Las minas están en el Sur —el Congo, Chile, Bolivia, Argentina—, y los centros de procesamiento y consumo están en el Norte. Esa asimetría es la estructura del mercado. El atlas la hace visible al poner en la misma página la mina y el dispositivo que se vende en una tienda.

El litio tiene una geografía precisa: el triángulo que forman Chile, Bolivia y Argentina concentra una parte importante de las reservas, y su extracción consume agua en zonas donde el agua es escasa. Las comunidades que viven cerca de los salares denuncian la contaminación y el agotamiento de los acuíferos; los Estados negocian contratos; las empresas prometen empleo. La transición energética se anuncia como una salida del petróleo, pero reproduce la misma lógica: extraer en el Sur para que el Norte circule. Al final de la cadena, los dispositivos se desechan en Ghana y Pakistán [VERIFICAR], donde contaminan el agua y el suelo.

La mina es el lugar donde la IA se vuelve materia. El debate público discute los modelos, los parámetros y los benchmarks; la mina no aparece. Crawford la trae al centro y, al hacerlo, cambia la pregunta: importa menos qué puede hacer la IA que qué se destruye para que pueda hacerlo.

Después viene el trabajo. Crawford analiza los almacenes de Amazon, donde las personas trabajan con ritmos medidos por algoritmos, y el Amazon Mechanical Turk, la plataforma donde millones de trabajadores [VERIFICAR] hacen tareas pequeñas —etiquetar imágenes, transcribir audios, clasificar textos— por unos centavos.

Ese trabajo es la infraestructura invisible de la IA. Los modelos aprenden de datos etiquetados por personas; las imágenes que entrenan a los sistemas son clasificadas por trabajadores que a menudo están en el Sur global, sin contrato, sin seguro y sin derecho a reclamar. La IA se presenta como una tecnología que reemplaza el trabajo humano, pero se construye con trabajo humano mal pago.

Crawford llama a eso una economía de la extracción de datos. El trabajador produce más que una etiqueta: produce el conocimiento que el sistema necesita para funcionar. Su trabajo desaparece en el producto final, y su invisibilidad es parte del negocio. El atlas nombra las plataformas, las tarifas y las condiciones.

La continuidad con la historia del capitalismo es clara. La fábrica del siglo XIX ocultaba el trabajo detrás del producto; la plataforma del siglo XXI lo oculta detrás de la interfaz. La diferencia es la escala y la dispersión: el trabajo está en todas partes y no se ve en ningún lado. El atlas es un esfuerzo por volverlo a ver.

El caso de los moderadores de contenido es el más brutal. En Kenia, trabajadores contratados por empresas subcontratistas revisan imágenes de violencia, abuso y pornografía para entrenar a los sistemas que filtran las plataformas. El trabajo les deja secuelas psicológicas y los contratos no incluyen cobertura. La IA que promete un internet limpio se construye con personas que limpian el internet a mano.

La cadena del etiquetado es global y opaca. Las plataformas subcontratan a empresas que subcontratan a otras; los trabajadores no saben para quién trabajan ni qué se hace con su trabajo. En Venezuela, en la India y en Filipinas hay ejércitos de personas frente a una pantalla, clasificando imágenes que nunca llevarán su nombre. La IA tiene fama de tecnología sin trabajadores; en realidad, es una tecnología con trabajadores invisibles.

La clasificación es otra capa. Crawford se detiene en ImageNet, el conjunto de imágenes que entrenó a los primeros sistemas de visión artificial, y muestra que sus categorías no son neutrales: incluyen etiquetas racistas, sexistas y despectivas, y fueron construidas sin el consentimiento de las personas fotografiadas.

La clasificación es una operación política. Decidir qué categorías existen, qué nombres tienen y quién queda dentro de cada una es una forma de ordenar el mundo. El sistema reconoce objetos y personas, y al hacerlo reproduce las jerarquías de la sociedad que lo entrenó.

Crawford también analiza el algoritmo de contratación de Amazon, que se entrenó con currículos históricos y aprendió a discriminar a las mujeres. El caso es ejemplar: el sistema no inventó el sesgo, lo heredó de los datos. La IA es racista o sexista porque los datos y las instituciones que la producen lo son.

La crítica de la clasificación tiene una consecuencia práctica: un sistema sesgado exige cambiar los datos, las categorías y las instituciones que los producen. El atlas muestra que la IA es un espejo de la sociedad, y que el espejo no se limpia con un filtro.

La clasificación también produce el mundo que luego se mide. Si un sistema aprende que ciertas personas son «criminales» o «empleadas domésticas» o «bellezas exóticas», esas categorías, al describir, ordenan. El vocabulario del conjunto de datos se convierte en el vocabulario de la decisión. Por eso la disputa por las categorías es una disputa política, y por eso los artistas y los activistas que intervienen los datasets hacen algo más que una performance.

El afecto tiene su propia capa. Crawford analiza la computación afectiva, la industria que pretende leer las emociones en los rostros. Se entrenó, eso sí, con el sistema de codificación facial de Paul Ekman, que a su vez se basó en imágenes posadas por actores, no en emociones espontáneas.

La consecuencia es que la máquina lee gestos que fueron definidos como emociones por una tradición científica particular. Cuando ese sistema se usa en una entrevista de trabajo, en un aeropuerto o en una escuela, no mide lo que dice medir; mide la conformidad con un patrón cultural.

Crawford muestra que la industria del afecto tiene un mercado: la selección de personal, la publicidad, la vigilancia. La emoción se vuelve un dato, y el dato se vuelve una decisión. El rostro, que era el lugar de la expresión, se convierte en una superficie de lectura.

El afecto es el punto donde la IA entra en lo más íntimo. Otras capas clasifican imágenes o predicen compras; esta interpreta lo que sentimos. Y esa interpretación se hace con categorías que no son nuestras, sobre cuerpos que no eligieron ser leídos.

El mercado del afecto creció porque promete algo que las empresas desean: medir lo que no se puede medir. La atención, el interés, la sinceridad, el entusiasmo. Lo que se mide es la expresión, no la emoción; y la expresión está moldeada por la cultura, la clase y la historia. Un sistema entrenado con rostros de un lugar y una época no puede leer a todos los rostros del mundo.

Y el Estado. Crawford recorre la vigilancia masiva que reveló Edward Snowden, el uso de metadatos por los servicios de inteligencia, el caso de Cambridge Analytica y el Proyecto Maven, el programa del Pentágono que usó la visión artificial para analizar imágenes de drones y que provocó la protesta de empleados de Google.

El Estado es uno de los principales clientes de la IA. La policía predictiva, el reconocimiento facial, los sistemas de frontera y las armas autónomas son parte del mismo mercado que produce los asistentes de voz y los filtros de fotos. La separación entre la IA civil y la IA militar es una ficción conveniente.

Para Crawford, la IA estatal es un problema de poder antes que un problema de privacidad. Quién decide qué se vigila, quién tiene acceso a los datos y quién puede resistir son preguntas políticas, no técnicas. El atlas las plantea al mostrar los contratos, las agencias y las empresas que participan.

El paralelo con la historia colonial es directo: las tecnologías de vigilancia y clasificación se probaron primero en las colonias, en los territorios ocupados, en las poblaciones racializadas, en las fronteras. La IA reproduce esa lógica: primero se experimenta con los que tienen menos poder, después se generaliza.

Las fronteras son el laboratorio privilegiado. Los sistemas de reconocimiento facial, los drones, los sensores y las bases de datos biométricas se estrenan en los pasos fronterizos, donde las personas no tienen derechos plenos. Lo que se prueba allí se exporta después a las ciudades. La frontera es el lugar donde la excepción se vuelve norma.

El Proyecto Maven es el ejemplo más claro de esa continuidad. Google firmó un contrato con el Pentágono para usar su visión artificial en el análisis de imágenes de drones; miles de empleados protestaron, la empresa no renovó el contrato y el programa pasó a Palantir. La tecnología no desapareció: cambió de manos. Esa movilidad es parte del poder: las empresas pueden retirarse de un contrato, pero el sistema sigue funcionando en otra parte.

Hay una tensión de lugar. Crawford es investigadora principal en Microsoft Research, una de las empresas que analiza. Su posición es la de alguien que trabaja dentro de la industria y, al mismo tiempo, la estudia. Esa doble posición le da acceso y le impone límites; el atlas lo sabe, pero no siempre lo dice.

Hay una tensión de marco. La palabra «extracción» es potente y totalizadora: todo se vuelve recurso, todo se vuelve costo. Esa totalidad permite ver conexiones que otros análisis pierden, pero también borra las diferencias entre una mina, un almacén y un centro de datos. Cada sitio tiene su propia política; el atlas los unifica en una sola lógica.

Hay una tensión de forma. El atlas es un mapa, y un mapa no es una política. Muestra los costos, pero no dice cómo cambiarlos. La conclusión del libro es más una invitación a mirar que un programa de acción. El lector sale sabiendo mucho y pudiendo hacer poco.

Hay una tensión de consentimiento. Training Humans, la exposición que Crawford hizo con Trevor Paglen, usó imágenes de personas para mostrar cómo se entrenan los sistemas, y fue criticada por usar esas imágenes sin consentimiento. La crítica es justa y es también una lección: el problema que la obra denuncia se reproduce en la obra. La diferencia entre representar la violencia y ejercerla es más fina de lo que parece.

La posición de Crawford en Microsoft Research merece una nota aparte. Es la condición de buena parte de la investigación crítica sobre la IA, que se hace con datos, contactos y financiamiento de las empresas que estudia. Esa cercanía permite acceder a información que nadie más tiene; también marca los límites de lo que se puede decir y del tono con que se dice. El atlas critica un ecosistema del que sigue siendo producto.

El debate sobre la reforma y la abolición atraviesa el campo. Hay quien cree que la IA se puede corregir con auditorías, transparencia y regulación; hay quien sostiene que la industria es irreformable porque su lógica es la extracción. Crawford no toma partido de manera explícita, y esa ambigüedad es a la vez una virtud y un límite. El atlas muestra los costos; la decisión sobre qué hacer con ellos queda en manos del lector.

Hay una tensión de recepción. El libro fue elogiado por el Financial Times, Science, Nature y The New York Review of Books; entró en las listas de los mejores libros del año y se enseña en universidades. Esa consagración no invalida la crítica, pero la domestica: un libro que las instituciones recomiendan es un libro que las instituciones pueden tolerar.

No le voy a pedir a Crawford que resuelva esas tensiones. Su trabajo consiste, en buena medida, en construir el mapa que faltaba. Conviene, aun así, no confundir el mapa con el territorio: el mapa se puede corregir; el territorio sigue ahí.

Su obra deja una pregunta: ¿puede un mapa cambiar el territorio? El atlas hace visible lo que el relato de la innovación esconde; pero la visibilidad no es una política. Para cambiar el territorio hacen falta instituciones, normas y conflictos que el mapa no puede resolver.

La propiedad vuelve a aparecer: las minas tienen dueños, las plataformas tienen dueños, los datos tienen dueños. El atlas muestra la cadena, pero no la estructura de propiedad que la sostiene. Sin esa estructura, la crítica se reduce a la descripción de los costos.

Queda también la pregunta por el Sur. La extracción ocurre en el Sur; el atlas se escribe en el Norte, con financiamiento del Norte y para un público del Norte. Esa posición no invalida el trabajo —Crawford es australiana y ha trabajado sobre las periferias—, pero sitúa el mapa. El Sur aparece como lugar de la extracción; la teoría se escribe en otra parte.

Vuelvo al atlas. Es un objeto que ordena el conocimiento y que, como todo orden, deja cosas afuera. Falta saber qué mapas faltan, y quién los va a dibujar.

El mapa esconde la extracción.

Me quedo con la imagen de la mina. Es el lugar donde la IA deja de ser una idea y se vuelve materia: piedra, agua, tierra, cuerpos. Falta saber si podemos construir una inteligencia que no empiece por cavar.