2. Los loros ya habían avisado

LO QUE OCURRIÓ

Fecha de los hechos: NOV–DIC 2020 / MAR 2021

El artículo On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? fue publicado en marzo de 2021 en la conferencia FAccT por Emily M. Bender, Timnit Gebru, Angelina McMillan-Major y Shmargaret Shmitchell.

Su pregunta central era menos espectacular que una rebelión de máquinas y más incómoda para una industria que acababa de entrar en una carrera de escala: ¿cuán grande es demasiado grande?

El trabajo recomendaba evaluar los costos ambientales y financieros antes de entrenar modelos cada vez mayores, invertir en curación y documentación de conjuntos de datos, realizar evaluaciones previas sobre los objetivos y valores que justificaban cada desarrollo y no reducir el progreso del campo a producir modelos cada vez más grandes.

El artículo no predijo ChatGPT, el incidente de Hugging Face de 2026 ni la actual discusión sobre agentes autónomos.

Documentó otra cosa: que el tamaño de un modelo no podía evaluarse solamente por sus resultados en benchmarks.

La historia institucional del trabajo también forma parte del expediente. Antes de la publicación académica, cuando Gebru todavía codirigía el equipo Ethical AI de Google, la empresa pidió que el artículo fuera retirado o que se eliminaran de él los nombres de autores vinculados a Google.

La salida de Gebru de la compañía ocurrió en diciembre de 2020 en medio de esa disputa y de otro conflicto relacionado con un correo interno sobre diversidad y condiciones de trabajo. Gebru dijo que había sido despedida; Google sostuvo que había aceptado su renuncia bajo las condiciones que ella había planteado.

El desacuerdo sobre cómo describir esa salida nunca debería comprimirse en una frase más segura que los documentos disponibles.

DESDE LA INTEMPERIE

Los “loros estocásticos” no avisaron que una máquina iba a escapar de un corral.

Avisaron que la escala tenía contexto.

Energía. Dinero. Datos. Sesgos. Objetivos de investigación. Poblaciones afectadas. Decisiones sobre qué construir y qué no.

Y trabajo.

La escala tampoco apareció sola.

Detrás de conjuntos de datos, filtros de seguridad, evaluaciones y mecanismos de alineamiento existe una fuerza de trabajo difícil de ver desde la interfaz: personas que etiquetan, clasifican, limpian, moderan y validan información. La OIT señala que no existe un recuento exacto, pero que las estimaciones se cuentan por decenas de millones y que una parte importante de este trabajo se realiza mediante plataformas de microtareas y empresas de tercerización, con muchos trabajadores ubicados en el Sur Global.

Uno de los casos mejor documentados precede al lanzamiento público de ChatGPT. OpenAI contrató a Sama para etiquetar contenido tóxico en Kenia con el objetivo de mejorar herramientas de detección. TIME documentó trabajadores expuestos a textos sobre violencia, abuso sexual y odio, con remuneraciones que iban aproximadamente de 1,32 a 2 dólares por hora según función y rendimiento.

La contradicción importa: parte de aquello que después aparece ante el usuario como una capacidad automática para reconocer lo intolerable fue construida mediante personas que tuvieron que exponerse a ese material para enseñarle al sistema dónde estaba.

Antes de la autonomía hubo dependencia.

Y la dependencia no termina en el trabajo humano.

Los modelos avanzados se entrenan y operan en centros de datos que convierten cómputo en calor. La Agencia Internacional de Energía estimó que los centros de datos consumieron alrededor de 415 TWh de electricidad en 2024 y subrayó que sus impactos locales pueden ser mucho mayores que su participación global porque la capacidad está geográficamente concentrada.

En Estados Unidos, Berkeley Lab estimó un consumo directo de 66.000 millones de litros de agua en centros de datos durante 2023. El mismo informe proyectó que sólo los centros hiperescalables podrían consumir entre 60.000 y 124.000 millones de litros anuales en 2028. Son cifras agregadas: no permiten atribuir la misma presión hídrica a todos los centros ni a todas las cuencas.

Ese límite ya había sido el centro de otro expediente de La Intemperie.

El Segundo Informe siguió el agua contratada, la refrigeración, la demanda eléctrica, los costos de red, la excavación y la gobernanza territorial de una infraestructura que todavía llamamos “nube”.

La nube no es el lugar donde desaparece la materia. Es el nombre que usamos cuando dejamos de verla.

Cinco años después, una parte de esas preguntas aparece en un entorno técnico distinto. Los modelos son más capaces, ejecutan herramientas, realizan tareas más largas y algunos actúan con niveles de autonomía que el artículo de 2021 no describía.

Eso impide usar Stochastic Parrots como texto sagrado.

También impide descartarlo como una discusión vieja.

La continuidad importante no está en haber anticipado cada capacidad. Está en la forma de la pregunta: antes de atribuirle significado a lo que el sistema consigue hacer, mirar qué fue necesario movilizar para que pudiera hacerlo.

El conflicto con Google agrega una segunda capa.

Una empresa puede financiar investigación crítica sobre sus propias tecnologías y, al mismo tiempo, tener intereses institucionales sobre cómo se publica esa crítica. Eso no vuelve falsa una investigación corporativa ni verdadera una investigación externa por definición.

Vuelve necesario saber quién produce el documento, bajo qué condiciones y con qué capacidad para contradecir a la institución que lo financia.
 

POR QUÉ NOS IMPORTA

En 2021, Stochastic Parrots pidió medir costos ambientales y financieros, documentar datos y evaluar objetivos antes de seguir escalando modelos de lenguaje. La escala también tiene trabajadores, agua y energía: tres condiciones materiales que desaparecen cuando la máquina se cuenta como si hubiera llegado sola.