LECTURA CRÍTICA · ENSAYO
EL DERECHO A DEFINIR LA CATÁSTROFE
El apocalipsis, la seguridad y la soberanía sobre el peligro
Nota de contexto
El 27 de septiembre de 2026, Ana Arzoumanian publicó en Perfil la columna El apocalipsis como frente de batalla.
El texto parte de una escena conocida y, sin embargo, todavía extraña: algunos de quienes participan en la construcción de las máquinas más poderosas de nuestro tiempo advierten también que esas mismas máquinas podrían escapar al control humano, provocar daños catastróficos o incluso amenazar nuestra continuidad.
Arzoumanian no descarta esos riesgos. Hace algo más incómodo: pregunta qué ocurre políticamente cuando el anuncio de una catástrofe futura empieza a organizar el presente.
Su formulación más incisiva podría condensarse así: el apocalipsis produce soberanía.
Me interesa recoger esa hipótesis sin convertirla en contraseña. No para decidir rápidamente si los catastrofistas tienen razón ni para negar los peligros de la inteligencia artificial, sino para formular una pregunta anterior: ¿quién consigue el derecho a definir la catástrofe?
Ana Arzoumanian (Buenos Aires, Argentina; 21 de abril de 1962) es una escritora, poeta y traductora argentina. Premio Perfil 2025 al Mejor Aporte al Pensamiento Crítico Internacional.
Biografía: Descendiente de inmigrantes armenios, nieta de sobrevivientes del genocidio armenio. Reside actualmente en Buenos Aires. Sus trabajos académicos y sus investigaciones artísticas abordan el tema de la diáspora como modo de expresión y esquema vital no sólo de una generación que fue objeto de persecuciones y diseminación sino en los formatos globales de la relación- mundo.
Estudios: Se recibió de abogada en la Facultad de Ciencias Jurídicas de la Universidad del Salvador. Ha realizado un postgrado en psicoanálisis en la Escuela de Orientación Lacaniana de Buenos Aires.
El riesgo puede ser real y la disputa también
Hay una tentación cómoda en estas discusiones: obligarnos a elegir entre un peligro verdadero y una excusa interesada.
Como si quienes advierten sobre una inteligencia artificial catastrófica solo pudieran actuar de buena fe o fabricar miedo para controlar el mercado.
La realidad no tiene ninguna obligación de organizarse con esa prolijidad.
Un riesgo puede ser genuino y, al mismo tiempo, producir ventajas para algunos actores. Una medida de seguridad puede ser necesaria y modificar la competencia económica. Una regulación puede proteger a la sociedad y también elevar el costo de entrada a un sector. Una empresa puede advertir sinceramente sobre peligros que conoce mejor que otros y beneficiarse de que esa misma advertencia la convierta en interlocutora imprescindible.
No hace falta suponer una conspiración. Alcanza con observar los efectos.
Ese matiz resulta decisivo. Si toda advertencia es tratada como propaganda, dejamos de escuchar riesgos reales. Si toda advertencia se transforma automáticamente en autoridad, dejamos de preguntar quién obtiene poder a partir de ella.
La sospecha no debería reemplazar al análisis. La confianza tampoco.
Quien define el peligro empieza a diseñar la respuesta
Arzoumanian coloca el centro de la disputa en la interfaz entre inteligencia y decisión.
En lo personal daría un paso más.
La interfaz decisiva puede aparecer antes: entre peligro y definición.
Quien logra establecer qué debe considerarse una amenaza grave empieza a influir sobre las respuestas posibles: qué capacidades necesitan vigilancia, qué modelos deben someterse a controles, qué desarrollos pueden continuar, cuáles deben frenarse, qué actores requieren permisos, qué infraestructuras serán consideradas críticas y qué restricciones pueden aceptarse en nombre de la seguridad.
No estoy diciendo que esas preguntas no deban responderse. Estoy diciendo que la capacidad de responderlas también es poder. Y que ese poder merece supervisión.
El poder no necesita provocar la catástrofe. Le alcanza con conseguir autoridad para definirla.
La concesión para administrarla viene después.
CUANDO EL PELIGRO REORGANIZA EL PUEBLO
Hay una fábula demasiado conocida como para no escucharla detrás de esta discusión.
En El pastor mentiroso, atribuida a Esopo, un muchacho anuncia tantas veces la llegada del lobo que termina agotando la capacidad de alarma de quienes lo escuchan. Cuando el peligro finalmente aparece, ya nadie responde.
La comparación con los discursos apocalípticos sobre inteligencia artificial es tentadora, pero conviene detenerla antes de convertirla en caricatura.
El pastor puede representar simplemente al agorero: a quien advierte una y otra vez que el peligro se aproxima, incluso convencido de que está cumpliendo una responsabilidad.
El problema político no empieza necesariamente porque alguien haya inventado al lobo.
Empieza cuando la posibilidad del lobo reorganiza el pueblo.
Aparecen nuevas reglas, nuevas prioridades, nuevos custodios, nuevas competencias y nuevas razones para decidir quién puede actuar y bajo qué condiciones.
Algunos actores adquirirán autoridad dentro de ese nuevo orden. Eso no demuestra que hayan provocado la alarma ni que la alarma sea falsa.
Demuestra algo más sencillo y más importante:
el riesgo también redistribuye poder.
La pregunta, entonces, no es solamente si el pastor tiene razón.
También es qué empieza a cambiar alrededor suyo mientras todos miran hacia el bosque.
El futuro puede ocultar el presente
Una de las tensiones más fértiles de la columna de Arzoumanian aparece cuando contrapone dos peligros.
Por un lado, la inteligencia futura que podría desarrollar autonomía, objetivos propios o capacidades fuera del control humano.
Por otro, las inteligencias que ya están entrando en estructuras militares, sistemas de vigilancia, organismos de seguridad y mecanismos de clasificación.
La primera amenaza mira hacia adelante. La segunda ya tiene contratos.
La primera imagina una máquina que podría decidir demasiado. La segunda obliga a preguntar quién está tomando decisiones ahora mediante máquinas existentes.
No necesitamos elegir entre ambas. Podemos aceptar que existen riesgos futuros difíciles de calcular y, al mismo tiempo, negarnos a que su espectacularidad tape los conflictos presentes.
Una superinteligencia hipotética posee una ventaja narrativa enorme: tiene escala, dramatismo y permite imaginar un acontecimiento definitivo. En cambio, los sistemas que clasifican personas, priorizan expedientes, producen perfiles, recomiendan vigilancia, administran fronteras, asignan riesgos o jerarquizan información trabajan muchas veces sin producir una escena espectacular.
No llegan como apocalipsis. Llegan como procedimiento. Y los procedimientos tienen una extraordinaria capacidad para volverse paisaje.
La catástrofe también puede ser una cortina
Arzoumanian utiliza la figura del espectro: aquello que todavía no está plenamente presente y, sin embargo, ya produce efectos.
La imagen sirve. Pero tiene un riesgo. Un espectro no pesa. La infraestructura sí.
La inteligencia artificial contemporánea no es solamente una promesa futura o una amenaza discursiva. Tiene centros de datos, cables, chips, contratos, energía, agua, capital, trabajadores, sistemas de vigilancia, infraestructura militar, plataformas, patentes y acuerdos con Estados.
La catástrofe futura puede volverse tan luminosa que termine desmaterializando todo eso.
Mientras discutimos si una inteligencia futura podría dominar a la humanidad, conviene mirar quién controla hoy las infraestructuras que permiten entrenarla, desplegarla, venderla, integrarla y limitarla.
- Quién posee los datos.
- Quién participa en la redacción de los estándares.
- Quién puede pagar el cumplimiento de una regulación compleja.
- Quién queda afuera.
- Quién tiene recursos suficientes para convertir la seguridad en una ventaja competitiva.
La profecía no reemplaza a la economía política.
La seguridad también puede convertirse en mercado
Toda regulación crea condiciones. Establece requisitos, define responsabilidades, impone costos y marca límites. Eso es parte de su función.
El problema aparece cuando olvidamos que esos límites no afectan de la misma manera a todos.
Una empresa con miles de millones de dólares puede absorber auditorías, equipos legales, evaluaciones externas, reportes obligatorios y procesos de certificación de una forma muy distinta a un laboratorio pequeño, una universidad o un proyecto abierto.
Eso no vuelve innecesarios esos controles ni demuestra que hayan sido diseñados para eliminar competidores.
Pero obliga a incorporar una pregunta adicional: ¿qué estructura de mercado produce la seguridad que se está construyendo?
La captura regulatoria no necesita presentarse como corrupción. Puede aparecer cuando quienes poseen mayor capacidad técnica, económica y jurídica para participar en la regulación terminan influyendo también sobre las reglas que luego todos deberán cumplir.
Y aquí la discusión se vuelve especialmente delicada, porque las empresas de frontera poseen conocimientos que los Estados necesitan.
Ignorarlas sería absurdo. Entregarles la definición completa del riesgo también.
La dificultad no está en expulsar a quienes saben.
La dificultad está en impedir que saber más sobre una tecnología equivalga a poseer soberanía sobre sus consecuencias.
No todo control es captura
Conviene poner una baranda.
Criticar la autoridad construida alrededor del riesgo no significa defender la ausencia de regulación. La alternativa a una mala regulación no es necesariamente la libertad; a veces es el poder privado sin límites.
Una industria capaz de desarrollar sistemas con efectos sociales amplios no debería quedar sometida únicamente a sus propias evaluaciones, sus propios umbrales y sus propias promesas.
Pero tampoco alcanza con oponer Estado y mercado como si uno de los dos trajera neutralidad de fábrica. Los Estados vigilan, clasifican, militarizan, persiguen, secretizan y fallan. Los mercados innovan, distribuyen, resuelven problemas y abren posibilidades. Ninguno necesita ser santificado para que podamos examinar su poder.
La cuestión es cómo distribuir la capacidad de decidir.
La cuestión es cómo impedir que un mismo actor construya el sistema, defina el riesgo, establezca la prueba, certifique el resultado y recomiende la política pública.
Cuando todas esas funciones se concentran, la seguridad deja de parecer un control.
Empieza a parecerse demasiado a una jurisdicción privada.
El apocalipsis como licencia
Una catástrofe produce excepcionalidad. Incluso antes de ocurrir, permite decir que ciertas demoras son irresponsables.
Que algunos procedimientos son demasiado lentos.
Que determinada información no puede ser pública.
Que una tecnología debe quedar restringida.
Que un organismo necesita nuevas facultades.
Que determinados actores deben tener acceso privilegiado.
Que ciertas libertades pueden esperar.
A veces todo eso puede resultar necesario. Justamente por eso debe ser discutido.
Las medidas extraordinarias poseen una tendencia conocida: entran con fecha de emergencia y salen sin ella.
La institución creada para responder a una amenaza descubre después otras amenazas que también justifican su existencia. La infraestructura de vigilancia construida para una crisis encuentra nuevas funciones.
La excepción aprende a administrarse y sostenerse.
El problema, entonces, no termina cuando comprobamos que la catástrofe no ocurrió. Algunas de las estructuras creadas para impedirla ya existen: tienen presupuesto, competencias, personal, información, contratos, protocolos y una razón para continuar.
La pregunta por el custodio
Toda narración apocalíptica produce una figura.
El custodio.
Alguien tiene que vigilar la puerta, debe reconocer la señal, debe decidir cuándo intervenir.
Alguien tiene que poder apagar la máquina.
El problema no es que exista ese alguien. El problema empieza cuando dejamos de preguntar quién lo eligió, quién controla al custodio, qué información utiliza, qué intereses posee, qué ocurre si se equivoca, qué poder conserva cuando la amenaza disminuye y si puede ser reemplazado, contradicho o auditado.
Una sociedad que teme suficientemente una catástrofe puede estar dispuesta a entregar enormes capacidades al primero que parezca capaz de evitarla.
El miedo no vuelve irracional esa decisión. Pero puede volverla apresurada.
Y la urgencia siempre ha sido una eficiente enemiga de las preguntas largas.
Crónicas de una operación conocida
Crónicas de la Intemperie no fue escrita como explicación de esta discusión.
Sería una torpeza intentar convertir ahora la ficción en una ilustración retroactiva.
Pero la estructura que Arzoumanian observa nos resulta familiar.
En la novela, el problema no es solamente la existencia de una crisis hídrica.
Es quién adquiere capacidad para nombrar el agua segura.
Quién certifica, distribuye, establece prioridades, define población protegida, clasifica población residual y decide qué continuidad merece ser financiada.
El desastre crea una necesidad. La necesidad crea infraestructura. La infraestructura produce dependencia.
Y la dependencia empieza a parecerse demasiado a legitimidad.
El poder no necesita decir: obedecé.
Puede decir: te estamos cuidando.
Esa diferencia importa porque la violencia contemporánea rara vez necesita presentarse como violencia. Puede llegar en forma de protocolo, indicador, certificación, recomendación técnica, requisito de seguridad u optimización.
La catástrofe ofrece el lenguaje perfecto para que todas esas operaciones parezcan inevitables.
No se niega la alarma
Sería cómodo terminar acusando a los catastrofistas de exageración.
No es mi posición.
Las tecnologías poderosas pueden producir daños poderosos y tampoco sabemos con precisión qué capacidades tendrán los sistemas futuros. Cuando el daño potencial es suficientemente grande, esperar una prueba definitiva puede ser una manera elegante de llegar tarde.
El principio de precaución tiene razones. La vigilancia también. La regulación también.
El problema aparece cuando se confunde necesidad de regulación con obediencia a quien reclama autoridad para definirla.
Una sociedad democrática debería poder hacer dos cosas al mismo tiempo: escuchar una advertencia y preguntar quién gana poder cuando la acepta.
No es cinismo. Es control.
No es negacionismo. Es política.
No creo que toda advertencia apocalíptica sea propaganda.
No creo que toda regulación tecnológica sea captura.
No creo que el conocimiento técnico otorgue automáticamente autoridad política.
No creo que el Estado sea neutral por llamarse Estado ni que una corporación sea ilegítima por llamarse corporación.
La seguridad no puede reducirse a una cuestión técnica y el futuro no debería gobernarse únicamente desde el miedo a su peor posibilidad.
Creo que todo actor capaz de definir una amenaza adquiere una forma de poder. Ese poder debe hacerse visible, discutirse, distribuirse, auditarse y poder ser contradicho.
Y, cuando sea necesario, retirarse.
Una emergencia no debería convertirse en la escritura automática del orden que vendrá después.
El derecho a definir la catástrofe.
Quizá el conflicto más importante no ocurra entre quienes creen y quienes no creen en el apocalipsis tecnológico. Quizá ocurra antes.
Entre distintas capacidades para nombrarlo.
Una amenaza puede ser real.
Un diagnóstico puede ser correcto.
Una regulación puede ser necesaria.
Y aun así debemos preguntar quién consiguió establecer esas tres cosas.
Porque definir la catástrofe también significa dibujar el perímetro de lo aceptable.
¿Qué se protege?
¿Qué se sacrifica?
¿Qué se vigila?
¿Qué se restringe?
¿Qué se financia?
¿Qué se abandona?
¿Quién entra?
¿Quién queda afuera?
Por eso la pregunta no termina en: ¿puede la inteligencia artificial destruirnos?
Debe continuar: ¿qué mundo estamos construyendo para impedirlo?
Y todavía una más: ¿quién obtiene el derecho a construirlo en nuestro nombre?
El apocalipsis puede no llegar. Las instituciones creadas alrededor de su posibilidad, sí.
El peligro puede no adquirir nunca la forma exacta que imaginamos.
El poder organizado para combatirlo ya habrá adquirido una.
Por eso no alcanza con vigilar a la máquina. También hay que vigilar el lugar desde el que alguien señala la máquina y pronuncia: esto es la catástrofe.
Ese lugar también debe permanecer abierto a disputa.
Porque quizá una sociedad libre no sea aquella que consigue eliminar todos los peligros.
Quizá sea aquella que se niega a entregar a una sola voz el derecho de decidir qué debe temer.
La catástrofe no empieza solamente cuando algo se rompe.
También puede empezar cuando dejamos que alguien defina, sin nosotros, qué significa estar a salvo.
Nota al pie:
Este texto empezó leyendo a Ana Arzoumanian y terminó preguntándose quién obtiene autoridad cuando consigue definir aquello que debemos temer. En el recorrido trabajé con ChatGPT: discutimos la columna, separamos advertencia de interés, riesgo de conspiración, regulación de captura, catástrofe de administración de la catástrofe. Algunas hipótesis sobrevivieron; otras quedaron en el camino. La inteligencia artificial participó de esa conversación, pero la posición que finalmente quedó escrita es mía.
Hay cierta ironía —y también cierta coherencia— en utilizar una de las tecnologías discutidas para examinar los discursos que intentan definir sus peligros. Tal vez la cuestión nunca haya sido mantener a las máquinas fuera de la conversación. Tal vez sea conservar la capacidad de decidir qué preguntas hacemos, qué respuestas aceptamos y a quién concedemos autoridad para declarar que estamos a salvo.
Gustavo Camacho ft. ChatGPT
primavera de 2026