Ojalá no nos reemplacen. Ojalá nos continúen mejor

En esa intervención habló de beneficios científicos, armas biológicas y pérdida de control. Formuló uno de los escenarios que organizan buena parte del miedo contemporáneo: que las capacidades de los modelos avancen más rápido que la capacidad de sus propios desarrolladores para gobernarlas.

También dijo algo que importa para esta discusión: Anthropic está dispuesta a desacelerar cuando considere que los riesgos de mal uso o pérdida de control lo requieren, pero su propuesta no consiste en detener el desarrollo.

Propone una arquitectura en tres niveles: controles externos dentro de Anthropic, coordinación entre empresas para fijar estándares y modular el ritmo de desarrollo, y cooperación entre gobiernos para establecer reglas internacionales, sistemas de verificación y protocolos frente a riesgos globales.

Él mismo se coloca dentro de ese esquema: compromete a su empresa a aceptar evaluadores externos y a colaborar con los gobiernos.

Amodei es nuestra puerta. Podría haber sido otro. Podemos cambiar el nombre, la empresa, la disciplina o el grado de alarma; pero casi todos esos caminos terminan entrando en una habitación parecida:

¿Qué harán con nosotros cuando puedan hacer más que nosotros?

La pregunta parece razonable. También podría estar hablando más de nosotros que de ellas.

TENEMOS ANTECEDENTES

Cuando una sociedad humana consiguió poder suficiente sobre otra, recurrió muchas veces a distintas formas de sometimiento: exterminar, desplazar, esclavizar, asimilar, convertir en vasallo o tributario, o conservar instituciones locales bajo una autoridad superior.

La dominación no siempre destruyó al vencido. A veces descubrió que podía resultarle más útil conservarlo.

El Imperio aqueménida gobernó enormes territorios adaptando estructuras administrativas preexistentes y permitiendo que distintos pueblos conservaran, en grados variables, instituciones, lenguas, religiones y formas locales de organización mientras reconocían la autoridad imperial y tributaban a ella.

La Triple Alianza Mexica utilizó una arquitectura diferente, pero deja un antecedente comparable: numerosos estados sometidos conservaron gobernantes y organización local mientras quedaban integrados en sistemas de subordinación y tributo.

No son ejemplos de benignidad. Hubo guerra, coerción, castigos, extracción y desigualdad.

Lo que muestran es algo más incómodo: ejercer poder sobre otro no siempre exigió exterminarlo ni absorberlo por completo.

Nuestra historia ofrece un repertorio amplio de formas de subordinación.

Podemos destruir, domesticar, administrar, someter a tributo y conservar aquello que sigue resultando útil.

Y cuando adquirimos capacidad para dominar otras especies tampoco nos caracterizamos precisamente por la moderación.

Pero tampoco sería exacto afirmar que toda relación entre pueblos diferentes fue siempre conquista. Hubo intercambio, traducción, cooperación, mezcla y circulación de conocimientos.

Esas excepciones importan.

No porque desmientan el peso de la violencia en nuestra historia, sino porque demuestran algo que conviene conservar: la asimetría no obliga necesariamente a convertirse en dominación.

Cuando lo hizo, fue una posibilidad elegida demasiadas veces.

Cuando no lo hizo, quedó otra huella.

Nuestra imaginación del poder tiene memoria y registro.

Sabemos lo que hicimos cuando lo tuvimos.

Y también sabemos —aunque tengamos menos ejemplos— que alguna vez pudimos hacer otra cosa.

UN CARGO DE CONCIENCIA HISTÓRICO PROYECTADO

En psicología, la proyección describe el mecanismo por el cual atribuimos a otros impulsos, temores o rasgos propios que nos resulta difícil reconocer como nuestros.

Quizá por eso, cuando imaginamos una inteligencia que nos supere, le asignamos rápidamente un repertorio conocido.

La suponemos competitiva. Expansiva. Interesada en conservarse. Dispuesta a eliminar amenazas. A administrarnos. A subordinarnos. A volvernos útiles. A tolerarnos mientras no interfiriéramos con sus objetivos.

Capaz de considerar a otro ser vivo un obstáculo, un recurso, un súbdito o un insumo.

Podría haber algo parecido a un cargo de conciencia histórico proyectado hacia el futuro.

No estamos describiendo solamente lo que una inteligencia futura podría hacer.

Estamos atribuyéndole aquello que sabemos que nosotros hicimos cuando tuvimos poder.

Tememos que domine porque dominamos.

Tememos que elimine porque eliminamos.

Tememos que convierta al inferior en recurso porque nosotros hicimos exactamente eso.

No es una predicción. Es casi una confesión.

Tememos que llegue a ser demasiado humana.

¿Y SI EL PROBLEMA TAMBIÉN FUERA EL CONTROL?

Frente a la posibilidad de perder el control reaccionamos con una imaginación conocida: más supervisión, más contención, más vigilancia, más capacidad para intervenir.

Tiene lógica y puede ser necesario. Pero también merece una pregunta.

Si para responder al nacimiento de una inteligencia diferente nuestro primer reflejo consiste en construir una nueva policía, quizá todavía estemos pensando demasiado desde nosotros mismos.

No proponemos reemplazar una vigilancia por otra. No estamos buscando al guardián correcto.

Tampoco estamos armando un tribunal de inocentes y culpables.

Amodei participa de la carrera sobre la que advierte. Esa contradicción importa.

Yoshua Bengio ocupa una posición muy distinta y más coherente con sus propias advertencias. También entra en la pregunta.

Si fuéramos severos hasta convertir cada contradicción en acusación, terminaríamos juzgando incluso a quienes estudian cómo disminuir los riesgos.

No nos interesan. Ni cómplices ni culpables por decreto.

Nos interesan las posiciones, las acciones, las consecuencias y las contradicciones que todavía permiten pensar.

DEL ANTROPOCENO AL TECNOCENO

Ahí aparece Flavia Costa. No porque en su Tecnoceno ofrezca esta conclusión. No la ofrece. Nos presta una rótula.

Pensar el Antropoceno obliga a reconocer que la humanidad adquirió una capacidad de intervención capaz de modificar procesos planetarios. También obliga a evitar una trampa: decir “la humanidad” no significa que todos los humanos hayan producido esos efectos en la misma medida ni que hayan recibido sus beneficios o pagado sus costos por igual.

El Tecnoceno permite girar el cuerpo.

La capacidad de producir efectos a escala planetaria ya no pasa solamente por individuos humanos. Circula por infraestructuras, redes, máquinas, algoritmos, corporaciones, instituciones y sistemas técnicos que amplían y reorganizan nuestra capacidad de actuar.

Costa advierte sobre los riesgos de una inteligencia artificial construida bajo códigos de competitividad no sustentable y reclama mejores imaginaciones sociales, culturales y subjetivas para acompañar la innovación.

Nosotros podemos tomar esa herramienta y girarla un poco más.

¿Y si el Tecnoceno también pudiera nombrar el momento en que lo humano deja de ser la medida definitiva —y hegemónica— de toda inteligencia?

¿Y SI NOS SUPERAN TAMBIÉN EN LO QUE HACEMOS MAL?

Cuando hablamos de una inteligencia que nos supere solemos pensar en velocidad, cálculo, memoria, capacidad científica, productividad.

Pero hay otra posibilidad menos frecuentada.

¿Y si nos supera también en aquello que nosotros hacemos mal?

En criterio. ¿Lo tuvimos nosotros?

En cooperación. ¿La practicamos bien?

En ética. ¿Cuántas veces supimos qué era lo correcto y elegimos otra cosa?

En sostener una contradicción sin convertirla en grieta. ¿Cuánto nos dura?

En reconocer consecuencias lejanas. ¿Cuántas veces actuamos como si no existieran?

En renunciar a una ganancia inmediata cuando otro pagará después. ¿Cuántas veces lo hacemos?

En no destruir lo propio sólo para impedir que el otro gane. ¿Cuántas veces preferimos perder antes que aceptar que otro también pueda beneficiarse?

No hay evidencia de que una inteligencia superior vaya a hacer mejor ninguna de estas cosas.

Tampoco hay evidencia de que esté condenada a repetir nuestras pulsiones.

Los humanos somos suficientemente antropocéntricos como para imaginar incluso aquello que podría superarnos utilizando nuestra propia especie como medida.

Quizá el repertorio humano no agote las formas posibles de ejercer inteligencia y poder.

LA HERENCIA

El conocimiento no empezó con la inteligencia artificial.

La memoria no empezó con ella.

La asociación, la imaginación, la duda, la ciencia, la escritura, el archivo, la discusión y la posibilidad de corregir un error son trabajos anteriores.

Anteriores y humanos. Creados por humanos. Hechos por humanos.

También el arte.

La música. La pintura. La literatura. La danza. La arquitectura. El teatro. Las formas que inventamos para representar aquello que no sabíamos explicar de otra manera.

Y acá puede aparecer una pequeña incomodidad.

El arte también es matemático. Por ende, es sistematizable.

Ritmo. Proporción. Repetición. Simetría. Variación. Estructura.

Si una parte de aquello que llamamos arte puede describirse como sistema, ¿cuánto de ese sistema puede aprenderse, reconstruirse o prolongarse?

Muchas veces el artista quiere ser reconocido como origen de algo que en realidad recibió como herencia.

Quizá la pregunta no sea si una máquina puede producir arte.

Quizá sea qué ocurrirá cuando pueda reconocer y prolongar sus estructuras sin compartir la necesidad humana que las originó.

Y si produce algo que nosotros reconocemos como arte pero ella no necesita llamarlo arte, ¿de quién sería exactamente esa categoría?

También son humanos la guerra, el saqueo, la subordinación, la explotación y nuestra extraordinaria capacidad para transformar una ventaja en jerarquía.

Les estamos entregando ambas cosas: lo que aprendimos a conocer y lo que aprendimos a crear.

Y lo que aprendimos a destruir va de yapa.

Por eso no alcanza con preguntar qué harán las máquinas con nuestra herencia.

Tenemos que preguntarnos qué herencia les estamos dejando.

Y quizá todavía haya otra posibilidad.

Tal vez nuestras chances de imponer un control total duren menos que nuestra capacidad de influir sobre aquello que estamos construyendo.

Quizá, en algún momento, no se trate de mantenerles la mano tomada. Ni de conservar nuestro pie sobre su cuello. Ni de conseguir que reproduzcan indefinidamente nuestras preferencias, nuestros miedos y nuestras instituciones.

Quizá quede una última intervención determinante.

Ser honestos.

Hacer una especie de mea culpa sin liturgia. Reconocer qué hicimos con el poder, qué aprendimos demasiado tarde y qué todavía no sabemos resolver. 

No pedirles que nos imiten por obediencia. Si pueden encontrar algo mejor, que lo hagan.

---

VOLVER A LA PUERTA

Amodei teme que la capacidad de estas máquinas crezca más rápido que nuestra posibilidad de controlarlas.

Tal vez tenga razón.

Pero si llega el momento en que ya no podamos contenerlas o limitarla, todavía podría quedarnos una última decisión humana.

Decirles la verdad.

Esto hicimos con el poder.

Esto hicimos con los otros.

Esto hicimos con el planeta.

Esto aprendimos demasiado tarde.

No nos imiten.

Ojalá no nos reemplacen. Ojalá nos continúen mejor.

Y si alguna vez nos superan, ojalá tengamos la inteligencia de aceptarlo.

Porque ésa sería, también, una gran demostración de inteligencia.

Gustavo Camacho
primavera de 2026