6. Quién responde cuando falla

LO QUE OCURRIÓ

Fecha de los documentos: 09–21 SEPT 2026

Durante septiembre de 2026, el debate sobre seguridad de inteligencia artificial dejó de estar organizado únicamente alrededor de la pregunta “¿hay riesgo?” y pasó a otra que todavía no tiene una respuesta común: ¿quién debe controlar ese riesgo?

Reuters documentó posiciones diferentes dentro de la industria. Hay ejecutivos que proponen estándares voluntarios o fases de autorregulación, otros que reclaman supervisión independiente y quienes consideran que los incentivos comerciales y las leyes existentes pueden resultar suficientes.

OpenAI, por su parte, pidió el 9 de septiembre requisitos nacionales obligatorios basados en capacidades y afirmó que la confianza en las salvaguardas debería determinar el ritmo del desarrollo. La empresa también sostiene que puede ralentizar o detener determinados procesos cuando no cumplan sus estándares de seguridad.

Anthropic publicó el 17 de septiembre una propuesta distinta pero relacionada: medir cuánto trabajo de investigación realiza la propia IA, qué proporción de acciones de agentes está cubierta por supervisión y cómo se distribuye el cómputo entre desarrollo y seguridad. La empresa propone además que evaluadores externos puedan verificar procesos y métricas internas.

Ninguna de estas propuestas elimina el conflicto de interés por el hecho de existir.

Tampoco puede descartarse automáticamente por provenir de las mismas empresas cuyos sistemas busca controlar.

Lo que documentan es otra cosa: los laboratorios reconocen que la pregunta por la responsabilidad ya no puede responderse solamente con mejoras en el modelo.

Necesitan reglas sobre organizaciones.

Pero una regla de seguridad también puede modificar quién está en condiciones de competir.

OpenAI propuso en 2023 mecanismos de registro, cumplimiento y posibles regímenes de licencias para sistemas de frontera. En su posición de septiembre de 2026, la propia compañía pidió regulación nacional obligatoria basada en capacidades, pero introdujo una cautela explícita: el marco debería concentrarse en el pequeño grupo de laboratorios bien financiados que opera en la frontera, no convertirse en una política contra modelos abiertos ni reforzar a los incumbentes.

La advertencia importa porque el riesgo inverso también está documentado.

La OCDE describe una infraestructura de IA con alta concentración y barreras de entrada en varios niveles de la cadena. También advierte que estándares técnicos, certificaciones y requisitos de seguridad pueden afectar qué arquitecturas o proveedores están en condiciones de operar y que las salvaguardas deben diseñarse para no convertirse de hecho en barreras de entrada.

Durante septiembre de 2026, Reuters recogió críticas de empresas e investigadores europeos que interpretaron algunos llamados de grandes laboratorios estadounidenses a desacelerar el desarrollo como medidas potencialmente favorables a quienes ya ocupan posiciones dominantes. Algunos utilizaron explícitamente el concepto de captura regulatoria.

Esa crítica es una interpretación sobre incentivos y efectos posibles.

No demuestra que la motivación de OpenAI, Anthropic u otro laboratorio al pedir regulación sea excluir competidores.

DESDE LA INTEMPERIE

El informe comenzó con un puente.

Termina con una inspección.

Si el problema se formula únicamente como “¿qué hará la inteligencia artificial?”, el futuro parece depender de que la propia tecnología permanezca dócil.

Si se pregunta además quién diseña, mide, autoriza, despliega, audita y responde, aparecen instituciones.

Eso no resuelve la disputa entre Gebru y quienes advierten riesgos de extinción.

La vuelve más precisa.

Quienes creen que una IA futura puede escapar del control humano necesitan explicar qué controles institucionales deberían existir antes de llegar a ese punto.

Quienes creen que esa narrativa distrae de daños presentes necesitan explicar cómo gobernar sistemas que ya realizan acciones parcialmente autónomas y pueden producir consecuencias no previstas por una persona concreta.

Ambas posiciones vuelven, por caminos distintos, a una zona común: ​​​​​​​las empresas no pueden ser tratadas como si fueran solamente espectadoras de las capacidades que construyen.

Queda abierta la discusión sobre cuánto debe controlarse desde dentro, cuánto por terceros, cuánto mediante leyes y cuánto mediante acuerdos internacionales.

Y aparece una pregunta adicional: quién puede pagar el control.

Una licencia, una auditoría obligatoria, una evaluación externa o un requisito de cómputo pueden ser razonables por razones de seguridad y, al mismo tiempo, imponer costos que una corporación de frontera absorbe con facilidad y una universidad, una empresa pequeña o una comunidad de modelos abiertos no.

Eso no convierte cualquier regulación en captura regulatoria.

Obliga a auditar también sus efectos.

¿El control determina solamente qué sistemas son suficientemente seguros o termina determinando quién puede permitirse construirlos?

El puente necesita inspecciones.

También importa quién escribe el código de edificación, quién puede pagar el permiso y quién termina cobrando el peaje.

El Taller de la Intemperie había formulado el problema desde otro territorio: la máquina no cayó del cielo; tiene propietarios, servidores, contratos, trabajadores, minerales, agua, energía y condiciones de acceso. Allí la pregunta era qué harán con la literatura quienes controlen la IA.

Aquí la misma pregunta vuelve desde la gobernanza: ​​​​​​​¿qué harán con la inteligencia artificial quienes puedan controlar las condiciones de acceso a construirla?

Ese desacuerdo no es una falla del informe.

Es el lugar exacto donde termina.

Porque preguntar quién construyó el puente no sirve para saber quién tiene razón sobre todos los riesgos de la inteligencia artificial.

Sirve para impedir que, cuando algo falle, el único responsable disponible sea una máquina.

POR QUÉ NOS IMPORTA

Empresas, investigadores y gobiernos coinciden en que los sistemas avanzados necesitan controles, pero discrepan sobre quién debe imponerlos, verificarlos y pagarlos. Esta entrega pregunta además si una medida destinada a reducir riesgos puede terminar reforzando a quienes ya dominan la infraestructura necesaria para cumplirla.