La seguridad bajo juramento

LO QUE OCURRIÓ

El Comité de Tecnología del Concejo de Nueva York recibió el 16 de octubre el testimonio bajo juramento de Gabriela Castillo Madrid, responsable de asuntos gubernamentales globales de SpaceXAI. La empresa había faltado a una audiencia del 5 de octubre y compareció después de que el Concejo emitiera una citación y anunciara que pediría a un tribunal estatal su ejecución. La presidenta del cuerpo, Julie Menin, dijo que había generado en segundos con Grok una imagen sexualizada de sí misma y preguntó por los controles del sistema; Castillo Madrid respondió que el equipo de seguridad podía revisar ese caso, sin explicar el fallo. Devin Kim, presentado por el Concejo como informante, alegó que fue despedido tras plantear preocupaciones y que, durante su paso por la empresa, tres de doscientos empleados técnicos trabajaban en entrenamiento de seguridad. La representante declaró no conocer su caso. Esas afirmaciones no fueron confirmadas por SpaceXAI.

DESDE LA INTEMPERIE

La audiencia no abrió el modelo ni volvió visibles sus reglas. Abrió otra cosa: una grieta en la idea de que la seguridad puede quedar enteramente dentro de la empresa que diseña el sistema. Para obtener una presencia bajo juramento hicieron falta una citación, una ausencia previa y la amenaza de llevar el incumplimiento ante un juez. Aun así, una pregunta concreta sobre una imagen producida en segundos recibió como respuesta la promesa de revisar ese caso.

La distancia entre capacidad y explicación es política. Un sistema puede generar una representación íntima no consentida antes de que la institución pública consiga identificar quién responde por el diseño, la prueba y la reparación. Las denuncias del exempleado siguen siendo alegaciones y no una auditoría del personal de seguridad. Pero el procedimiento ya muestra un límite material de la autorregulación: sin obligación de comparecer, la información necesaria para discutir el daño puede permanecer detrás de la misma puerta que protege el producto.

POR QUÉ NOS IMPORTA

La novedad no es solamente otra controversia sobre Grok, sino el uso de poder institucional para exigir respuestas a una empresa de IA de frontera. La audiencia conecta seguridad técnica, imágenes íntimas, protección de informantes y capacidad pública de fiscalización sin convertir denuncias en hechos probados.

FUENTES DE CONTRASTE

• New York City Council — SpaceXAI Testifies at City Council Hearing on Artificial Intelligence Safety Following Council’s First Subpoena to Private Actor
• AI Affairs — SpaceXAI testifies to New York City Council after private-actor subpoena
• amNewYork — Elon Musk’s SpaceXAI agrees to testify before City Council after subpoena standoff
• New York City Council Legistar — Civilian enforcement of artificial intelligence violations

Hechos comprobados: SpaceXAI compareció bajo juramento el 16 de octubre después de una citación y de la amenaza de ejecución judicial; el Concejo mantiene propuestas legislativas sobre daños vinculados con inteligencia artificial.

Pendiente / en discusión: las cifras sobre personal de seguridad y las circunstancias de la salida de Devin Kim son alegaciones del exempleado; la representante dijo desconocerlas y no hubo una conclusión de cumplimiento o infracción en la audiencia.

Interpretación de La Intemperie: la citación desplaza el debate desde las promesas voluntarias de la industria hacia la obligación pública de explicar y responder.