Saltar al contenido

 

Lo posible no es todavía una obligación

Una advertencia formulada desde dentro de la industria sobre tecnologías capaces de crecer más rápido que nuestra voluntad de limitarlas. Joy no hablaba desde el miedo al progreso, sino desde el conocimiento de la velocidad con que una posibilidad se convierte en programa de desarrollo.

Fuente principal: Bill Joy, “Why the Future Doesn’t Need Us”, Wired, abril de 2000.

BILL JOY

«Estamos siendo impulsados ​​hacia este nuevo siglo sin plan, sin control y sin frenos.»

— Bill Joy,
Por qué el futuro no nos necesita.

En 2000, Bill Joy llevaba décadas trabajando en el corazón de la informática. Había contribuido a BSD Unix, cofundado Sun Microsystems y participado en tecnologías decisivas para la expansión de la computación conectada. Por eso “Why the Future Doesn’t Need Us” no tuvo el tono de una denuncia lanzada desde afuera de la industria: era la alarma de alguien que conocía de cerca la confianza técnica, los incentivos y la velocidad con que una posibilidad puede transformarse en programa de desarrollo.

Su ensayo agrupó bajo la sigla GNR tres campos que entonces concentraban expectativas enormes —genética, nanotecnología y robótica— y formuló una inquietud que sobrevivió mejor que varias de sus predicciones: ¿qué ocurre cuando nuestra capacidad para construir algo crece más rápido que nuestra capacidad colectiva para decidir si conviene construirlo?

Veintiséis años después, parte del escenario que imaginó cambió de forma. Sin embargo, una intuición permanece incómodamente vigente: la posibilidad técnica no constituye por sí sola una obligación histórica.

Joy cuenta que durante buena parte de su carrera la posibilidad de máquinas capaces de desplazar a los seres humanos le había parecido lejana. Conocía demasiado bien la fragilidad del software y las limitaciones de las computadoras como para aceptar sin más los escenarios grandiosos de la ciencia ficción.

Su inquietud cambió cuando empezó a relacionar genética, nanotecnología y robótica con una propiedad que conocía por su experiencia en redes: la capacidad de reproducción. Un programa que se copia fuera de control puede derribar un servicio; un sistema capaz de replicarse en el mundo físico introduce otra clase de consecuencias. La pregunta dejó entonces de ser cuánto poder podía alcanzar una tecnología y pasó a incluir qué podía ocurrir si escapaba del contexto para el cual había sido diseñada.

En ese punto Joy empezó a discutir una convicción muy arraigada en la cultura técnica: la idea de que, si algo puede hacerse, tarde o temprano alguien necesariamente lo hará.

Conozco esa convicción desde adentro. Trabajar con software enseña a confiar en que los problemas se resuelven construyendo, y esa confianza es productiva casi siempre. El problema aparece cuando se convierte en una forma de no preguntar. Joy no llegó a su advertencia por falta de fe técnica, sino por exceso de conocimiento sobre lo que la técnica puede desatar.

CUANDO SE VUELVE CAPACIDAD

Las armas de destrucción masiva del siglo XX exigieron, al menos durante buena parte de su desarrollo, Estados, instalaciones enormes, materiales difíciles de obtener y conocimientos fuertemente protegidos. Joy creyó ver una diferencia en algunas tecnologías emergentes: podían combinar gran potencia con barreras de acceso decrecientes y, en ciertos casos, capacidad de autorreplicación.

De allí surgió su expresión knowledge-enabled mass destruction: destrucción masiva habilitada por conocimiento. Lo que le preocupaba no era solamente una mayor capacidad destructiva, sino que herramientas antes reservadas a organizaciones gigantescas pudieran quedar al alcance de grupos mucho más pequeños.

Su argumento era deliberadamente extremo, pero señalaba un desplazamiento real. Cuando una parte creciente de la capacidad técnica reside en información reproducible, el conocimiento deja de ser únicamente descripción del mundo y puede convertirse, con menos mediaciones, en capacidad de intervenir sobre él.

Ese desplazamiento tiene una versión cotidiana que me resulta reconocible. Un manual, un repositorio o una documentación pueden permitir que alguien haga algo que antes requería años de formación. La difusión del conocimiento es una conquista y, al mismo tiempo, una transferencia de capacidad. Joy obliga a mirar las dos caras sin elegir de antemano cuál pesa más.

DE LOS PEQUEÑOS PASOS

Joy no necesitaba imaginar un laboratorio construyendo de una vez la máquina definitiva. Le preocupaba algo más cotidiano: una sucesión de avances razonables, útiles y defendibles considerados por separado podía acumular una capacidad que nadie hubiera decidido crear como conjunto.

Una mejora médica, un robot más competente, un material nuevo o una herramienta genética más precisa pueden responder a objetivos perfectamente atendibles. El problema aparece cuando esos desarrollos se acoplan, se abaratan, circulan y alcanzan una escala distinta de aquella que justificó cada decisión inicial.

La política tecnológica suele llegar tarde precisamente por eso. Muchas capacidades no nacen después de un debate colectivo acerca de su conveniencia, sino de miles de decisiones distribuidas entre universidades, empresas, Estados, laboratorios, inversores y consumidores. El riesgo sistémico rara vez tiene un único autor.

Esa idea de los pequeños pasos me parece la más aplicable al presente. Casi ninguna tecnología controvertida se aprueba de una vez; se acumula en decisiones parciales que, vistas por separado, parecen razonables. El problema es que nadie tiene el plano del conjunto. La política llega cuando el sistema ya está armado y sólo queda administrar sus consecuencias.

COMO COARTADA

Uno de los argumentos más persistentes contra cualquier límite tecnológico sostiene que detenerse es inútil. Si un laboratorio renuncia, continuará otro; si un país regula, otro aprovechará la ventaja; si una empresa desacelera, un competidor ocupará su lugar.

Ese razonamiento describe una dificultad real, pero también puede funcionar como coartada. Convierte decisiones humanas, inversiones, políticas públicas y estrategias empresariales en una fuerza semejante al clima. Entonces el mercado, la competencia o el progreso aparecen como nombres de un destino al que solo cabría adaptarse.

Joy discutía ese fatalismo. Ninguna tecnología se desarrolla por generación espontánea: necesita financiación, infraestructura, instituciones, trabajo, permisos y mercados. Llamar inevitable al resultado puede borrar las elecciones que lo hicieron posible y, de paso, eximir de responsabilidad a quienes todavía pueden modificarlas.

La inevitabilidad tecnológica suele proclamarse después de que alguien decidió financiarla.

He escuchado ese argumento muchas veces, casi siempre con buena letra: “esto va a pasar igual”. La frase tiene la ventaja de cerrar la discusión sin necesidad de demostrar nada. También tiene un costo: si todo va a pasar igual, nadie tiene que responder por lo que decide financiar. El fatalismo no es una descripción del futuro; es una forma de repartir responsabilidades hacia ningún lado.

La palabra más polémica de “Why the Future Doesn’t Need Us” es relinquishment: renuncia. Joy no proponía abandonar toda investigación científica. Planteaba que algunas líneas de desarrollo podían alcanzar un nivel de riesgo que justificara no continuarlas o limitar deliberadamente sus aplicaciones. Para mostrar que esa posibilidad no era absurda recurrió a los acuerdos internacionales sobre armas biológicas y químicas: existen antecedentes de sociedades que decidieron no explotar ciertas capacidades aunque fueran técnicamente realizables.

La propuesta choca con una convicción moderna poderosa: el conocimiento debe avanzar. Joy obliga a separar, al menos por un momento, conocimiento y despliegue. Investigar una posibilidad no obliga a convertirla en producto, infraestructura o arma; del mismo modo, una sociedad puede admitir determinados usos y prohibir otros cuando las consecuencias lo justifican.

Lo radical de su argumento no está únicamente en la renuncia. Está en recuperar una capacidad política que el discurso de la innovación suele presentar como anacrónica: también podemos decidir que no.

La palabra “renuncia” suena a pérdida, y por eso el debate se vuelve tan difícil. Renunciar a una línea de desarrollo, en cambio, no es renunciar al conocimiento: es decidir que no todo lo que se puede investigar debe convertirse en infraestructura. Esa distinción me parece más razonable que la alternativa, que consiste en dejar que la capacidad se despliegue y después intentar regularla cuando ya tiene intereses propios.

DECIR QUE NO

La renuncia abre enseguida un problema que Joy no resuelve por completo. ¿Quién tiene autoridad para declarar que una tecnología es demasiado peligrosa? Una comunidad científica, un Estado, una empresa, un organismo internacional y la población que cargará con las consecuencias no ocupan la misma posición ni tienen los mismos intereses.

El freno puede expresar prudencia, pero también censura, monopolio o privilegio. Un actor que ya domina una capacidad podría invocar el riesgo para impedir el acceso de otros; una regulación puede proteger a la sociedad o consolidar a las empresas que tienen recursos suficientes para cumplirla; un país puede reclamar límites universales mientras conserva ventajas estratégicas.

La discusión, por lo tanto, no termina cuando aceptamos que algunas tecnologías deberían poder frenarse. Recién empieza. Tan importante como decidir qué limitar es decidir quién puede hacerlo, con qué legitimidad y bajo qué controles.

La pregunta por la legitimidad me parece más difícil que la pregunta por el riesgo. Cualquiera puede enumerar peligros; decidir quién tiene derecho a frenar exige instituciones que todavía no existen. Joy lo sabe, y sin embargo escribe como si su propia voz pudiera suplir esa ausencia.

Varias imágenes del ensayo conservan la temperatura del cambio de milenio. La nanotecnología no produjo los ensambladores autorreplicantes capaces de convertir la biosfera en la famosa grey goo, y la convergencia entre genética, nanotecnología y robótica no ocurrió exactamente en los términos ni con los calendarios que Joy temía. Parte de su alarma se apoyaba en escenarios altamente especulativos cuya plausibilidad sigue siendo discutida.

Eso importa. Un precursor no obtiene inmunidad retrospectiva y una advertencia temprana no se transforma automáticamente en profecía.

Sin embargo, el núcleo del problema sobrevivió mejor que algunas de sus imágenes. Joy intentaba pensar qué ocurre cuando automatización, difusión del conocimiento, barreras de acceso decrecientes, capacidad de réplica y consecuencias potencialmente irreversibles empiezan a combinarse. Los objetos cambiaron; la arquitectura de la pregunta, no tanto.

Me parece valioso reconocer ese envejecimiento sin usarlo para descartar el ensayo. Es fácil señalar que alguien exageró hace veinte años y quedarse tranquilo. Más difícil es separar la imagen que falló del problema que sigue presente. Joy se equivocó en algunos escenarios y acertó en la estructura: tecnologías que se abaratan, se difunden y se replican más rápido de lo que las instituciones pueden procesar.

REACCIONANDO

El centro del debate tecnológico se desplazó desde 2000. La nanotecnología perdió parte de su protagonismo público, la genética avanzó por caminos menos lineales que los imaginados entonces y la inteligencia artificial pasó a ocupar un lugar que en aquel ensayo aparecía principalmente bajo la categoría de robótica.

Con ese desplazamiento regresaron preguntas familiares. Un sistema capaz de producir código, instrucciones, diseños o conocimiento puede reducir barreras para usos beneficiosos y también para acciones peligrosas. Al mismo tiempo, las empresas que desarrollan esas capacidades compiten por llegar primero y suelen advertir que desacelerar unilateralmente equivaldría a perder la carrera.

Joy no ofrece una solución aplicable sin dificultades a ese escenario. Su propuesta de renuncia tropieza con Estados, mercados y organizaciones que no comparten objetivos ni riesgos. Introduce, eso sí, una palabra que el discurso tecnológico preferiría mantener en segundo plano: límite.

Preguntar por un límite no obliga a rechazar una tecnología. Obliga a discutir quién absorbe sus riesgos, qué condiciones justifican su despliegue y por qué deberíamos tratar como inevitable algo que todavía depende de decisiones.

La parte que sigue reaccionando, para mí, es la más incómoda. No sé si la renuncia es una política viable a escala global; sospecho que no lo es por sí sola. Lo que sí sé es que la alternativa —dejar que la capacidad se desarrolle y confiar en que después alguien la controle— es una apuesta que ya perdimos varias veces. Prefiero una tradición que al menos se anima a nombrar el límite, aunque no sepa exactamente dónde ponerlo.

La autoridad de Joy para hablar de límites tiene una base concreta: conoce la industria desde adentro. Pero esa misma posición es el límite de su argumento. Quien estuvo en Sun Microsystems y publicó en Wired no habla desde el margen: habla desde una plataforma que la industria reconoce como propia. Esa cercanía le da credibilidad y también vuelve más difícil distinguir entre una advertencia y una manera de seguir participando.

El ensayo propone la renuncia como respuesta, pero no dice quién debería renunciar primero. Un laboratorio, un país, una empresa y un investigador individual no enfrentan los mismos costos. Para un científico con prestigio, renunciar a una línea de investigación puede ser un gesto moral; para una empresa que compite por financiamiento, una decisión suicida; para un país periférico, una forma de quedarse atrás. La renuncia puede ser prudente y, al mismo tiempo, un privilegio de quien ya acumuló capacidad.

También hay una fricción en el tono. La alarma de Joy fue eficaz porque era extrema y venía de alguien con autoridad técnica. El riesgo es que la alarma se convierta en marca: una voz que advierte desde adentro y, con eso, renueva su lugar en la conversación sin modificar las estructuras que denuncia. No digo que sea el caso; digo que el formato lo permite.

La recepción de “Why the Future Doesn’t Need Us” mostró algo que el propio texto no controla: la advertencia puede ser leída como llamada de atención, como profecía fallida o como una pieza más del espectáculo tecnológico. Veintiséis años después, la pregunta por los límites sigue siendo pertinente, pero ya no puede formularse como si el único problema fuera la voluntad individual de un científico.

Hay una incomodidad que no sé resolver: quiero conservar la idea de límite y, al mismo tiempo, desconfío de cualquier límite que se decida en una mesa donde los afectados no están sentados. La renuncia puede ser un gesto necesario; la política de la renuncia, en cambio, sigue siendo una tarea colectiva que el ensayo deja abierta.

Bill Joy formuló su advertencia desde el mismo ecosistema industrial que había ayudado a construir. Conocía los beneficios de la innovación y también una tentación frecuente entre quienes producen tecnología: confundir la capacidad de crear con la capacidad de controlar después todo lo creado.

No hace falta aceptar sus escenarios más extremos ni su propuesta de renuncia como solución universal para conservar la distinción que dejó planteada. Poder hacer algo no significa que debamos hacerlo.

Entre posibilidad y obligación existe un espacio donde pueden intervenir la ética, la regulación, la precaución, el desacuerdo y la política. También, llegado el caso, la decisión de detenerse.

Cuando ese espacio se clausura de antemano con el argumento de que “alguien lo hará de todos modos”, la inevitabilidad deja de describir el futuro. Empieza a colaborar en su fabricación.

Lo que queda abierto es quién ocupa ese espacio. Joy lo abrió desde la industria, con la autoridad de quien conocía el funcionamiento por dentro. La pregunta es si esa voz puede convertirse en institución, o si seguiremos dependiendo de que alguien con prestigio se anime a decir que no cuando el resto ya decidió que sí.

 

MATERIALES DE REACCIÓN

TECNOLOGÍA · LÍMITES · RENUNCIA · RIESGO · AUTORREPLICACIÓN · GENÉTICA · NANOTECNOLOGÍA · ROBÓTICA · CONOCIMIENTO · RESPONSABILIDAD · PRECAUCIÓN · INEVITABILIDAD ---

FUENTE PRINCIPAL

Joy, Bill. “Why the Future Doesn’t Need Us”. Wired, abril de 2000.

OTRAS FUENTES DE TRABAJO

Joy, Bill. Intervenciones públicas posteriores durante 2000 sobre genética, nanotecnología, robótica, ética científica y límites voluntarios al desarrollo tecnológico.

Computer History Museum. Perfil biográfico de Bill Joy y su trabajo en BSD Unix y Sun Microsystems.

Wired. Debates y respuestas contemporáneas al ensayo de Joy, útiles para reconstruir las objeciones a la posibilidad, legitimidad y eficacia de la renuncia tecnológica.


COMPLETAN LA SEGUNDA ENTREGA: