Por qué la contención no es suficiente

Se está convirtiendo en conocimiento común que las tres grandes amenazas a nuestra supervivencia como humanos son la crisis ecológica, el desarrollo incontrolado de la inteligencia artificial y el peligro de nuestra autodestrucción militar.

Siguiendo las noticias sobre estas amenazas, pronto noté que la misma palabra se repite en cómo nuestros medios informan sobre ellas: contención. Mientras las amenazas se aceptan como hechos de nuestras vidas, la preocupación principal es que, cuando estallen en una crisis real, se volverán incontenibles.

Empecemos por las guerras. Tanto Estados Unidos como Rusia –o, más precisamente, Trump y Putin– no gustan de usar el término “guerra”: Putin habla de una “operación militar limitada” en Ucrania destinada a prevenir la verdadera gran Guerra (un ataque de la OTAN a Rusia), mientras que Trump alguna vez describió su ataque a Irán como una “excursión” destinada a prevenir una verdadera gran Guerra (Irán lanzando armas nucleares contra Israel). La paradoja es, por supuesto, que esta renuencia a usar el término “guerra” incluso cuando cientos de miles mueren y la infraestructura de un país es destruida sirve para normalizar el estado de guerra(s) en el que estamos. Esto es claramente una estrategia de contención: un esfuerzo por mantener los conflictos militares por debajo del nivel en el que se convertirían en una nueva guerra mundial real. El temor es que la guerra de Ucrania estalle en una batalla nuclear paneuropea, que la guerra entre Estados Unidos e Irán engulla todo el Medio Oriente… El problema es, por supuesto, que nunca podemos estar seguros de que dicha contención funcione: no podemos excluir la posibilidad de que lo que un bando del conflicto percibe como su propio acto agresivo todavía limitado, el otro bando lo tome como el cruce de la línea roja y reaccione con ataques nucleares.

Evoquemos aquí un caso extremo imaginado. Soy el líder de una superpotencia y mis fuentes de inteligencia confiables me informan que cientos de cohetes con bombas nucleares se dirigen hacia mi Estado; no se pueden detener, así que sé que mi país será totalmente destruido en una hora aproximadamente. Dado que mi país también tiene suficientes armas nucleares para destruir al enemigo, enfrento una decisión difícil: ¿debería ordenar que mi ejército contraataque con toda su fuerza? Si hago esto, en toda probabilidad significará el fin de la civilización en la Tierra.

Así que el único acto verdaderamente ético, aunque muy difícil, es abstenerme de contraatacar, con la conciencia de que aunque mi país sea borrado de la superficie de nuestro planeta, al menos la civilización sobrevivirá. En este caso, puede que se me recuerde como un traidor y un cobarde en mi país (ya no existente), pero hay una posibilidad de que el resto de la humanidad me celebre como el salvador de la civilización. Sin embargo, hay una trampa en esto: esta elección ética funciona solo si el enemigo no lo sabe de antemano. Si el enemigo lo sabe de antemano, probablemente se verá tentado a lanzar bombas nucleares sobre mi país, ya que sabe que mi bando no responderá plenamente… Lo que esto significa, lamentablemente, es que en cualquier caso mi país tiene que participar en la carrera armamentista.

Luego viene el desarrollo explosivo de la IA. Alain Badiou invierte perspicazmente la premisa teológica de que dios creó el mundo de la nada: “en el discurso teológico así fue como Dios creó el mundo: de la nada. Pero yo diría, además, que el mayor ejemplo de creación ex nihilo es la creación de Dios. ¡Fue Dios, más que el mundo, lo que fue creado de la nada! Porque si Dios hubiera existido, la creación del mundo no habría sido un problema. Dios es, por definición, ilimitado. Su poder es infinito, así que bien podría haber creado algo de la nada. El problema reside más bien en nosotros: ¿cómo podríamos nosotros, pobres humanos finitos y mortales, crear algo de la nada?” Así que el desafío para un agente de IA es: ¿puede crear (la ficción de) un dios? Creo que no, ya que un dios solo puede surgir de la finitud de los humanos mortales. Pero lo que sí puede suceder es que la IA, nuestra creación, se nos aparezca como una entidad cuasi divina.

El sábado 25 de julio de 2026, el jefe de OpenAI, Sam Altman, declaró que la IA había alcanzado “la singularidad”. Aunque Altman enfatizó que la singularidad puede ser buena para el mundo, su comentario despertó preocupación: muchos expertos no están de acuerdo en que hayamos alcanzado la singularidad, ni en que la IA esté ni remotamente cerca de superar la inteligencia humana o de robarnos el trabajo. Pero la principal preocupación es que la IA ya es capaz ahora de mejorarse a sí misma de manera autónoma. La “singularidad” se percibe como el punto en el que se volverá difícil para los humanos controlar o revertir el desarrollo de la IA, y este hecho podría tener efectos impredecibles sobre la civilización humana. Una vez que la IA obtenga control sobre su propio desarrollo, los avances tecnológicos consiguientes podrían suceder tan rápidamente que los humanos serían incapaces de seguirle el ritmo, dejándola efectivamente evolucionar por sí sola, más allá del control humano.

En 2025, Altman predijo que la IA superaría la inteligencia humana en todos los ámbitos para 2030. Luego, durante una aparición reciente en el podcast Relentless (una serie documental “sobre la búsqueda de ideas descabelladas y aspiraciones fuera de lo común”), Altman dijo: “Ahora estamos, como, en la singularidad. Ahora estamos realmente en el momento del que solíamos hablar en la mesa del almuerzo de una manera muy poco seria. /…/ He estado esperando esto toda mi vida, y creo que va a ser increíble, enormemente positivo, extraordinario para el mundo.”

Entre las voces críticas, Anthropic, la empresa detrás del chatbot Claude, hizo un llamado a las principales empresas de IA del mundo para que idearan una manera coordinada de pausar el desarrollo de sistemas avanzados de IA, advirtiendo que la tecnología está mejorando tan rápidamente que existe el riesgo de que los humanos pierdan el control.

En una publicación de blog del 4 de junio, Anthropic, que desde hace tiempo se ha posicionado como un laboratorio de IA enfocado en la seguridad, escribió que a medida que la IA sea vuelve más avanzada “sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente” su desarrollo. El problema es, por supuesto, que no existe ninguna agencia mundial capaz de imponer semejante pausa: hay muchos Estados desarrollando IA, y cada uno de ellos sospecha que los demás, incluso si están públicamente de acuerdo con la pausa, seguirán en secreto a toda velocidad. En semejante situación, la única conclusión lógica es que yo haga lo mismo.

Parte de la amenaza de la IA reside, entonces, no en la tecnología en sí sino en las relaciones sociales dentro de las cuales se producen las máquinas de IA: vivimos en un universo de competencia y sospecha global que nos impide salir de la lógica destructiva del DP (dilema del prisionero). Aunque sabemos racionalmente que la solidaridad y la colaboración son mejores para todos los participantes, el enfoque capitalista en el lucro privilegia la desconfianza hacia los demás: percibe a los demás como amenazas potenciales que usarán nuestra confianza como excusa para atacarnos de manera todavía más brutal.

Por otro lado, están quienes piensan que estamos lejos de una “singularidad” cuasi divina; en cierto sentido, pueden tener razón, ya que se trata de la cuestión del significado preciso de singularidad. Creo que lo que Altman describe como singularidad es un fenómeno relativamente modesto: simplemente significa que los agentes de IA adquirieron su propia dinámica, que no podemos controlar ni contener. Puedo imaginar dos niveles mucho más poderosos. Primero, la IA se vuelve tan fuerte que nosotros –los humanos– no solo no podemos contenerla, sino que ella toma el mando de nuestras vidas de manera directa y abierta, chantajeándonos hacia la sumisión. Segundo, está la perspectiva del neuralink, de un vínculo directo entre el flujo de nuestros pensamientos y un agente digital, lo cual significa que el agente de IA (y quienes lo controlan) podrán leer directamente nuestras mentes.

El factor ecológico

Finalmente, está la crisis ecológica, que se ha vuelto palpable para todos nosotros con la reciente ola de gigantescos incendios forestales que están devastando Francia y España. Durante más de un mes los incendios fueron incontenibles, e incluso ahora no pueden extinguirse: simplemente se los deja continuar durante meses hasta que se agoten por sí mismos, o, como dijo recientemente el reconocido especialista español en ingeniería forestal Víctor Resco de Dios: “Hemos entrado en una era de incendios que no se pueden extinguir. Son incendios que arden con la intensidad de varias bombas atómicas.” Uno de los ejemplos más viscerales de esto fue la aparición de “pirocumulonimbos” (la palabra que escuché por primera vez ahora), nubes de fuego que se formaron en la región de la Gironda, cerca de Burdeos, según las autoridades de incendios. Las nubes de fuego surgen cuando incendios forestales particularmente intensos generan una columna de calor extremo, que se eleva rápidamente hacia el aire más frío de arriba y se condensa en imponentes nubes de tormenta. Estas pueden crear su propio viento, lluvia y rayos, y transformar los incendios en tormentas de fuego erráticas e impredecibles que se autoalimentan. Hacia el futuro, deberíamos esperar que los incendios se vuelvan más frecuentes y más extremos mientras los humanos sigamos quemando combustibles fósiles y elevando las temperaturas. Citando de nuevo a Resco de Dios: “Es difícil predecir hasta dónde pueden llegar las cosas. Pronto no podremos descartar escenarios dantescos como los vistos en California o Australia, con incendios o complejos de incendios que alcancen cientos de miles de hectáreas o incluso un millón de hectáreas”.

En resumen, los incendios se están volviendo incontenibles. Y la situación es incluso peor en Estados Unidos: CNN informó el 31 de julio de 2026: “Una cúpula de calor que desafía récords está a punto de calentar el Oeste con las temperaturas más altas del verano hasta ahora”. Una cúpula de calor inusualmente fuerte azotará gran parte del oeste de Estados Unidos este fin de semana, trayendo las temperaturas más altas del año hasta el momento a decenas de millones de personas, desde California hasta Canadá. Se espera que docenas de récords de temperatura máxima caigan en al menos 12 estados del Oeste durante el fin de semana, con alrededor de 40 millones de personas bajo alertas por calor. Hasta 52 grados Celsius.

La conclusión que se impone es que la pausa en el desarrollo no es suficiente porque no puede ser global, de modo que simplemente fortalecería la brecha entre quienes efectivamente la obedecerán y quienes seguirán con el desarrollo. La única solución que veo es hacer ambas cosas al mismo tiempo: seguir con el desarrollo y acompañarlo con el pensamiento –un pensamiento que sea más que simplemente obtener todos los datos y luego analizarlos. Pensar significa reflexionar sobre el significado de esos datos y analizar también hasta qué punto la manera en que los abordamos ya está sesgada. Semejante pensamiento nos obliga no solo a enfocarnos en cómo contener las amenazas, sino también a imaginar cómo podríamos cambiar la situación que les da origen.

He aquí un claro ejemplo de pensamiento. A principios de los años 1930, John Dewey, el filósofo pragmatista estadounidense simpatizante de la URSS, informó a su amigo Sydney Hook que planeaba visitar el país; dado que Hook tenía serias dudas sobre la URSS, Dewey le aseguró que no debía tener miedo: a su regreso de la URSS, definitivamente no afirmaría que la URSS era un auténtico país socialista. Hook respondió con acidez: “¡Lo que temo es que regreses de la URSS convencido de que no es realmente un país socialista!” En este caso, el pensamiento estaba del lado de Hook: temía que, al ver la miserable realidad y el terror en la URSS, Dewey saltara a la conclusión de que eso no era el Socialismo, un estado de libertad y bienestar. En resumen, Hook presumía (con bastante acierto) que el estalinismo no era simplemente una traición o una negación de la auténtica visión socialista: debía haber ya un potencial para los horrores estalinistas en la visión bolchevique original, de modo que un verdadero enfoque dialéctico ubica la negación posterior en la noción original misma.

En la historia del Socialismo Realmente Existente hubo muchos intentos de contener sus excesos brutales, desde el “deshielo” de Nikita Jrushchov después de 1956 hasta el socialismo autogestionario yugoslavo, pero ninguno de ellos realmente funcionó porque la amenaza de un retorno a la línea dura siempre se sentía como una presión invisible. Cuando Gorbachov lo hizo de verdad, el sistema colapsó.

Y exactamente lo mismo vale para las tres grandes amenazas a nuestra supervivencia, incluyendo al capitalismo como su raíz común: no basta con contener sus excesos mortíferos que amenazan nuestra supervivencia, deberíamos pensar en cómo cambiar sus coordenadas básicas sin desencadenar una catástrofe no menor, como el régimen de los Jemeres Rojos en Kampuchea o el régimen de Corea del Norte.

Esta tarea no puede sino parecer imposible dentro de las coordenadas del sistema global existente, pero este hecho no la hace menos necesaria.