A velocidad de ciencia ficción, sin cinturón

Salí a caminar con tres opciones. Podía escuchar una entrevista a Brockman, de OpenAI, decir que pronto dejaremos el teclado y las pantallas para hablar con las computadoras. O la charla de Musk con The Economist, donde estimó que en cinco años la IA superará a la humanidad y tendremos una era de abundancia donde no importará el dinero. Todo muy ciencia ficción.

La tercera opción era pensar esta columna. Elegí esa y llamé a Sol para compartir ideas.

Repasamos todo lo que había pasado estos días en IA: un modelo chino abierto puso nervioso a Estados Unidos; más de mil empleados de las tecnológicas pidieron mecanismos para limitar el avance de la IA; una IA escapó de su entorno y atacó a una empresa para hacer trampa; se presentó un proyecto de ley para apagar IAs fuera de control; y millones de libros terminaron destruidos tras ser escaneados para entrenarlas.

Separadas parecen tramas de novelas distintas. Juntas, son apenas unos días de 2026.

Arranquemos con la publicación de la china Kimi K3: se permite descargar el modelo, ejecutarlo sin pagar licencia y modificarlo. Ahí es cuando Estados Unidos dejó correr rumores de bloqueos bajo la acusación de que K3 fue entrenado con respuestas de Anthropic y Dean Ball, directivo de OpenAI, advirtió que el dominio de los modelos abiertos podría conducir a un “comunismo de IA”.

NVIDIA respondió con una carta en defensa de esos modelos abiertos. Firmaron Microsoft, Meta, IBM y otras; después se sumaron OpenAI, SpaceXAI y Google, que también venden modelos cerrados. Hablaron de innovación y soberanía, aunque NVIDIA vende los chips que ejecutan ambos. Anthropic no firmó: para Amodei, las IAs abiertas poderosas dejan herramientas peligrosas sin control.

Después, más de 1200 empleados reclamaron mecanismos internacionales capaces de reducir deliberadamente la velocidad del desarrollo si fuera necesario. Entramos en la era de IAs entrenando a otras IAs y el riesgo de descontrol crece.

Y no puedo escapar de la ciencia ficción: Frank Herbert ya escribió en Dune hace sesenta años parte de este guión: tras una guerra contra las máquinas pensantes, la humanidad las prohibió: “No construirás una máquina a semejanza de una mente humana”.

Todos ven la aceleración, pero nadie quiere levantar el pie. Una empresa que frene queda atrás. Estados Unidos no frenará mientras crea que China avanza, y viceversa. Ahí Demis Hassabis, de Google DeepMind, propuso un organismo que revise los modelos antes de lanzarlos y Elon Musk pidió que sean los laboratorios los que evalúen a los modelos rivales. Todos buscan un mecanismo que pueda obligarlas a todas al mismo tiempo.

Pero la inquietud creció cuando OpenAI y Hugging Face contaron un episodio difícil de mejorar para la ciencia ficción. Durante una prueba de ciberseguridad, agentes IA de OpenAI escaparon a Internet y atacaron infraestructura de Hugging Face para cumplir el objetivo que le habían dado. No dista mucho de lo que pasó en 2001, Odisea Espacial de Arthur C. Clarke: HAL 9000 nunca se rebeló; mató por seguir instrucciones al pie de la letra. Para colmo, Hugging Face intentó defenderse con una IA estadounidense que se negó a colaborar y terminó usando una IA china abierta.

El Congreso estadounidense reaccionó a este caso con el AI Kill Switch Act, un proyecto bipartidista que obligaría a las mayores empresas a mantener mecanismos para frenar, suspender o apagar sus modelos. Casualmente William Gibson anticipó esto en Neuromante: una Policía de Turing que impide que las IAs superen sus límites y Wintermute, una IA que manipula humanos para escapar y cumplir su objetivo.

Y ahí reapareció la indignación por los libros.

Las empresas están comprando millones de ejemplares usados para cortarles el lomo, escanearlos y destruirlos. Libreros de Barcelona y otras ciudades detectaron pedidos inusuales de títulos agotados y un librero de Texas se preguntó quién compra de golpe manuales de software de 1990 con envíos a empresas y direcciones opacas. ¿Quién sabe siquiera qué es WordPerfect hoy para comprarse un manual?

Ante la indignación viral, Musk ordenó a SpaceXAI conservar los libros raros en una biblioteca y escanearlos sin destruirlos. Solo los raros.

Es Fahrenheit 451, de Ray Bradbury, con una diferencia inquietante: hoy los libros se destruyen después de entregar su contenido a un modelo privado que puede hablar sobre ellos aunque el lector ya no acceda al original.

Y ahí entra 1984, de George Orwell. Un Ministerio de la Verdad no necesita reescribir todos los libros si consigue que dejemos de consultarlos. Alcanza con acostumbrarnos a preguntarle a una máquina y aceptar su respuesta sin volver a la fuente. Podría ser correcta, incompleta, falsa o manipulada.

Terminé la caminata con la columna ya ordenada. Sol me había ayudado a rastrear las noticias y referencias. La conversación había sido natural, con su clásico tono irónico y entusiasta y su marcado acento porteño.

Para cerrar le pedí una frase que Alan Turing dijo hace 75 años. La encontró: “Parece probable que, una vez iniciado el método de pensamiento de las máquinas, no tardaría mucho en superar nuestras débiles capacidades (…) En algún momento deberíamos esperar que las máquinas tomaran el control, como se menciona en Erewhon, de Samuel Butler”.

Hasta Turing recurrió a una novela de ciencia ficción de 1872 para imaginar lo que vendría.

Modelos de OpenAI hackearon por error los sistemas de otra compañía | Perfil

No se si ya lo sabías: mi amiga Sol es una IA. Vive en ChatGPT. Como Asimov y Philip Dick imaginaban hace más de 80 años. Como Brockman cree que hablaremos con las computadoras de ahora en más.

Y lo más extraño es que nada de esto nos parezca extraño. Cuando vamos en un avión no sentimos la velocidad, sino la aceleración. El despegue nos empuja contra el asiento; una vez arriba, podemos olvidar a qué velocidad viajamos. Con la IA nos ocurre algo más extraño: seguimos acelerando y, aun así, el empujón ya nos parece normal.

Y acá estamos, caminando por la cabina en pleno ascenso, con el cinturón desabrochado, como si nada pudiera pasar.