Prueba Trinity, Nuevo México — 1945
Centro de datos de IA, 2026
Los CEOs de las grandes empresas de inteligencia artificial se pronunciaron en los últimos días con la idea de que la IA es peligrosa. El primero que vi lanzar la iniciativa fue Dario Amodei, CEO de Anthropic, la compañía dueña del chat Claude. En un posteo en X llamó a ralentizar el desarrollo de la tecnología con la excusa de que las últimas pruebas de laboratorio con enjambres de agentes se salieron de control. El mensaje vino precedido de un par de renuncias de empleados de Anthropic con alertas de que la IA está avanzando tan rápido que hasta podría amenazar la existencia de la humanidad entera.
Al unísono, el archirrival de Anthropic, OpenAI, la dueña de ChatGPT, avaló la iniciativa en la voz de Sam Altman. Elon Musk, CEO de Tesla y SpaceX, dijo estar de acuerdo también. Y así, muchos otros líderes empresariales cantaron a coro la misma sintonía. La IA es demasiado peligrosa, y hay que hacer una pausa.
Esto ya se ha dicho. No solo en el antecedente de la carrera nuclear en la Guerra Fría, sino mucho más cerca en el tiempo. En 2023, ya había llegado a los medios de comunicación la idea de advertencia crítica. Ya se hablaba de que esto podía salirse de control y terminar en una pandemia o una guerra nuclear. El motivo de las hipotéticas formas de extinción parece basarse en que la IA alcance tal nivel de desarrollo que podría autocontrolarse. Ese es un motivo. Luego está el caso en que la IA podría cumplir tareas bondadosas pero usando métodos poco ortodoxos.
Ejemplo básico y reduccionista. Le pedimos a una súper computadora de IA que elimine el cáncer en el mundo, y como consecuencia, aniquila a toda la humanidad. En términos prácticos, eso puede tomarse como "eliminación del cáncer". No voy a negar las pruebas que dicen haber realizado los popes de la industria, y creo efectivamente que la IA es capaz de vulnerar seguridades varias para cumplir lo que se le pide. A nosotros, meros usuarios minoristas, se nos pone límites de tokens y otras cuestiones, pero me basta solo con una suscripción premium básica para entender que sí, que la IA es capaz de hacer algo "malo" para resolver nuestra solicitud.
Pero más allá de los riesgos, creo que hay una exageración. Es decir, habrá estafas, sistemas de ciberseguridad vulnerados, gobiernos y empresas completamente desnudos, pero no veo por ahora más que eso. Y en cuanto a la ralentización de una tecnología top por sus peligros: ¡Esto ya se ha visto!
Quien vio la película Oppenheimer sabe cómo funciona esto. Los creadores de una nueva tecnología se pueden dar cuenta genuinamente que terminaron haciendo un arma de destrucción masiva. Vayamos a 1945, incluso antes de los bombardeos a Hiroshima y Nagasaki, como así también de las pruebas Trinity. Los ataques a Japón fueron el 6 y 9 de agosto, mientras que Trinity se llevó a cabo el 16 de julio.
Antes de julio, existió algo que se conoció como el Proyecto Manhattan, un programa liderado por un científico llamado James Franck, quien firmó un documento exigiendo al gobierno de Estados Unidos que no utilizara la bomba atómica de forma sorpresiva. Pidieron una demostración previa en un desierto deshabitado ante delegados de la ONU para forzar un control internacional antes de abrir "la caja de Pandora". Por el apellido del investigador es que esto se conoció como el Informe Franck.
El pedido no fue tan famoso en ese momento. Se hizo más conocido después. Es cierto que no fue escuchado, y que esta desatención provocó una de las tragedias más inhumanas de nuestra historia.
Pero después de esto, la conciencia humana cambió. Los movimientos abolicionistas aparecieron por doquier, y no era para menos. En 1955 apareció el Manifiesto Russell-Einstein, nombres de talla (Albert Einstein y el filósofo comunista Bertrand Russell) lanzaron un llamado dramático a los líderes mundiales para que renunciaran a las armas nucleares, advirtiendo que el progreso tecnológico ponía en riesgo la supervivencia de la raza humana. Dos años después, las conferencias de Pugwash (1957), volvió a ubicar a científicos de ambos lados de la Cortina de Hierro en el mismo objetivo. Se reunieron de forma independiente para presionar a sus respectivos gobiernos a detener los ensayos nucleares y buscar un desarme conjunto.
Ni los científicos ni los pacifistas (generalmente comunistas) lograron frenar el avance nuclear. Sus pedidos eran ponerle fin a la energía en sí. Pero el uranio no era solo para bombas atómicas: es hoy la fuente de energía más potente, resistente, barata y limpia que existe. Es la única que combina todas esas cualidades de la mejor manera posible. Por ende, tanto ayer como hoy, pedir ralentizar una tecnología revolucionaria en bienestar es o una proclama ingenua y adolescente o un mensaje político malintencionado con intereses ocultos.
Finalmente, la similitud sigue siendo geopolítica. EEUU vs URSS en la Guerra Fría, y su carrera nuclear, y EEUU vs China hoy, y su carrera por la vanguardia de la IA. El desarme nuclear no ocurrió, al contrario, el armamento escaló masivamente en ambas potencias. Y aún así, no hubo más incidentes ni de cerca parecidos a los episodios de Japón. Es decir, que ambas potencias no tuvieran asimetrías es lo que hizo posible que no escalara más allá de las amenazas. Hoy, la paridad en cuanto a desarrollo de IA es más compleja de analizar, pero es algo relativamente parejo, creo que con cierta ventaja parcial de Estados Unidos. Por lo que no puede desacelerar. Los próximos años veremos a la IA física en acción, en pos de facilitarnos cosas de nuestra vida y hacernos más productivos, pero también habrá nuevas armas seguramente. Por eso ninguno puede "ralentizar". No va a pasar.
"Regular o ralentizar la IA es un desafío infinitamente más complejo que controlar armamento."
Y no solo eso. Es imposible. Regular o ralentizar la IA es un desafío infinitamente más complejo que controlar armamento. La invisibilidad del desarrollo de la IA es un gran impedimento. Y es que para construir una bomba nuclear se requiere uranio enriquecido, pero para entrenar un modelo de IA avanzado solo se necesitan servidores informáticos y código de programación, algo mucho más difícil de rastrear y auditar.
Luego está la presión comercial. Las armas nucleares no tenían un mercado inmediato para el consumidor general. La IA, en cambio, genera miles de millones de dólares en ganancias directas diarias, lo que provoca que los incentivos económicos de las empresas choquen de frente con las intenciones de seguridad.
En definitiva, la IA no se ralentizará porque ya es, además de una tecnología que puede lograr grandes avances en ciencia y salud, un arma que le da más precisión y potencia a los daños en la guerra, y por lo tanto, es un insumo geopolítico. Tal como lo fue —y es todavía— el uranio. La historia nos dice que no se ralentizará.
— Eliseo Bottini, Storiopolis