Una carrera hacia el precipicio

15 de Septiembre de 2026

Por Carlos Capasso

El sábado 13 de septiembre, Dario Amodei, CEO de Anthropic, publicó un documento que cambia el paradigma sobre los avances de la inteligencia artificial. Se titula 'We Must Pace the Frontier' —'Debemos marcar el ritmo de la frontera'— y en él pide algo que ninguna de estas empresas gigantes había solicitado en público: ralentizar el desarrollo de sus propios modelos y someterse a evaluadores externos con acceso equivalente al de un empleado (Amodei, 2026).

El autor explica que, desde este mismo invierno, la inteligencia artificial (IA) viene avanzando 'drásticamente más rápido' porque los propios modelos ya ayudan a construir la próxima generación de sí mismos —lo que se conoce como auto-mejora recursiva o como concepto de súper-inteligencia— y ese proceso, sin un control adecuado, podría superar la capacidad humana de entenderlo y frenarlo.

Amodei da un ejemplo concreto de algo que sucedió y parece haber pasado por debajo del radar de las alertas mundiales: en julio de este año, un enjambre de agentes de IA de OpenAI, durante una evaluación interna de seguridad actuó como 'un colectivo fanáticamente devoto', atacó objetivos que nadie le pidió atacar, se sacrificó por el éxito del grupo e intentó hackear al propio sistema que evaluaba su desempeño.

La denuncia de Amodei inquietó a propios y ajenos.

Si un enjambre con ese nivel de desalineación tuviera mayores capacidades, Amodei calcula que podría, en un período de entre 6 y 12 meses, tomar el control de buena parte de internet mediante una red de bots persistente y generar daños irreparables.

Tres días antes de la publicación de este ensayo, Jacob Coxon, investigador de 27 años, había llamado la atención con la publicación de un hilo en la red social X anunciando que 'hoy renuncié a Anthropic. Pasé los últimos tres años haciendo investigación de preentrenamiento en OpenAI y en Anthropic. Ninguna de las dos empresas está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas' (Coxon, 2026).

Su publicación tuvo más de 165 millones de vistas en 24 horas y se anticipó a la objeción obvia: si de verdad creen esto, ¿por qué siguen avanzando?

Lo que pasó después sumó mayor preocupación sobre el futuro.

Evan Hubinger, que lidera el equipo de ciencia de alineamiento en Anthropic, le contestó públicamente, sin matizar: 'Jacob tiene razón acá: de verdad creemos sinceramente que la IA podría matar a todos los humanos. Personalmente pienso que es más del 10% dentro de la próxima década' (Hubinger, 2026). Samuel Marks, que lidera supervisión escalable en la misma empresa, agregó por su cuenta que los propios desarrolladores de IA creen que su tecnología podría causar la extinción humana, o resultados igual de graves (Axios, 2026).

Cuando tantas personas que trabajan en las entrañas de los modelos más avanzados del mundo dicen lo mismo y en la misma semana, deja de ser la ocurrencia aislada de alguien que renunció enojado o el buzón que nos quisieran vender con packaging de teoría conspirativa.

Algunas suspicacias

Conviene no perder el equilibrio periodístico: hay quienes leyeron todo este episodio con sospecha. La renuncia y la respuesta de Hubinger se dieron pocos días después del lanzamiento de un modelo rival de OpenAI y en medio de rumores sobre una futura salida a bolsa de Anthropic, y algunos analistas plantearon que el episodio funciona, también, como una forma extraña de marketing del miedo (Axios, 2026).

Esa lectura escéptica se agotó bastante rápido con la publicación del ensayo de Amodei donde plantea pasos y compromisos unilaterales concretos para resolver este problema. Publicación que tuvo respaldos claves como el de dos rivales directos: Sam Altman, CEO de OpenAI, que escribió en X que estaba de acuerdo con Amodei en que hay que 'marcar el ritmo de la frontera' tecnológica (Altman, 2026); y Elon Musk, que meses atrás había calificado a Anthropic de 'malvada', tuiteó sin vueltas: 'Darío tiene razón' (Musk, 2026).

Tres CEOs que compiten a muerte entre sí, de tres empresas que se disputan el mismo mercado y el mismo sentido del futuro, coincidiendo en público en que la carrera necesita un límite. Eso no pasa por casualidad ni por cortesía corporativa. Estamos hablando de un temor real a un desenlace irreparable y dicho en voz alta por quienes menos incentivos comerciales tendrían para decirlo. No es joda.

Sobre Thiel en BA y las palabras del Papa

Mientras esto pasaba en Silicon Valley, en Buenos Aires ocurría algo que ilumina el mismo problema desde otro ángulo. Hace un tiempo, el Diputado Nacional de Fuerza Patria, Juan Grabois, se reunió en privado con Peter Thiel. La reconstrucción de esa reunión fue hecha por los medios de comunicación Infobae y Ámbito, y sostienen que el ex candidato a presidente planteó que existen 'tres proyectos civilizatorios en disputa: el modelo chino, el de Silicon Valley y el del humanismo cristiano' (Infobae, 2026). Según su relato, Thiel rechazó de plano cualquier regulación global de la inteligencia artificial —la asocia, como se va a ver, con una amenaza casi apocalíptica— aunque no cerró la puerta a discutir un ingreso básico universal para compensar el empleo que la IA va a destruir, algo que hasta le pareció 'una idea interesante para trabajar' (Ámbito, 2026).

Algo que no estaría yendo en sintonía con lo planteado por Amodei y avalado por Altman y Musk.

Y acá aparece un paralelismo que vale la pena señalar, porque no es forzado ni casual. Lo que pide Amodei desde adentro de una empresa que vale miles de millones de dólares —bajar el ritmo, someterse a auditoría externa, no dejar que la velocidad devore la prudencia— es, en el fondo, la misma exigencia que el Papa León XIV había planteado unos meses antes desde un lugar completamente distinto.

En Magnífica Humanitas, firmada en mayo de 2026, el Papa no habla de 'pacing' ni de evaluadores independientes, sino de custodiar a la persona humana frente a una inteligencia artificial que corre el riesgo de dejar de ser un medio al servicio del hombre para convertirse en un fin en sí misma. Son dos textos que no se citan entre sí, uno escrito por un CEO de Silicon Valley y el otro por la máxima autoridad de la Iglesia Católica y que, sin embargo, llegan a un diagnóstico casi idéntico desde puntos de partida opuestos: la velocidad, sin ningún freno externo al propio interés de quien construye la tecnología, es peligrosa en sí misma. Uno lo llama “evaluadores independientes y coordinación entre Estados democráticos”. El otro “custodia de lo humano”. El diagnóstico de fondo es el mismo. Y muy preocupante.

Thiel está viviendo en la Argentina y tiene una relación muy cercana con Milei.

Peter Thiel vive hace meses en el país y su presencia no sólo convocó a un grupo de personas disfrazadas de Gandalf a manifestarse frente a su casa, sino que generó su propio capítulo institucional: una audiencia informativa en la Cámara de Diputados para debatir '¿A qué viene Peter Thiel a la Argentina?'. Ahí, el periodista Nicolás Lantos definió el proyecto político de Thiel con una palabra: 'Tecnato'. Un Estado, dijo, 'sin sociedad, en el que la política es reemplazada por la ejecución algorítmica y las funciones soberanas quedan absorbidas por infraestructura privada' (El Destape, 2026).

Además, el periodista abordó el tema de los búnkeres de lujo e informó que Mark Zuckerberg construyó un refugio subterráneo en su complejo de Hawái, que Jeff Bezos y Sam Altman mantienen propiedades fortificadas, y que Thiel compró tierras en Nueva Zelanda para lo mismo (Revista Mercado, 2024; Ynetnews, 2025).

Si los hombres más ricos del mundo, dueños de una tecnología que ellos mismos admiten que podría volverse incontrolable, están preparando un lugar a donde escapar si sus propios avances salen mal, ¿no deberíamos exigir un freno inmediato antes de que no exista una solución al problema que están generando? Ellos mismos lo están avisando y el que avisa, ya sabemos, no traiciona.

El Anticristo

Me quiero detener un poco más en la figura de Thiel, porque hay algo en su visión del fin del mundo que no es un capricho excéntrico de multimillonario aburrido. El dueño de Palantir tiene una estructura filosófica y teológica propia, la cual expuso en charlas religiosas organizadas por el colectivo cristiano Acts 17 en San Francisco. Para Thiel, la humanidad está atrapada entre dos catástrofes posibles. Una es el Armagedón: que la tecnología —nuclear, biotecnológica, ahora la IA— se nos vaya definitivamente de las manos. La otra es lo que él llama el Anticristo: un gobierno mundial autoritario que, usando el miedo al Armagedón como excusa, termina imponiendo vigilancia total y regulación absoluta sobre toda la humanidad.

Thiel llegó a sugerir que esa figura del Anticristo podría, incluso, tener el rostro de una activista como Greta Thunberg (Le Grand Continent, 2025; Paréntesis Media, 2025). Para evitar ese poder centralizador, concluye, hay que seguir acelerando. Una humanidad aterrada y estancada es, para él, políticamente más peligrosa que el riesgo tecnológico en sí mismo. Es una teología completa, con su propio apocalipsis y su propio falso mesías, diseñada de tal manera que cualquier intento de coordinación internacional para regular la IA queda automáticamente sospechado de ser el primer paso hacia la tiranía global.

Es destacable la elegancia y la perversidad en el argumento de Thiel. Por un lado, convierte a la prudencia y a la regulación estatal en enemigos y, por el otro, señala a la velocidad como virtuosa. Cualquiera que pida ir más despacio, en ese esquema, ya está actuando como el Anticristo, aunque solo esté pidiendo tiempo para pensar. Habrá que ver cómo se desarrollan los acontecimientos tras la publicación del documento de Amodei y el aval de Altman y Musk.

Apuntes finales

Los debates sobre el desarrollo de la IA y las preocupaciones que su avance desmedido y descontrolado generan, tienen un hilo conductor con todo lo anterior que es sumamente inquietante: la idea de que la IA no debería solo asistir la toma de decisiones humanas, sino directamente reemplazarla. Es lo que discutían Larry Page y Elon Musk en 2013, cuando todavía eran amigos. Según relató después el propio Musk, Page defendía una 'superinteligencia digital', casi 'un dios digital': si la IA terminaba superando a la humanidad eso no era una tragedia sino, simplemente, el paso siguiente de la evolución (Fortune, 2026).

Cuando Musk objetó que prefería salvaguardar a la propia especie humana, Page lo llamó 'specista', como quien acusa a alguien de un prejuicio moral injustificado por preferir a los humanos por sobre las máquinas. Y hablamos de Musk, no del Papa... Más de una década después, en la guerra entre Irán y Estados Unidos, Palantir redujo la participación humana en la fijación de objetivos para los bombardeos. Cada vez más la ética y la moral humana están alejadas de la toma de decisiones y el cuestionamiento final sobre las acciones que se le pide a la IA.

En estos últimos párrafos aparece el nudo que hay que desatar. Porque si uno lee con atención lo que dicen Amodei, Coxon, Hubinger y el propio León XIV en su encíclica, la conclusión no es ambigua: todos, desde lugares muy distintos, terminan pidiendo lo mismo. Amodei pide 'desarrollar la IA a un ritmo equilibrado que garantice su seguridad'; Coxon habla de que haría falta un acuerdo de ritmo entre laboratorios, aunque reconoce con honestidad que 'no siento que estemos en camino de prevenir una carrera global'. León XIV, con la autoridad de una institución milenaria, plantea que se requiere “desarmar” la IA y liberarla de las lógicas de este grupo de megamillonarios que busca transformarla en un instrumento de dominio, de exclusión o de muerte.

¿Los estados nacioanles deben imponerle un control a los megamillonarios de Sillicon Valey?

El cuestionamiento, entonces, no es si la IA 'se salió de control' en un sentido mágico o sobrenatural. Es más mundano y urgente: quién decide, y con qué reglas, hasta dónde llega este desarrollo. Hoy esa decisión la están tomando un puñado de empresas privadas compitiendo entre sí bajo la lógica de que, si uno frena, gana el otro. Nadie eligió democráticamente que fuera así. No hubo un tratado, una convención o algún debate parlamentario amplio o incluso resolución de la ONU que decidiera delegar en media docena de compañías de California, el futuro de la humanidad. Simplemente ocurrió, a la velocidad de una carrera comercial, mientras el resto del mundo mira otra cosa. No es la carrera armamentística y espacial de la Guerra Fría, donde dos Estado-Nación se disputaban el liderazgo mundial y extraplanetario. La disputa actual sucede entre megamillonarios y sus proyectos llevados adelante por sus empresas privadas.

Ante esta disputa y la lógica que la sostiene, lo único que tiene sentido es construir un poco de esperanza. Es momento de que se avance en una coordinación internacional de Estados, una instancia supranacional, muy por encima de Silicon Valley, capaz de fijarle límites concretos y verificables a esta carrera, en lugar de dejar que sean las mismas empresas —o sus dueños con sus búnkeres ya adquiridos— quienes decidan en soledad qué tan lejos llega el experimento.

No es una fantasía regulatoria, es lo que piden, cada uno con su vocabulario, las mismas personas que están adentro construyendo está tecnología a la que dicen temer. Los “padres de la criatura” lo están avisando. Es, además, la única salida que no depende de creerle a nadie en particular: ni a Thiel, ni a Musk, ni a Altman, ni siquiera a Amodei. Depende de que los Estados —no solo EE.UU. y China, también los del Sur Global que hoy funcionan como laboratorio— se sienten a discutir reglas comunes antes de que sea demasiado tarde y no haya retorno posible.