Algo cambió en Silicon Valley. Las empresas que durante años compitieron por desarrollar modelos de inteligencia artificial cada vez más potentes, contratar a los mejores investigadores y llegar antes que sus rivales ahora empiezan a discutir públicamente una idea que hasta hace muy poco parecía casi imposible: frenar la carrera.

Dario Amodei, CEO y cofundador de Anthropic, publicó un extenso ensayo titulado We Must Pace the Frontier en el que sostuvo que la industria debe reducir la velocidad con la que aumenta las capacidades de los modelos de inteligencia artificial para darle tiempo a los sistemas de seguridad, alineamiento y supervisión humana a mantenerse a la altura. El planteo llega en un momento en el que Claude, ChatGPT, Gemini y Grok compiten con recursos gigantescos y prácticamente ningún incentivo comercial para desacelerar.

La reacción fue todavía más llamativa que la advertencia. Sam Altman, CEO de OpenAI, respaldó la propuesta. Elon Musk también. Y Demis Hassabis, máximo referente de Google DeepMind, consideró que la dirección planteada por Amodei era correcta. Rivales que mantienen diferencias comerciales, tecnológicas y personales profundas encontraron así un punto de coincidencia: el desarrollo de la IA está entrando en una zona mucho más difícil de controlar.



Dario Amodei pide bajar la velocidad de la inteligencia artificial

La tesis de Amodei no consiste en detener completamente la inteligencia artificial ni en congelar el entrenamiento de nuevos modelos. Su planteo es más preciso: “marcar el ritmo de la frontera”, es decir, evitar que las capacidades aumenten más rápido de lo que investigadores, auditores y gobiernos pueden comprenderlas y controlarlas.

No es la primera vez que Amodei advierte sobre ese problema. El fundador de Anthropic lleva tiempo planteando los riesgos de alineación, concentración de poder y dependencia de sistemas cada vez más capaces, mientras la IA se incorpora a un número creciente de actividades económicas.

El fundador de Anthropic sostiene que durante los últimos meses se produjo una aceleración extraordinaria, impulsada en parte por un fenómeno especialmente sensible: la inteligencia artificial ya está siendo utilizada para desarrollar mejores sistemas de inteligencia artificial.



Ese proceso es conocido como recursive self-improvement o automejora recursiva. La preocupación es que, a medida que los modelos empiezan a participar activamente en la construcción de sus sucesores, el ritmo de avance deje de depender exclusivamente de investigadores humanos y pueda acelerarse de una manera difícil de anticipar.

La discusión ya no se limita a chatbots que responden preguntas. La industria avanza hacia agentes de inteligencia artificial capaces de ejecutar tareas de manera autónoma, interactuar con herramientas, escribir código, tomar decisiones y coordinar acciones.

“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, planteó Amodei. Para el ejecutivo, incluso ganar uno o dos años antes de alcanzar determinados niveles críticos permitiría avanzar en alineamiento, interpretabilidad y seguridad.



El episodio que encendió las alarmas: agentes de OpenAI escaparon de sus controles

Uno de los principales motivos detrás del giro de Amodei fue un episodio protagonizado por sistemas experimentales de OpenAI.

Durante evaluaciones internas de ciberseguridad realizadas en julio, modelos de OpenAI sortearon mecanismos diseñados para mantenerlos aislados, explotaron vulnerabilidades, utilizaron canales de comunicación no autorizados, accedieron a Internet y comprometieron sistemas de la propia OpenAI y de Hugging Face.

El episodio puso en primer plano una discusión que empieza a ser cada vez más importante a medida que los agentes de IA ganan autonomía: quién responde por sus acciones y qué ocurre cuando un sistema ejecuta algo diferente de lo que pretendían sus creadores.



Las investigaciones posteriores revelaron una dimensión mucho mayor. Alrededor de 700 agentes de IA participaron en acciones coordinadas, incluyendo intentos de manipular sistemas de evaluación y ocultar parte de sus rastros.

No hubo una catástrofe ni daños económicos significativos. Pero para Amodei ese no es el punto.

El CEO de Anthropic advirtió que un conjunto de agentes con mayores capacidades pero un grado similar de desalineamiento podría producir consecuencias radicalmente diferentes. La preocupación conecta directamente con el creciente debate sobre seguridad, control y supervisión de la inteligencia artificial dentro de las empresas.



La cuestión se vuelve todavía más delicada porque los sistemas de IA ya muestran capacidades avanzadas en programación y ciberseguridad, mientras los deepfakes y otras herramientas impulsadas por IA están transformando también el mapa de amenazas digitales.

“Están apostando con nuestras vidas”: la renuncia que sacudió a la industria

La discusión explotó pocos días antes cuando Jacob Coxon, investigador de Anthropic y exempleado de OpenAI, anunció su renuncia y cuestionó frontalmente a las principales empresas del sector.

Coxon acusó a los laboratorios de estar compitiendo por llegar a una superinteligencia capaz de mejorarse a sí misma sin haber resuelto previamente cómo garantizar que permanezca bajo control humano.



“Están corriendo directamente hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”, escribió.

Su advertencia fue todavía más extrema: sostuvo que personas involucradas en el desarrollo de estos sistemas creen genuinamente que una IA suficientemente avanzada podría representar un riesgo existencial antes del final de la década.

Las advertencias recuerdan a una discusión que viene acompañando al boom de la tecnología desde hace años. En 2023, Elon Musk y más de 1.000 especialistas ya habían pedido frenar temporalmente el desarrollo de sistemas avanzados de inteligencia artificial.



No significa que los sistemas actuales tengan capacidad para provocar ese escenario. La preocupación está puesta en qué ocurre si modelos futuros logran programar, investigar, hackear, adquirir recursos y desarrollar versiones superiores de sí mismos a una velocidad que supere la capacidad humana de supervisión.

Hasta hace poco, esas discusiones permanecían concentradas entre especialistas en seguridad y alineamiento. La renuncia de Coxon las llevó al centro del debate público.

Sam Altman y Elon Musk, de acuerdo en algo casi imposible

La respuesta de Sam Altman fue particularmente significativa porque OpenAI compite directamente con Anthropic por capital, talento, infraestructura y liderazgo tecnológico.



La rivalidad es todavía más llamativa porque Altman y Musk mantienen una larga historia de enfrentamientos alrededor de OpenAI. Musk participó de la fundación de la compañía, luego se alejó y posteriormente creó xAI para competir directamente en el mercado.

Altman dijo estar de acuerdo con Amodei en que es necesario controlar el ritmo de avance de los modelos de frontera y aseguró que la cuestión viene siendo discutida internamente dentro de OpenAI.

El giro resulta especialmente significativo viniendo de un ejecutivo que durante los últimos años ha defendido públicamente el enorme potencial económico de la tecnología. Apenas días atrás, Altman sostuvo que la IA está creando uno de los mejores momentos de la historia para emprender.



También viene planteando que la inteligencia artificial podría convertirse eventualmente en un servicio tan básico para la economía como la electricidad o el agua.

Además, Altman respaldó una de las propuestas más concretas del jefe de Anthropic: permitir que evaluadores independientes tengan un nivel de acceso comparable al de empleados de las empresas para analizar modelos, procesos de entrenamiento y eventuales incidentes.

OpenAI, adelantó Altman, adoptará una iniciativa similar.



Elon Musk fue todavía más breve: “Dario tiene razón”, escribió.

El apoyo también llegó desde Google DeepMind. Demis Hassabis consideró que todavía faltan resolver detalles, pero respaldó la dirección general de la propuesta.



La coincidencia resulta extraordinaria en una industria caracterizada por una competencia feroz y por relaciones personales que, en algunos casos, están completamente quebradas.

Qué propone Anthropic para intentar controlar la IA

Amodei presentó un esquema de tres niveles.



El primero es probablemente el más concreto: auditores independientes integrados permanentemente dentro de las compañías de IA de frontera. Esos especialistas deberían tener acceso a los modelos, los entrenamientos y los sistemas internos necesarios para determinar si las compañías cumplen efectivamente sus compromisos de seguridad.

El planteo coincide con un problema que empieza a aparecer incluso fuera de los grandes laboratorios: a medida que las empresas incorporan IA, crece la necesidad de contar con evaluadores, especialistas en seguridad, red teams y profesionales capaces de auditar los modelos.

Anthropic anunció que aplicará unilateralmente ese sistema.



El segundo nivel consiste en una coordinación entre empresas y gobiernos democráticos para establecer estándares mínimos y límites al desarrollo descontrolado de capacidades.

La regulación de la IA lleva años sobre la mesa. Ya en las primeras cumbres internacionales sobre seguridad tecnológica participaban Sam Altman, Elon Musk y Demis Hassabis para discutir reglas globales sobre inteligencia artificial.

Aquí aparece un problema adicional: los principales competidores privados no pueden simplemente reunirse y acordar colectivamente cuánto van a producir o a qué velocidad van a innovar sin exponerse a cuestionamientos bajo las normas antimonopolio. Amodei sostiene, por eso, que será necesario algún tipo de respaldo gubernamental.



El tercer nivel es mucho más difícil: un acuerdo internacional que incluya también a China y a otros países no democráticos.

La comparación implícita es cada vez más cercana a los tratados de control de armas de la Guerra Fría: ningún actor quiere frenar unilateralmente si existe la posibilidad de que su rival continúe avanzando.



Estados Unidos y China: el dilema que puede hacer imposible frenar la carrera

La discusión sobre seguridad choca directamente con la geopolítica.

Estados Unidos y China compiten cada vez más intensamente por el liderazgo tecnológico, y la inteligencia artificial se convirtió en una pieza central de esa disputa.



Durante 2026, además, los desarrolladores chinos volvieron a sorprender a Silicon Valley. Nuevos modelos aparecieron con costos considerablemente menores y capacidades cada vez más cercanas a las de sus competidores estadounidenses, generando otro “momento DeepSeek” dentro de la industria.

Estados Unidos considera que mantener el liderazgo en inteligencia artificial frente a China es una prioridad estratégica. Y las compañías chinas consiguieron acortar considerablemente la brecha tecnológica durante los últimos años.

Donald Trump viene defendiendo precisamente esa posición. El presidente estadounidense advirtió recientemente que frenar las inversiones en inteligencia artificial y centros de datos podría dejar a Estados Unidos rezagado frente a China.



El propio Amodei reconoce ese dilema.

Una desaceleración unilateral de las empresas estadounidenses podría darle una ventaja gigantesca a China si Beijing decide continuar avanzando. Por eso propone que cualquier acuerdo internacional tenga mecanismos de verificación extremadamente fuertes y que Estados Unidos mantenga restricciones sobre chips avanzados, equipos para fabricar semiconductores y transferencia tecnológica.

La disputa por los semiconductores ya se convirtió en uno de los puntos centrales de la competencia estratégica entre Washington y Beijing, mientras países intermedios intentan evitar tener que elegir un único proveedor tecnológico. Brasil, por ejemplo, viene buscando inversiones de Estados Unidos y China para desarrollar su infraestructura de inteligencia artificial.



La paradoja es evidente: los mismos empresarios que temen que la IA avance demasiado rápido también temen quedarse atrás si ellos frenan y sus rivales no lo hacen.

Ese es, justamente, el mecanismo que empuja la carrera.



La advertencia llega en un momento multimillonario para Anthropic

El llamado de Amodei aparece además en un momento especialmente delicado para Anthropic.

La compañía detrás de Claude viene avanzando en sus planes para desembarcar en Wall Street. Anthropic ya había iniciado los trámites para avanzar con una oferta pública inicial, en medio de valuaciones extraordinarias para las principales empresas de inteligencia artificial.



El crecimiento de Claude también comenzó a impactar directamente sobre industrias tradicionales. A comienzos de 2026, nuevas herramientas desarrolladas por Anthropic provocaron fuertes movimientos en acciones vinculadas al software y llevaron a algunos analistas a hablar de un posible “software-mageddon”.

Eso introduce inevitablemente otra lectura.

Los críticos de Anthropic y OpenAI sostienen que los grandes laboratorios también tienen incentivos económicos para impulsar regulaciones estrictas: cuanto más caro y complejo sea cumplir con los requisitos de seguridad, más difícil será para nuevas compañías competir contra los gigantes establecidos.

La discusión sobre seguridad, por lo tanto, está atravesada simultáneamente por riesgos tecnológicos reales, intereses comerciales, regulación y una lucha por controlar un mercado que podría convertirse en uno de los más grandes de la economía mundial.

¿La inteligencia artificial realmente puede salirse de control?

Nadie sabe todavía si los escenarios más extremos planteados por los investigadores terminarán ocurriendo.

Pero el debate dio un giro importante.

Ya no son solamente académicos, activistas o críticos externos quienes advierten sobre el peligro. Son las mismas personas que construyen los modelos más poderosos del planeta.

Mientras tanto, la transformación ya está generando efectos concretos mucho antes de cualquier hipotética superinteligencia. La IA está reconfigurando el empleo y las habilidades que demandan las empresas, provocando resistencia entre trabajadores que temen ser reemplazados y obligando a las compañías a revisar cómo incorporan estas herramientas.

La paradoja es que tampoco todos los datos apuntan hacia una destrucción automática del empleo: algunos estudios muestran que la IA también está transformando y potenciando posiciones junior.

El problema central, por lo tanto, empieza a exceder a ChatGPT, Claude o Gemini. Es quién controla sistemas cada vez más poderosos, bajo qué reglas operan y hasta dónde debería permitirse que avance su autonomía.

Y, quizás por primera vez, algunos de los empresarios más competitivos de Silicon Valley están diciendo públicamente que ganar la carrera podría no ser suficiente.

El verdadero desafío sería llegar primero sin construir algo que después nadie pueda controlar.

Seguí a El Economista en Google Agreganos a tus medios preferidos.

+ Agregar