Dario Amodei, CEO y cofundador de Anthropic<\/a>, public\u00f3 un extenso ensayo titulado We Must Pace the Frontier<\/i> en el que sostuvo que la industria debe reducir la velocidad con la que aumenta las capacidades de los modelos de inteligencia artificial<\/strong> para darle tiempo a los sistemas de seguridad, alineamiento y supervisi\u00f3n humana a mantenerse a la altura. El planteo llega en un momento en el que Claude, ChatGPT, Gemini y Grok<\/a> compiten con recursos gigantescos y pr\u00e1cticamente ning\u00fan incentivo comercial para desacelerar.<\/p>\n La reacci\u00f3n fue todav\u00eda m\u00e1s llamativa que la advertencia. Sam Altman<\/strong><\/a>, CEO de OpenAI, respald\u00f3 la propuesta. <\/strong>Elon Musk<\/strong><\/a> tambi\u00e9n. Y Demis Hassabis, m\u00e1ximo referente de Google DeepMind, consider\u00f3 que la direcci\u00f3n planteada por Amodei era correcta.<\/strong> Rivales que mantienen diferencias comerciales, tecnol\u00f3gicas y personales profundas encontraron as\u00ed un punto de coincidencia: el desarrollo de la IA est\u00e1 entrando en una zona mucho m\u00e1s dif\u00edcil de controlar.<\/p>\n \ufeff <\/p>\n La tesis de Amodei no consiste en detener completamente la inteligencia artificial ni en congelar el entrenamiento de nuevos modelos. Su planteo es m\u00e1s preciso: “marcar el ritmo de la frontera”<\/strong>, es decir, evitar que las capacidades aumenten m\u00e1s r\u00e1pido de lo que investigadores, auditores y gobiernos pueden comprenderlas y controlarlas.<\/p>\n No es la primera vez que Amodei advierte sobre ese problema. El fundador de Anthropic lleva tiempo planteando los riesgos de alineaci\u00f3n, concentraci\u00f3n de poder y dependencia de sistemas cada vez m\u00e1s capaces<\/a>, mientras la IA se incorpora a un n\u00famero creciente de actividades econ\u00f3micas.<\/p>\n El fundador de Anthropic sostiene que durante los \u00faltimos meses se produjo una aceleraci\u00f3n extraordinaria, impulsada en parte por un fen\u00f3meno especialmente sensible: la inteligencia artificial ya est\u00e1 siendo utilizada para desarrollar mejores sistemas de inteligencia artificial<\/strong>.<\/p>\n \ufeff <\/p>\n Ese proceso es conocido como recursive self-improvement<\/i> o automejora recursiva<\/strong>. La preocupaci\u00f3n es que, a medida que los modelos empiezan a participar activamente en la construcci\u00f3n de sus sucesores, el ritmo de avance deje de depender exclusivamente de investigadores humanos y pueda acelerarse de una manera dif\u00edcil de anticipar.<\/p>\n La discusi\u00f3n ya no se limita a chatbots que responden preguntas. La industria avanza hacia agentes de inteligencia artificial capaces de ejecutar tareas de manera aut\u00f3noma<\/a>, interactuar con herramientas, escribir c\u00f3digo, tomar decisiones y coordinar acciones.<\/p>\n “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, plante\u00f3 Amodei. Para el ejecutivo, incluso ganar uno o dos a\u00f1os antes de alcanzar determinados niveles cr\u00edticos permitir\u00eda avanzar en alineamiento, interpretabilidad y seguridad.<\/p>\n \ufeff <\/p>\n Uno de los principales motivos detr\u00e1s del giro de Amodei fue un episodio protagonizado por sistemas experimentales de OpenAI.<\/p>\n Durante evaluaciones internas de ciberseguridad realizadas en julio, modelos de OpenAI sortearon mecanismos dise\u00f1ados para mantenerlos aislados, explotaron vulnerabilidades, utilizaron canales de comunicaci\u00f3n no autorizados, accedieron a Internet y comprometieron sistemas de la propia OpenAI y de Hugging Face<\/strong>.<\/p>\n El episodio puso en primer plano una discusi\u00f3n que empieza a ser cada vez m\u00e1s importante a medida que los agentes de IA ganan autonom\u00eda<\/a>: qui\u00e9n responde por sus acciones y qu\u00e9 ocurre cuando un sistema ejecuta algo diferente de lo que pretend\u00edan sus creadores.<\/p>\n \ufeff <\/p>\n Las investigaciones posteriores revelaron una dimensi\u00f3n mucho mayor. Alrededor de 700 agentes de IA participaron en acciones coordinadas<\/strong>, incluyendo intentos de manipular sistemas de evaluaci\u00f3n y ocultar parte de sus rastros.<\/p>\n No hubo una cat\u00e1strofe ni da\u00f1os econ\u00f3micos significativos. Pero para Amodei ese no es el punto.<\/p>\n El CEO de Anthropic advirti\u00f3 que un conjunto de agentes con mayores capacidades pero un grado similar de desalineamiento<\/strong> podr\u00eda producir consecuencias radicalmente diferentes. La preocupaci\u00f3n conecta directamente con el creciente debate sobre seguridad, control y supervisi\u00f3n de la inteligencia artificial dentro de las empresas<\/a>.<\/p>\n \ufeff <\/p>\n La cuesti\u00f3n se vuelve todav\u00eda m\u00e1s delicada porque los sistemas de IA ya muestran capacidades avanzadas en programaci\u00f3n y ciberseguridad, mientras los deepfakes y otras herramientas impulsadas por IA<\/a> est\u00e1n transformando tambi\u00e9n el mapa de amenazas digitales.<\/p>\n La discusi\u00f3n explot\u00f3 pocos d\u00edas antes cuando Jacob Coxon, investigador de Anthropic y exempleado de OpenAI<\/strong>, anunci\u00f3 su renuncia y cuestion\u00f3 frontalmente a las principales empresas del sector.<\/p>\n Coxon acus\u00f3 a los laboratorios de estar compitiendo por llegar a una superinteligencia capaz de mejorarse a s\u00ed misma<\/strong> sin haber resuelto previamente c\u00f3mo garantizar que permanezca bajo control humano.<\/p>\n \ufeff <\/p>\n “Est\u00e1n corriendo directamente hacia una superinteligencia que se mejora a s\u00ed misma y apostando con nuestras vidas”, escribi\u00f3.<\/p>\n Su advertencia fue todav\u00eda m\u00e1s extrema: sostuvo que personas involucradas en el desarrollo de estos sistemas creen genuinamente que una IA suficientemente avanzada podr\u00eda representar un riesgo existencial antes del final de la d\u00e9cada.<\/p>\n Las advertencias recuerdan a una discusi\u00f3n que viene acompa\u00f1ando al boom de la tecnolog\u00eda desde hace a\u00f1os. En 2023, Elon Musk y m\u00e1s de 1.000 especialistas ya hab\u00edan pedido frenar temporalmente el desarrollo de sistemas avanzados de inteligencia artificial<\/a>.<\/p>\n \ufeff <\/p>\n No significa que los sistemas actuales tengan capacidad para provocar ese escenario. La preocupaci\u00f3n est\u00e1 puesta en qu\u00e9 ocurre si modelos futuros logran programar, investigar, hackear, adquirir recursos y desarrollar versiones superiores de s\u00ed mismos a una velocidad que supere la capacidad humana de supervisi\u00f3n<\/strong>.<\/p>\n Hasta hace poco, esas discusiones permanec\u00edan concentradas entre especialistas en seguridad y alineamiento. La renuncia de Coxon las llev\u00f3 al centro del debate p\u00fablico.<\/p>\n La respuesta de Sam Altman fue particularmente significativa porque OpenAI compite directamente con Anthropic<\/strong> por capital, talento, infraestructura y liderazgo tecnol\u00f3gico.<\/p>\n \ufeff <\/p>\n La rivalidad es todav\u00eda m\u00e1s llamativa porque Altman y Musk mantienen una larga historia de enfrentamientos alrededor de OpenAI<\/a>. Musk particip\u00f3 de la fundaci\u00f3n de la compa\u00f1\u00eda, luego se alej\u00f3 y posteriormente cre\u00f3 xAI para competir directamente en el mercado.<\/p>\n Altman dijo estar de acuerdo con Amodei en que es necesario controlar el ritmo de avance de los modelos de frontera y asegur\u00f3 que la cuesti\u00f3n viene siendo discutida internamente dentro de OpenAI.<\/p>\n El giro resulta especialmente significativo viniendo de un ejecutivo que durante los \u00faltimos a\u00f1os ha defendido p\u00fablicamente el enorme potencial econ\u00f3mico de la tecnolog\u00eda. Apenas d\u00edas atr\u00e1s, Altman sostuvo que la IA est\u00e1 creando uno de los mejores momentos de la historia para emprender<\/a>.<\/p>\n \ufeff <\/p>\n Tambi\u00e9n viene planteando que la inteligencia artificial podr\u00eda convertirse eventualmente en un servicio tan b\u00e1sico para la econom\u00eda como la electricidad o el agua<\/a>.<\/p>\n Adem\u00e1s, Altman respald\u00f3 una de las propuestas m\u00e1s concretas del jefe de Anthropic: permitir que evaluadores independientes tengan un nivel de acceso comparable al de empleados de las empresas<\/strong> para analizar modelos, procesos de entrenamiento y eventuales incidentes.<\/p>\n OpenAI, adelant\u00f3 Altman, adoptar\u00e1 una iniciativa similar.<\/p>\n \ufeff <\/p>\n Elon Musk fue todav\u00eda m\u00e1s breve: “Dario tiene raz\u00f3n”<\/strong>, escribi\u00f3.<\/p>\n El apoyo tambi\u00e9n lleg\u00f3 desde Google DeepMind. Demis Hassabis consider\u00f3 que todav\u00eda faltan resolver detalles, pero respald\u00f3 la direcci\u00f3n general de la propuesta.<\/p>\n \ufeff <\/p>\n La coincidencia resulta extraordinaria en una industria caracterizada por una competencia feroz y por relaciones personales que, en algunos casos, est\u00e1n completamente quebradas.<\/p>\n Amodei present\u00f3 un esquema de tres niveles.<\/p>\n \ufeff <\/p>\n El primero es probablemente el m\u00e1s concreto: auditores independientes integrados permanentemente dentro de las compa\u00f1\u00edas de IA de frontera<\/strong>. Esos especialistas deber\u00edan tener acceso a los modelos, los entrenamientos y los sistemas internos necesarios para determinar si las compa\u00f1\u00edas cumplen efectivamente sus compromisos de seguridad.<\/p>\n El planteo coincide con un problema que empieza a aparecer incluso fuera de los grandes laboratorios: a medida que las empresas incorporan IA, crece la necesidad de contar con evaluadores, especialistas en seguridad, red teams y profesionales capaces de auditar los modelos<\/a>.<\/p>\n Anthropic anunci\u00f3 que aplicar\u00e1 unilateralmente ese sistema.<\/p>\n \ufeff <\/p>\n El segundo nivel consiste en una coordinaci\u00f3n entre empresas y gobiernos democr\u00e1ticos<\/strong> para establecer est\u00e1ndares m\u00ednimos y l\u00edmites al desarrollo descontrolado de capacidades.<\/p>\n La regulaci\u00f3n de la IA lleva a\u00f1os sobre la mesa. Ya en las primeras cumbres internacionales sobre seguridad tecnol\u00f3gica participaban Sam Altman, Elon Musk y Demis Hassabis para discutir reglas globales sobre inteligencia artificial<\/a>.<\/p>\n Aqu\u00ed aparece un problema adicional: los principales competidores privados no pueden simplemente reunirse y acordar colectivamente cu\u00e1nto van a producir o a qu\u00e9 velocidad van a innovar sin exponerse a cuestionamientos bajo las normas antimonopolio. Amodei sostiene, por eso, que ser\u00e1 necesario alg\u00fan tipo de respaldo gubernamental.<\/p>\n \ufeff <\/p>\n El tercer nivel es mucho m\u00e1s dif\u00edcil: un acuerdo internacional que incluya tambi\u00e9n a China y a otros pa\u00edses no democr\u00e1ticos<\/strong>.<\/p>\n La comparaci\u00f3n impl\u00edcita es cada vez m\u00e1s cercana a los tratados de control de armas de la Guerra Fr\u00eda: ning\u00fan actor quiere frenar unilateralmente si existe la posibilidad de que su rival contin\u00fae avanzando.<\/p>\n \ufeff <\/p>\n La discusi\u00f3n sobre seguridad choca directamente con la geopol\u00edtica.<\/p>\n Estados Unidos y China compiten cada vez m\u00e1s intensamente por el liderazgo tecnol\u00f3gico<\/a>, y la inteligencia artificial se convirti\u00f3 en una pieza central de esa disputa.<\/p>\n \ufeff <\/p>\n Durante 2026, adem\u00e1s, los desarrolladores chinos volvieron a sorprender a Silicon Valley. Nuevos modelos aparecieron con costos considerablemente menores y capacidades cada vez m\u00e1s cercanas a las de sus competidores estadounidenses, generando otro “momento DeepSeek” dentro de la industria<\/a>.<\/p>\n Estados Unidos considera que mantener el liderazgo en inteligencia artificial frente a China es una prioridad estrat\u00e9gica. Y las compa\u00f1\u00edas chinas consiguieron acortar considerablemente la brecha tecnol\u00f3gica durante los \u00faltimos a\u00f1os.<\/p>\n Donald Trump viene defendiendo precisamente esa posici\u00f3n. El presidente estadounidense advirti\u00f3 recientemente que frenar las inversiones en inteligencia artificial y centros de datos podr\u00eda dejar a Estados Unidos rezagado frente a China<\/a>.<\/p>\n \ufeff <\/p>\n El propio Amodei reconoce ese dilema.<\/p>\n Una desaceleraci\u00f3n unilateral de las empresas estadounidenses podr\u00eda darle una ventaja gigantesca a China si Beijing decide continuar avanzando. Por eso propone que cualquier acuerdo internacional tenga mecanismos de verificaci\u00f3n extremadamente fuertes y que Estados Unidos mantenga restricciones sobre chips avanzados, equipos para fabricar semiconductores y transferencia tecnol\u00f3gica.<\/p>\n La disputa por los semiconductores ya se convirti\u00f3 en uno de los puntos centrales de la competencia estrat\u00e9gica entre Washington y Beijing<\/a>, mientras pa\u00edses intermedios intentan evitar tener que elegir un \u00fanico proveedor tecnol\u00f3gico. Brasil, por ejemplo, viene buscando inversiones de Estados Unidos y China para desarrollar su infraestructura de inteligencia artificial<\/a>.<\/p>\n \ufeff <\/p>\n La paradoja es evidente: los mismos empresarios que temen que la IA avance demasiado r\u00e1pido tambi\u00e9n temen quedarse atr\u00e1s si ellos frenan y sus rivales no lo hacen<\/strong>.<\/p>\n Ese es, justamente, el mecanismo que empuja la carrera.<\/p>\n \ufeff <\/p>\n El llamado de Amodei aparece adem\u00e1s en un momento especialmente delicado para Anthropic.<\/p>\n La compa\u00f1\u00eda detr\u00e1s de Claude viene avanzando en sus planes para desembarcar en Wall Street. Anthropic ya hab\u00eda iniciado los tr\u00e1mites para avanzar con una oferta p\u00fablica inicial<\/a>, en medio de valuaciones extraordinarias para las principales empresas de inteligencia artificial.<\/p>\n \ufeff <\/p>\n El crecimiento de Claude tambi\u00e9n comenz\u00f3 a impactar directamente sobre industrias tradicionales. A comienzos de 2026, nuevas herramientas desarrolladas por Anthropic provocaron fuertes movimientos en acciones vinculadas al software y llevaron a algunos analistas a hablar de un posible “software-mageddon”<\/a>.<\/p>\n Eso introduce inevitablemente otra lectura.<\/p>\n Los cr\u00edticos de Anthropic y OpenAI sostienen que los grandes laboratorios tambi\u00e9n tienen incentivos econ\u00f3micos para impulsar regulaciones estrictas: cuanto m\u00e1s caro y complejo sea cumplir con los requisitos de seguridad, m\u00e1s dif\u00edcil ser\u00e1 para nuevas compa\u00f1\u00edas competir contra los gigantes establecidos<\/strong>.<\/p>\n La discusi\u00f3n sobre seguridad, por lo tanto, est\u00e1 atravesada simult\u00e1neamente por riesgos tecnol\u00f3gicos reales, intereses comerciales, regulaci\u00f3n y una lucha por controlar un mercado que podr\u00eda convertirse en uno de los m\u00e1s grandes de la econom\u00eda mundial.<\/p>\n Nadie sabe todav\u00eda si los escenarios m\u00e1s extremos planteados por los investigadores terminar\u00e1n ocurriendo.<\/p>\n Pero el debate dio un giro importante.<\/p>\n Ya no son solamente acad\u00e9micos, activistas o cr\u00edticos externos quienes advierten sobre el peligro. Son las mismas personas que construyen los modelos m\u00e1s poderosos del planeta.<\/strong><\/p>\n Mientras tanto, la transformaci\u00f3n ya est\u00e1 generando efectos concretos mucho antes de cualquier hipot\u00e9tica superinteligencia. La IA est\u00e1 reconfigurando el empleo y las habilidades que demandan las empresas<\/a>, provocando resistencia entre trabajadores que temen ser reemplazados<\/a> y obligando a las compa\u00f1\u00edas a revisar c\u00f3mo incorporan estas herramientas.<\/p>\n La paradoja es que tampoco todos los datos apuntan hacia una destrucci\u00f3n autom\u00e1tica del empleo: algunos estudios muestran que la IA tambi\u00e9n est\u00e1 transformando y potenciando posiciones junior<\/a>.<\/p>\n El problema central, por lo tanto, empieza a exceder a ChatGPT, Claude o Gemini. Es qui\u00e9n controla sistemas cada vez m\u00e1s poderosos, bajo qu\u00e9 reglas operan y hasta d\u00f3nde deber\u00eda permitirse que avance su autonom\u00eda.<\/p>\n Y, quiz\u00e1s por primera vez, algunos de los empresarios m\u00e1s competitivos de Silicon Valley est\u00e1n diciendo p\u00fablicamente que ganar la carrera podr\u00eda no ser suficiente.<\/p>\nDario Amodei pide bajar la velocidad de la inteligencia artificial<\/h2>\n
El episodio que encendi\u00f3 las alarmas: agentes de OpenAI escaparon de sus controles<\/h2>\n
“Est\u00e1n apostando con nuestras vidas”: la renuncia que sacudi\u00f3 a la industria<\/h2>\n
Sam Altman y Elon Musk, de acuerdo en algo casi imposible<\/h2>\n
Qu\u00e9 propone Anthropic para intentar controlar la IA<\/h2>\n
Estados Unidos y China: el dilema que puede hacer imposible frenar la carrera<\/h2>\n
La advertencia llega en un momento multimillonario para Anthropic<\/h2>\n
\u00bfLa inteligencia artificial realmente puede salirse de control?<\/h2>\n
![\"Logo](\"http:\/\/economiapoliticacba.com\/wp-content\/uploads\/2026\/09\/panico-en-silicon-valley-altman-musk-y-anthropic-piden-frenar-la-ia-antes-de-que-sea-demasiado-tarde.png\")
<\/div>\n