La IA pisa el freno: el CEO de Anthropic pide desacelerar el desarrollo y Altman y Musk le dan la razón
El debate sobre los límites de la inteligencia artificial dio un giro inesperado esta semana. Dario Amodei, CEO de Anthropic —la empresa detrás del modelo Claude—, publicó un ensayo de 3.800 palabras titulado «We Must Pace the Frontier» («Debemos marcar el ritmo de la frontera»), en el que pide a toda la industria moderar deliberadamente la velocidad con la que mejoran las capacidades de los modelos de IA. Lo llamativo no fue solo el mensaje, sino quiénes lo respaldaron casi de inmediato: Sam Altman (OpenAI) y Elon Musk (xAI).
Qué dice el ensayo de Amodei
Publicado el sábado 12 de septiembre en el blog de Anthropic, el texto sostiene que la IA ha empezado a mejorar más rápido de lo previsto porque ya puede automejorarse, un fenómeno conocido como autosuperación recursiva (recursive self-improvement). Según Amodei, ese proceso «está empezando a ocurrir en toda la industria, incluida Anthropic».
Su advertencia es directa: «Sin control, podría superar nuestra capacidad de entender y controlar estos sistemas». Por eso, propone un plan de tres pasos, comenzando por un compromiso unilateral de Anthropic: dar acceso permanente, a nivel de empleado, a evaluadores externos independientes que verifiquen el cumplimiento de los compromisos de seguridad.
La reacción: rivales que, por una vez, coinciden
Lo inusual del caso es el consenso que generó entre competidores directos. Musk respondió en X con un escueto pero contundente «Dario tiene razón». Altman, por su parte, escribió que está de acuerdo en que hay que «marcar el ritmo de la frontera» y prometió que OpenAI dará a los evaluadores el mismo nivel de acceso.
El propio Amodei reconoció, en una entrevista con CBS News, que coordinar esto a escala global no será sencillo: «Los incentivos para adelantarse y la ventaja militar que se obtiene de eso son muy grandes».
China responde y la propuesta divide opiniones
No todos lo vieron con buenos ojos. El Ministerio de Relaciones Exteriores de China calificó las advertencias de «alarmismo», y el medio estatal Global Times acusó a Amodei de intentar presentar el desarrollo legítimo de la IA china como una amenaza.
El ensayo también vincula la desaceleración con una condición geopolítica: mantener la ventaja de Estados Unidos frente a China mediante restricciones a la exportación de chips y medidas contra la copia no autorizada de modelos, lo que ha abierto un debate sobre si la propuesta es realmente sobre seguridad o también sobre competencia estratégica.
Por qué importa
Se trata de una de las advertencias más visibles hasta ahora viniendo de dentro de la propia industria: no es un regulador ni un activista, sino el CEO de una de las compañías que compite por construir los modelos más avanzados del mundo, pidiendo —con el respaldo de sus principales rivales— que todos bajen el ritmo. El episodio reabre una pregunta que va a acompañar a la IA durante los próximos años: ¿quién frena a quién quien tiene, además, todos los incentivos para ir más rápido?
#InteligenciaArtificial #IA #DarioAmodei #Anthropic #SamAltman #ElonMusk #OpenAI #TechNews #AIethics #Tecnología
