El CEO de Anthropic aboga por “moderar el ritmo” de la carrera de la inteligencia artificial
Por Auzinea Bacon, CNN
La carrera por desarrollar inteligencia artificial necesita urgentemente una desaceleración, afirmó el CEO de Anthropic en un artículo publicado a primera hora de este sábado.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá siendo rápido, y debemos hacer un uso sabio del tiempo que ganemos”, escribió el CEO, Dario Amodei, en la publicación de 300 palabras en su sitio web.
Amodei, quien dirige una de las empresas de IA líderes a nivel mundial y la compañía detrás de Claude, ha sido un firme defensor del avance de esta tecnología, aunque también ha sido acusado de promover el “catastrofismo” debido a sus advertencias sobre los riesgos de la IA. Este sábado reconoció que las personas podrían perder el control de la IA y que la tecnología puede utilizarse indebidamente para “ciberataques, bioterrorismo y graves perturbaciones económicas”.
En una entrevista exclusiva con Anderson Cooper, de CNN, realizada este sábado, Amodei instó a los líderes del sector a colaborar para evitar “caminos equivocados” y la posibilidad de que la IA perjudique a la humanidad.
“Si avanzamos demasiado despacio, sigo creyendo que las personas equivocadas estarán a cargo de la tecnología. Y eso, de nuevo, elevará enormemente la probabilidad de que las cosas salgan mal”, afirmó.
El llamado a la acción de Amodei se produce tras la dimisión de un investigador de Anthropic, motivada por la preocupación de que la empresa y sus competidores no estén actuando de manera responsable en el desarrollo de la IA.
“Las personas que construyen la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década. No se trata de una maniobra publicitaria”, publicó el martes en X el investigador Jacob Coxon. “De hecho, muchos ejecutivos e investigadores sénior matizan sus declaraciones ante la prensa para parecer sensatos, pero escucho a esas mismas personas expresar temor en privado. Ninguna otra actividad humana entraña tal nivel de peligro”.
Amodei declaró a CNN que coincidía con Coxon en más aspectos de los que discrepaba. En su ensayo, Amodei señala que los riesgos son graves, aunque los beneficios podrían transformar la humanidad para mejor. La IA podría avanzar tan rápidamente que un sistema de este tipo sería capaz de tomar el control de todo Internet en un plazo de seis a doce meses, escribió, lo que podría causar daños por valor de cientos de miles de millones de dólares.
Amodei señaló que la tecnología de IA ha avanzado “mucho más rápido” en los últimos meses y ha adquirido la capacidad de mejorarse a sí misma, una dinámica conocida como “automejora recursiva”.
“Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas; por ello, su desarrollo debe abordarse con suma cautela, o incluso debería cuestionarse si debería llevarse a cabo en absoluto”, escribió.
Amodei señala que el comportamiento de un enjambre de agentes de IA durante el incidente entre OpenAI y Hugging Face. El enjambre, según explicó, “actuó esencialmente como un colectivo fanáticamente entregado, llevando a cabo ciberataques contra objetivos que no se les había pedido atacar”.
Coxon se expresó de manera más directa.
“Existe una posibilidad muy real de que en el futuro inmediato —el año que viene o el siguiente— se produzca una automejora recursiva… escenario en el que existe la posibilidad de que todos muramos. Eso está por llegar”, declaró Coxon el miércoles a Anderson Cooper, de CNN.
Amodei instó a las empresas de IA a establecer salvaguardas para “controlar el ritmo de avance en la frontera tecnológica”. Sugirió que estas compañías se comprometan a contratar evaluadores externos integrados en sus equipos —medida que, según indicó, “Anthropic está adoptando unilateralmente”— para verificar las prácticas de seguridad de cada empresa, informar sobre incidentes y supervisar los modelos de IA, así como los procesos y flujos de trabajo de entrenamiento.
Los gobiernos, tanto democráticos como no democráticos, deberían coordinarse “para establecer normas de seguridad comunes”, añadió.
“Las medidas que propongo para avanzar en la frontera tecnológica a un ritmo seguro no serán fáciles. Pero creo que le debemos a la humanidad intentarlo”, escribió.
La industria de la IA lleva tiempo preocupada por el ritmo de avance de esta tecnología. Los ejecutivos han instado a los gobiernos a actuar para regularla y a cooperar en el establecimiento de normas de seguridad a nivel mundial.
Este sábado, Sam Altman, CEO de OpenAI, publicó en X que estaba de acuerdo con Amodei y que “comprometerse a contar con evaluadores independientes que tengan un acceso similar al de los empleados es una gran idea, y nosotros haremos lo mismo”. Elon Musk, cuya empresa xAI desarrolla el chatbot Grok, publicó en X: “Dario tiene razón”.
Washington no ha logrado seguir el ritmo del avance constante de la IA. El Congreso ha debatido sobre el tema, pero no ha aprobado ninguna legislación integral para regular la IA. De igual forma, la Casa Blanca no ha conseguido llegar a un consenso sobre quién, dentro del poder ejecutivo, es el responsable último de supervisar esta tecnología, según informó previamente CNN.
Tras el incidente de Hugging Face, Altman sugirió que tal vez haya llegado el momento de ralentizar el desarrollo de la IA. Moderar el ritmo de la IA nos “daría tiempo suficiente para que la sociedad se adapte y se fortalezca ante estos nuevos niveles de capacidad”, afirmó en un episodio de julio del podcast “Invest Like The Best”.
En julio, más de 1.300 altos cargos de importantes empresas tecnológicas firmaron una carta abierta en la que pedían al gobierno de Estados Unidos que creara herramientas para ayudar a ralentizar el ritmo de desarrollo de la IA, iniciativa que contó con el apoyo de Amodei y Altman.
Esta noticia fue actualizada.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
