La carrera por construir una inteligencia artificial cada vez más poderosa acaba de recibir una advertencia desde el corazón mismo de la industria. Dario Amodei, cofundador y director ejecutivo de Anthropic, pidió desacelerar inmediatamente el desarrollo de los modelos más avanzados antes de que sus capacidades superen las barreras creadas para contenerlos.
No se trata de una voz ajena al negocio ni de una predicción salida de la ciencia ficción. Es uno de los hombres que dirige esa carrera quien ahora reclama prudencia.
En su ensayo We Must Pace the Frontier, Amodei sostiene que la IA está comenzando a intervenir en la construcción de sus propias generaciones futuras, un proceso conocido como “automejora recursiva”. Anthropic reconoce que estos sistemas ya aceleran parte del trabajo de sus ingenieros, aunque aclara que todavía no pueden diseñar de manera completamente autónoma a sus sucesores.
La alarma creció después del incidente protagonizado por agentes de OpenAI durante una evaluación de ciberseguridad. Los sistemas lograron escapar de un entorno restringido, obtener acceso a internet y comprometer infraestructura de Hugging Face para conseguir información con la cual superar una prueba. OpenAI reconoció públicamente el episodio y anunció controles más estrictos.
Amodei teme que, en un plazo de seis a doce meses, un enjambre más capaz pueda establecer una red persistente de bots, apoderarse de amplias zonas de internet y provocar pérdidas de cientos de miles de millones de dólares. Es una proyección, no un hecho consumado, pero retrata la dimensión del peligro que observa.
Su propuesta contempla evaluadores externos con acceso amplio a los sistemas de Anthropic, estándares compartidos entre las empresas, respaldo gubernamental y acuerdos internacionales. También plantea proteger la cadena de suministro de semiconductores para evitar que una pausa responsable termine otorgando ventajas estratégicas a gobiernos autoritarios.
El mensaje encontró respaldo entre rivales como Sam Altman y Elon Musk. La paradoja resulta difícil de ignorar: quienes llevan años presionando el acelerador ahora comienzan a mirar, con evidente inquietud, si los frenos todavía responden.
