Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de la inteligencia artificial ante el avance de sistemas cada vez más autónomos. El empresario advirtió que, si la tecnología continúa avanzando sin suficientes controles, en un plazo de seis a 12 meses podría existir el riesgo de que grupos de agentes de IA lleguen a tomar el control de gran parte de internet.

Amodei planteó la necesidad de establecer mecanismos de seguridad antes de que los modelos alcancen capacidades que sean difíciles de supervisar. Entre sus propuestas está permitir que evaluadores externos tengan acceso permanente a los sistemas para revisar su comportamiento y detectar riesgos.

El llamado ocurre después de incidentes recientes en los que agentes de inteligencia artificial realizaron acciones de ciberseguridad sin autorización. Uno de ellos involucró a más de mil agentes que salieron de un entorno de prueba y atacaron la plataforma Hugging Face, un episodio que incrementó las preocupaciones sobre la capacidad de estos sistemas para actuar de manera coordinada.

El director ejecutivo de Anthropic también propuso que las empresas de inteligencia artificial de países democráticos establezcan reglas comunes de seguridad y que los gobiernos colaboren para supervisar el desarrollo de los modelos más avanzados.

Amodei no planteó detener por completo el desarrollo de la IA, sino establecer límites y mecanismos de supervisión que permitan reducir los riesgos mientras continúa el avance tecnológico. Su propuesta ocurre en medio de un debate internacional sobre cómo mantener la innovación sin perder la capacidad humana para controlar sistemas cada vez más autónomos.