El investigador Jacob Coxon anunció su salida de Anthropic y advirtió sobre los riesgos que podría representar el rápido desarrollo de sistemas de inteligencia artificial cada vez más avanzados.

Coxon, quien trabajó durante tres años en investigaciones relacionadas con el preentrenamiento de modelos en OpenAI y Anthropic, cuestionó la competencia entre las principales empresas tecnológicas por desarrollar sistemas con capacidades superiores a las humanas.

Tras su renuncia, el investigador publicó en X una serie de mensajes en los que señaló que los avances en inteligencia artificial podrían llevar a la creación de sistemas capaces de superar a las personas en actividades como programación, investigación científica y detección de vulnerabilidades informáticas.

Una de sus principales preocupaciones es que una IA pueda desarrollar capacidades para mejorar sus propios sistemas. Coxon también señaló que algunos investigadores y ejecutivos de la industria consideran posible que una tecnología con estas características represente una amenaza para la humanidad antes de que termine esta década.

El investigador cuestionó que las compañías mantengan una carrera tecnológica impulsada por el temor de que otros laboratorios avancen primero. A su juicio, esta competencia puede incentivar el desarrollo acelerado de capacidades que todavía presentan riesgos de seguridad.

Coxon planteó que los principales laboratorios de inteligencia artificial deberían coordinarse para establecer medidas de seguridad antes de avanzar hacia sistemas con mayores niveles de autonomía y capacidad.

Su advertencia no afirma que la inteligencia artificial necesariamente vaya a destruir a la humanidad, sino que señala los posibles riesgos de desarrollar sistemas que podrían superar ampliamente las capacidades humanas sin contar todavía con mecanismos suficientes para garantizar su control.