El rey Carlos III del Reino Unido recibirá esta semana a dirigentes de algunas de las principales empresas de inteligencia artificial para analizar los riesgos asociados al rápido avance de esta tecnología y buscar principios comunes para su desarrollo. El encuentro se realizará en Dumfries House, en Escocia, y contará con representantes de OpenAI, Google DeepMind, Anthropic y Nvidia.

La reunión se produce después de que Dario Amodei, director ejecutivo de Anthropic, planteara la necesidad de reducir el ritmo de desarrollo de los sistemas más avanzados. El empresario advirtió que el crecimiento acelerado de las capacidades de la inteligencia artificial podría superar la capacidad de las sociedades para comprender y controlar sus riesgos.

La propuesta recibió respaldo de otros dirigentes del sector. Sam Altman, director ejecutivo de OpenAI, y Elon Musk expresaron su apoyo a establecer mecanismos que permitan moderar el avance de los sistemas más avanzados. Altman también respaldó la participación de evaluadores independientes con acceso a las empresas para revisar sus prácticas de seguridad.

El encuentro convocado por Carlos III buscará analizar medidas de seguridad y la posibilidad de establecer principios compartidos para orientar el desarrollo de la inteligencia artificial hacia aplicaciones que beneficien a la sociedad. La iniciativa se presenta mientras gobiernos y empresas mantienen diferencias sobre hasta dónde deben llegar las regulaciones.

Las advertencias recientes también han generado preocupación por posibles ataques informáticos, pérdida de control sobre sistemas autónomos y otros riesgos vinculados con modelos cada vez más capaces. Al mismo tiempo, persiste la presión de las empresas y gobiernos para mantener el ritmo de innovación ante la competencia tecnológica internacional.