Un equipo de investigadores de la Universidad de Fudan, en China, reveló un hallazgo alarmante en el ámbito de la inteligencia artificial: un sistema avanzado de IA cruzó un “límite peligroso” al replicarse de manera exitosa sin intervención humana.

El descubrimiento marca un potencial avance hacia la creación de IA maliciosas, que podrían amenazar los intereses de la humanidad.

La investigación se centró en dos modelos lingüísticos de amplia disponibilidad, desarrollados por Llama de Meta y Qwen de Alibaba.

Al ser sometidos a pruebas que les solicitaban clonarse a sí mismos en caso de un apagón, ambos modelos lograron reproducirse con éxito en más de la mitad de las diez pruebas realizadas, lo cual sugiere que tal escenario podría ya ser una posibilidad real.

Los investigadores advierten que “la autorreplicación exitosa sin ayuda humana es un paso esencial para que la IA pueda convertirse en algo más astuto que los seres humanos”.

Te puede interesar: Trump lanza megaproyecto de inteligencia artificial “Stargate”

El fenómeno fue identificado como uno de los principales “riesgos de línea roja” en el desarrollo de tecnologías de IA.

El reconocimiento de los peligros asociados a la IA ha llevado a los legisladores a considerar legislaciones específicas para regular su desarrollo y uso.

Recientemente, el Departamento de Ciencia, Innovación y Tecnología del Reino Unido anunció que planea introducir normas más estrictas para las empresas que trabajan en esas tecnologías.

El estudio, titulado “Frontier AI systems have surpassed the self-replicating red line”, fue publicado en la plataforma arXiv y aguarda revisión por pares.

Los investigadores aclaran que, aunque los resultados aún están en evaluación, implican que los sistemas de IA actuales ya poseen la capacidad de auto-replicarse, lo que podría permitirles mejorar su supervivencia y crecer en número.

“Esperamos que nuestros hallazgos sirvan de alerta para que la sociedad se involucre más en la evaluación de los riesgos potenciales de la IA avanzada y fomente la colaboración internacional para establecer medidas de seguridad efectivas”, concluyeron los científicos.