El uso de inteligencia artificial generativa está permitiendo automatizar operaciones de fraude que anteriormente requerían varias personas, numerosos intentos y procesos manuales. Un reporte de Incode documentó 66 incidentes relacionados con este tipo de fraude en Estados Unidos, de los cuales 44 fueron confirmados con el método utilizado plenamente identificado.

El informe señala que los sistemas de inteligencia artificial pueden aprender de los resultados de una operación y ejecutar distintas etapas de manera automatizada, lo que facilita ampliar el alcance de los ataques. Entre los riesgos identificados están la generación de contenido sintético, la suplantación de identidad y el uso de agentes capaces de realizar tareas sin supervisión humana constante.

Deloitte estima que las pérdidas por fraude habilitado por inteligencia artificial generativa en Estados Unidos podrían alcanzar los 40 mil millones de dólares en 2027, frente a los 12 mil 300 millones registrados en 2023. Además, Microsoft reportó que los correos de phishing generados con inteligencia artificial alcanzaron una tasa de interacción de 54%, frente al 12% de los intentos tradicionales.