El auge de los deepfakes impulsados por inteligencia artificial
El uso de deepfakes creados con inteligencia artificial está en pleno auge, tanto en América Latina como en el resto del mundo. Esta tendencia impacta en empresas, figuras públicas y usuarios comunes.
Según un informe de ESET Latinoamérica, estos fraudes digitales han provocado pérdidas millonarias y han contribuido a la difusión masiva de desinformación.
¿Por qué resultan creíbles los deepfakes?
La compañía advierte que esta técnica consiste en recrear la voz y la imagen de una persona real a partir de fragmentos de audio, video o fotografías. El resultado son contenidos falsos que parecen auténticos y que cada vez resultan más difíciles de diferenciar de los originales.
Desde el Laboratorio de Investigación de ESET Latinoamérica, explican: “La evolución de la IA permite que estos materiales se vean creíbles, y en muchos casos se utilizan para engañar, suplantar identidades o manipular a las víctimas con fines económicos”.
En los últimos meses han surgido casos alarmantes:
- Uno de ellos fue la utilización de la imagen de Lionel Messi para promocionar una aplicación fraudulenta en Instagram.
- Otro ocurrió en la firma Arup, donde un empleado transfirió más de 25 millones de dólares tras participar en una videollamada con un falso directivo generado por IA.
- Incluso compañías como Ferrari y WPP enfrentaron intentos de estafa mediante la imitación de las voces de sus ejecutivos, aunque lograron detectarlos a tiempo.
Consecuencias sociales y políticas de los deepfakes
En una escuela de Baltimore, un audio manipulado atribuyó declaraciones falsas a un director, lo que derivó en amenazas. Asimismo, la imagen de Elon Musk fue usada en anuncios de criptomonedas fraudulentos, con pérdidas superiores a los 80 millones de dólares. Otro caso conocido fue la difusión de un video falso del presidente ucraniano Volodímir Zelensky, en el que supuestamente pedía la rendición de su país.
Medidas de prevención recomendadas por expertos
Para mitigar estos riesgos, ESET recomienda aplicar mecanismos de validación, capacitar a los equipos para reconocer señales de alerta y utilizar herramientas de análisis que detecten deepfakes.
En definitiva, el avance de esta tecnología obliga a reforzar la capacitación y a implementar soluciones específicas para minimizar su impacto.
