22 November, 2024
Deepfakes: Los peligrosos avances de la IA y su poder para remodelar la realidad
A través de la tecnología de inteligencia artificial cada vez aumentan más los casos de suplantación de identidad con fines comerciales y de robo de datos
Ciudad de México, 15 de abril del 2024.- La tecnología avanza a pasos agigantados al punto de que las inteligencias artificiales que antes parecían cosa de películas de ciencia ficción ya están al alcance de cualquiera con un celular o computadora. Sin embargo, así como esto puede traer grandes beneficios, a nivel internacional preocupa el mal uso de las mismas, tales como los deepfakes.
¿Qué son los deepfakes?
Los deepfakes tratan de archivos manipulados a través de inteligencia artificial que imitan con mucha precisión videos, imágenes o clips de voz, por lo que resulta muy difícil identificar si se trata de un material auténtico o falso.
Para el Lisa Institute, el uso de técnicas avanzadas de aprendizaje automático permite que estas creaciones engañen fácilmente al ojo humano, presentándose como una realidad alterada que es difícil de distinguir de la original.
Esta tecnología permite generar o modificar contenido con un grado de realismo que antes parecía inimaginable, lo cual además de sorprendente también provoca preocupación.
Lo problemático de los deepfakes radica en cómo estos archivos pueden utilizarse para fines maliciosos como la manipulación del público, difamación de individuos e incluso la creación de noticias falsas.
La extraordinaria capacidad de los deepfakes para crear escenarios falsos pero convincentes pone bajo el foco planteamientos sobre la integridad de la información y el riesgo de la desinformación en la sociedad.
Sectores de marketing y financieros son los más afectados
Wall Street Journal informa que, en el sector financiero, especialmente en bancos y proveedores de servicios financieros, se registra un incremento en los ataques de fraudes impulsados por deepfakes.
Estos ataques van desde llamadas fraudulentas imitando voces de individuos reales hasta la suplantación de identidades con fines ilícitos.
En el campo de la publicidad, según especifica el portal Marketing Directo, los marketers ven en los deepfakes una oportunidad para innovar en la forma de conectar con las audiencias. Sin embargo, esta tecnología también conlleva el riesgo de generar contenidos publicitarios.
Por su lado, Business Insider agrega que la preocupación es creciente en torno a la suplantación de identidad y las estafas facilitadas por esta tecnología.
La capacidad de crear vídeos falsos pero convincentemente realistas, mediante técnicas de aprendizaje profundo, plantea un reto significativo para la sociedad, en su esfuerzo por distinguir lo real de lo manipulado.
