El boom de la inteligencia artificial generativa ha permitido a millones de personas experimentar con la creación digital de formas en las que no se había soñado apenas un par de años atrás.
Sin embargo, esto también tiene un lado oscuro. El uso indiscriminado y sin permiso de la imagen e incluso la voz de personas mediante deepfakes en todo el mundo nos lleva a preguntarnos dos veces qué es verdadero y qué es falso.
Sigue leyendo:
Irrumpe la Inteligencia Artificial en las elecciones de Estados Unidos
“Hay un alarmante incremento en los ataques de deepfakes, que se multiplicaron por diez en 2023 en comparación con 2022. La amplia disponibilidad de la inteligencia artificial generativa ha facilitado la creación y clonación de voces, un desafío significativo para empresas y gobiernos, así como usuarios finales contra el fraude.” apunta Fernando Casas, CEO de la empresa de verificación biométrica Veridas en México.
Aunque en la actualidad la mayoría de los ataques están enfocados en grandes empresas y gobiernos, solo es cuestión de tiempo para que esto afecte a usuarios que podrían llegar a recibir mensajes falsos de seres queridos en distintos dispositivos.
¿Qué es un deepfake?
Básicamente, un deepfake es un video o un audio creado a partir de una pequeña muestra de voz o imagen real, la cual es alterada digitalmente mediante una mezcla de programas e inteligencia artificial para hacer creer que una persona está diciendo algo que no hizo.
De acuerdo con Casas, actualmente se emplean de forma fraudulenta en el mundo financiero, para realizar extorsiones, desinformación en campañas promocionales o incluso para incrementar la difusión de noticias falsas.
¿Cómo detectar una voz falsa?
Por lo regular, las empresas y gobiernos disponen de herramientas de alta tecnología de reconocimiento de voz para identificar los audios artificiales pero, de acuerdo con la firma de antivirus Kaspersky, estas son algunas formas básicas de discernir si lo que escuchas es un deepfake:
- Palabras inusuales en el habla de la persona
- Voces “robóticas” o audios de mala calidad
- Frases demasiado largas, sin descanso de respiración
- Sonidos planos, sin acento
