De acuerdo con la investigación de la compañía Jumio, existe un cierto desconocimiento por parte de los consumidores sobre cómo la IA y las tecnologías deepfake podrían acelerar el fraude de identidad.
Jumio, compañía encargada de soluciones automatizadas e integrales de verificación de identidad, evaluación de riesgos y cumplimiento normativo, ha publicado un estudio de identidad en línea Jumio 2023, la segunda entrega de su investigación anual de los consumidores a nivel mundial, realizada por Censuswide. Los resultados de este año ponen en relieve la comprensión de los consumidores sobre cómo la IA generativa y las tecnologías deepfake podrían acelerar el fraude de identidad, y la consiguiente necesidad de contar con identidades digitales para la verificación y autenticación en línea. El estudio, además, muestra que los consumidores también parecen sobreestimar su capacidad para detectar deepfakes, lo que puede hacerlos aún más vulnerables a los ataques.
La investigación examinó a 8,055 consumidores adultos repartidos por igual entre el Reino Unido, Estados Unidos, Singapur y México. Más de dos tercios (67%) afirman conocer las herramientas de IA generativa, como ChatGPT, DALL-E y Lensa AI, que pueden producir contenidos inventados, incluidos vídeos, imágenes y audio. Los consumidores de Singapur son los que más las conocen (87%) y los del Reino Unido los que menos (56%).
Los consumidores subestiman la sofisticación de las tecnologías
El conocimiento de la IA generativa y los deepfakes entre los consumidores es elevado: el 52% de los encuestados cree que podría detectar un vídeo deepfake. Este sentimiento refleja un exceso de confianza por parte de los consumidores, dada la realidad de que los deepfakes han alcanzado un nivel de sofisticación que impide su detección a simple vista.
Esto es preocupante dado que cifras recientes de la Asociación de Internet de México muestran que 7 de cada 10 usuarios digitales en el país fueron víctimas de algún tipo de fraude cibernético en 2022. Además, 1 de cada 3 víctimas había sufrido suplantación de identidad.
Los datos de Jumio también muestran un aumento constante en el uso de deepfakes cada vez más sofisticados en todo el mundo y en todos los sectores, con una mayor presencia en los sectores de pagos y criptomonedas.
«Mucha gente parece creer que puede detectar un deepfake. Aunque ciertamente hay pistas muy obvias, los deepfakes están mejorando exponencialmente todo el tiempo y son cada vez más difíciles de detectar sin la ayuda de la IA», dijo Stuart Wells, CTO de Jumio. «Si bien las empresas necesitarán cada vez más tecnología basada en IA para detectar y proteger sus redes y a sus clientes de las falsificaciones, los consumidores también pueden hacerlo, cuestionando las imágenes, vídeos y audios provocativos. Una investigación rápida normalmente revelará si se trata de una falsificación o no.»
El conocimiento superficial da paso a la comprensión del uso potencialmente perjudicial
A medida que los consumidores van conociendo mejor estas tecnologías, también van comprendiendo cómo podrían utilizarse para alimentar la usurpación de identidad. Más de la mitad (57%) cree que el robo de identidad en línea será más fácil como consecuencia de ello, y los consumidores de Singapur mostraron el mayor nivel de comprensión de su potencial uso perjudicial (73%). Estos niveles disminuyen entre los consumidores de México (62%), EE.UU. (49%) y Reino Unido (43%).
La responsabilidad de educar y proteger recae en las empresas
«Las organizaciones tienen el deber de educar a sus clientes sobre los matices de las tecnologías de IA generativa para ayudarles a desarrollar expectativas más realistas sobre su capacidad para detectar deepfakes», dijo Philipp Pointner, director de identidad digital de Jumio. «Al mismo tiempo, incluso la mejor educación nunca podrá detener por completo el uso de tecnologías emergentes por parte de un estafador. Las organizaciones en línea deben tratar de implantar sistemas de verificación biométrica multimodal que puedan detectar los deepfakes y prevenir el uso de información personal robada. Resulta alentador que nuestra investigación indique un fuerte interés de los consumidores por esta forma de verificación de la identidad, que las empresas deben aprovechar rápidamente.»
La encuesta reveló que más de dos tercios (68%) de los consumidores están dispuestos a utilizar una identidad digital para verificarse en línea. Los principales sectores en los que preferirían una identidad digital a un documento de identidad físico (como la licencia de conducir o el pasaporte) son los servicios financieros (43%), la administración pública (38%) y los servicios de salud (35%).
