Las herramientas de IA que permiten la generación de nuevas imágenes a partir de texto o de otras fotografías son un ejemplo de la novedosa aplicación de esta tecnología de aprendizaje. En la actualidad, estas herramientas pueden leer una descripción textual y convertirla en una nueva imagen coincidente con dicha descripción, habiéndose mejorado notablemente la calidad de las imágenes que se generan.
Un ejemplo de esta evidente mejora en la calidad de las imágenes generadas a partir de texto lo ha llevado a cabo Borys Musielak. En su post de LinkedIn publicó que, gracias a la herramienta de IA chat GPT-4, pudo realizar una réplica de su pasaporte que “la mayoría de los sistemas de KYC aceptarían sin pestañear”.
Así, este ingeniero pudo diseñar con una herramienta de Inteligencia Artificial un documento de identidad falso con una apariencia de veracidad que permitiría (teóricamente, por cuanto no prueba que haya tratado de utilizar este documento para poner a prueba estos sistemas) engañar fácilmente a los sistemas de verificación de identidad que las compañías utilizan en la actualidad en sus plataformas digitales. En este sentido, afirma en su post que “cualquier sistema de verificación que se base en imágenes como «prueba» ha quedado oficialmente obsoleto«. Es por ello por lo que la solución, para él, es el uso de identidades digitales, como la cartera digital de la Unión Europea.
Si bien es cierto que el desarrollo de estas herramientas ha permitido que sea prácticamente imposible diferenciar entre las fotografías reales y las generadas por IA (existiendo aún un amplio margen de mejora), consideramos que aún queda mucho camino para que estas imágenes generadas puedan ser usadas para burlar los sistemas de verificación implementados por las compañías.