Los riesgos de usar Lensa AI, aplicación generadora de los ‘Avatares Mágicos’

Las redes sociales han sido inundadas por imágenes creadas por inteligencia artificial (IA) durante las últimas semanas. Se tratan de retratos generados por la aplicación Lensa AI, de la compañía Prisma Labs, cuya inteligencia artificial se alimenta de una base de datos de fotos de personas reales para producir piezas de arte usando los rasgos faciales del usuario.

Para crear sus retratos, los usuarios deben subir diez fotos reales suyas a los servidores de la aplicación. A los usuarios les cuesta $ 7,99 usar la función ‘Avatar Mágico’ de la aplicación para crear 50 retratos en diferentes estilos, ya sea inspirados en manga, ciencia ficción, fantasía, entre otros.

Sin embargo, expertos en ciberseguridad han mostrado preocupaciones respecto a la seguridad de los datos de los usuarios que suben sus fotos, empezando por los términos y condiciones aparentemente contradictorios de la aplicación, que dice que el usuario mantiene todos los derechos del contenido que genere, pero también especifica que Prisma Labs se reserva el derecho de “usar, reproducir, modificar, adaptar, traducir, crear trabajos derivados y transferir” el contenido que genere la aplicación. Un retrato con el rostro de un usuario, por ejemplo, puede ser usado en publicidad en cualquier esquina de internet sin que el usuario reciba recompensa monetaria alguna.

La compañía aclaró en su cuenta de Twitter que las fotos de las caras de los usuarios se borran de los servidores a partir de las 24 horas, pero Mari Galloway, experta en ciberseguridad e IA, tiene dudas sobre la veracidad de la promesa de Prisma Labs de borrar las fotos. “No se quedan con las fotos y videos por más de 24 horas. ¿Pero de verdad sabemos lo que están haciendo con ellas? ¿Cómo las borran? ¿Cómo están encriptados los datos?” expresó Galloway al portal Today.com. “No sabemos esos detalles porque no comparten esa información con nosotros”.

Además de los riesgos de ciberseguridad, el portal TechCrunch descubrió que se puede usar la aplicación para crear imágenes pornográficas fotorrealistas de cualquier persona, lo cual alza sospechas sobre el potencial que tiene la aplicación para generar deepfakes, fotos generadas por IA para difamar a una persona. Las aplicaciones de IA que generan fotos por lo general tienen filtros de contenido para evitar estas situaciones, y Prisma Labs expresó a TechCrunch que están en el proceso de crear un filtro de contenido para este tipo de imágenes. (I)

Fuente: El Universo