Una imagen del Papa Francisco con una elegante chaqueta blanca acolchada se hizo viral en redes sociales durante el fin de semana; pero engañó a miles de usuarios haciéndoles creer que es real.
La imagen falsa —que muestra al Papa Francisco con un crucifijo enjoyado y sosteniendo lo que parece ser una taza de café en una mano— se publicó por primera vez en Reddit el viernes, titulada «The Pope Drip», en un subreddit llamado r/midjourney. Esta imagen se generó con un programa de inteligencia artificial llamado Midjourney.
La imagen luego se distribuyó en plataformas como Twitter con cientos de miles de me gusta y muchos usuarios creyendo que era real; incluidas varias celebridades y personalidades de alto perfil en las redes sociales.
La modelo Chrissy Teigen, por ejemplo, tuiteó: «Pensé que la chaqueta acolchada del Papa era real y no lo pensé dos veces. De ninguna manera voy a sobrevivir al futuro de la tecnología».
David Holz —quien también cofundó la firma de software Leap Motion— fundó Midjourney en julio de 2022 y utiliza IA para generar imágenes utilizando descripciones textuales proporcionadas por los usuarios, similar a DALL-E de OpenAI.
La herramienta ha arrasado en las redes sociales. De hecho, varios usuarios han generado imágenes falsas del expresidente Donald Trump, el CEO de Tesla, Elon Musk, y el presidente Vladimir Putin.
Eliot Higgins, el fundador del grupo de periodismo de investigación Bellingcat, publicó un hilo en Twitter de 50 imágenes realistas de Trump siendo arrestado; todas se generaron con Midjourney.
Higgins luego le dijo a Buzzfeed que se le prohibió usar la plataforma debido a las imágenes. La palabra «arrestado» ahora también está prohibida en Midjourney, según Buzzfeed.
Midjourney no respondió de inmediato a la solicitud de Insider de comentarios sobre las imágenes, realizada fuera del horario comercial normal.
Signos reveladores de que la imagen del Papa Francisco fue creada con IA
Henry Ajder, un experto en IA y presentador que forma parte del Consejo Asesor Europeo de Reality Labs de Meta, le dijo a Insider que si bien la imagen del Papa Francisco parece realista al principio, hay signos reveladores de que es falso.
Dijo que la mano que sostiene la taza de café parece ser un «desastre deformado» y parece que ha sido «aplastada». Las gafas del Papa Francisco tampoco están «renderizadas correctamente», ya que hay una inconsistencia con las sombras en la cara, explicó Ajder.
«Una de las cosas que se está volviendo notable con la implementación de la versión cinco de Midjourney es que muchas de estas imágenes tienen un [aspecto] hiperrealista plasticoso muy distintivo, y parece un filtro», agregó y señaló que estos factores pueden cambiar a medida que se desarrolla la plataforma.
Ajder dijo que el progreso de Midjourney desde que se fundó ha sido «sorprendente», ya que la compañía ya lanzó su quinta versión del programa; sin embargo, advirtió que puede crear informes de noticias e imágenes de políticos falsos muy «convincentes».
Señaló que las empresas se encuentran en un «entorno competitivo de carrera armamentista», en un intento de ser vistas como las «primeras en moverse» y «capturar participación de mercado». Esto puede dar lugar a que se dejen de lado las preocupaciones sobre la seguridad o la ética.
Ajder dijo que ha trabajado con Partnership in AI —una organización sin fines de lucro que promueve el uso responsable de la IA— para establecer pautas para las personas que usan herramientas de IA, así como para los creadores de la herramienta.
Esto incluye la creación de un «mecanismo de divulgación directa o indirecta», de modo que los usuarios reciban alertas cuando interactúen con un contenido generado por IA. Esto podría incluir una marca de agua o un disclaimer automático para videos.
