Una imagen falsa del Papa Francisco vestido con una campera blanca se volvió viral y fue desenmascarada como una deepfake creada por Inteligencia Artificial. La facilidad con que se pueden engañar a millones de personas plantea además cuestiones legales en cuanto a la responsabilidad y el impacto en la privacidad.
Recientemente, el tema de las deepfake ha vuelto a discutirse, luego de las fotografías que rápidamente se convirtieron en virales, y mostraban al Papa Francisco, vestido con un abrigo de la marca Balenciaga, caminando, aparentemente, por las calles del Vaticano. Aunque la noticia, más allá de los comentarios y la sorpresa que generó, fue rápidamente desenmascarada como deepfake, el incidente destaca la facilidad con la que estas “falsas noticias” pueden llegar a difundirse y engañar a millones de personas. [1]
Al consultar con el creador de la (para muchos) simpática imagen, se dejó entrever que la fotografía se había creado a través de una Inteligencia Artificial en constante progreso y actualización, llamada Midjourney, la cual se define en su sitio web como “una investigación independiente que explora nuevos medios de pensamiento y expansión de los poderes de imaginación de la especie humana”. La premisa de esta herramienta es sencilla, uno ingresa un “prompt”, con la mayor cantidad de detalles posibles para que el sistema pueda “comprender” de alguna manera lo que el usuario requiere, y la Inteligencia Artificial crea una imagen acorde ello. Algunos usuarios en redes sociales comentaron que uno de los posibles prompts para hacer algunas de las imágenes que se propagaron en las redes sociales, podría ser “medium-full shot of pope francis wearing puffer jacket, walking on the street, natural afternoon light, shot on Agfa Vista 200, side-angle view, 4k --ar 16:9 --stylize 1000 --v 5".
Una vez explicada la curiosa noticia, es dable poner de resalto el impacto de los deepfakes en la sociedad, y la potencial necesidad de una legislación adecuada para abordar el problema. Como señala el sitio web Internet Justice Society, los deepfakes plantean importantes cuestiones legales en cuanto a la responsabilidad y el impacto en la privacidad de las personas.[2]
Es importante tener en cuenta que el uso de deepfakes, puede causar daños significativos a las personas afectadas, o incluso introducir distintos sentimientos en el colectivo social, que llevarán a tomar (o no) ciertas decisiones en diversos aspectos. A modo ejemplificativo, se puede citar un falso discurso del ex Presidente de los Estados Unidos de Norteamérica, Barack Obama, alertando acerca de los peligros del internet, aunque nunca lo ha hecho. [3] O el caso del actor Morgan Freeman que, con un sorprendente grado de realismo, parecería afirmar que él mismo no es él mismo. [4]
Si bien las deepfakes se han instaurado en la sociedad hace algunos años, quizás lo más llamativo y alertante es la complejidad y autenticidad con la que se elaboran nuevos contenidos audiovisuales que muestran a alguien hacer algo que nunca hizo, y esto es una herramienta un tanto útil en caso de que se pretenda manipular información o engañar a una parte de la sociedad. De este modo, tal como demuestran los ejemplos, un deepfake podría ser utilizado para promover un producto que en realidad no existe o para hacer que una celebridad parezca que está promocionando un producto sin su consentimiento.
La cuestión de la responsabilidad legal en los casos de deepfakes es compleja. En general, la responsabilidad recae en la persona que crea el deepfake, pero también puede recaer en quienes lo difunden o utilizan. Si el deepfake es utilizado para difamar o engañar a alguien, la persona que lo creó podría ser responsable de difamación o fraude. Si el deepfake es utilizado con fines comerciales, la persona que lo creó podría estar violando los derechos de autor o la ley de marcas registradas.
Para abordar estas preocupaciones, podría ser preciso que se establezca una normativa eficaz, aunque también es válido cuestionarse cómo hacerlo, teniendo en cuenta la volatilidad de los medios digitales y lo etéreo del internet. ¿Deberían fijarse distintos estándares de responsabilidad para quien cree o divulgue estas falsedades?
La cuestión de la responsabilidad legal en los casos de deepfakes es compleja. En general, la responsabilidad recae en la persona que crea el deepfake, pero también puede recaer en quienes lo difunden o utilizan. Si el deepfake es utilizado para difamar o engañar a alguien, la persona que lo creó podría ser responsable de difamación o fraude. Si el deepfake es utilizado con fines comerciales, la persona que lo creó podría estar violando los derechos de autor o la ley de marcas registradas.
Sin embargo, es importante tener en cuenta que, en algunos casos, el uso de deepfakes puede ser legal. Por ejemplo, los deepfakes se utilizan en la industria del entretenimiento para crear efectos especiales en películas y televisión, y también pueden ser utilizados con fines educativos o de investigación.
Algunos Estados se han ocupado parcialmente de la regulación de este tema, aunque tal vez sin regulaciones específicas. En los Estados Unidos, se ha avanzado sobre el impacto de este fenómeno en las elecciones, a través del Proyecto de Ley de la Asamblea N.° 730 de California. [5]
En el marco de la Unión Europea, se encuentra en vigente discusión la “AI Act”, por al cual en su artículo N.° 52 prevé que, los usuarios de un sistema de Inteligencia Artificial que genere o manipule imágenes, audio o video con personas existentes, objetos o lugares que falsamente parecerían verdaderos o auténticos, deben establecer que el contenido fue generado artificialmente o manipulado, indicando algunas excepciones.[6]
Por último, cabe destacar el caso de China, que recientemente ha regulado, a través de la “Deep Synthesis Provisions” [7], que distingue las categorías de proveedores y generadores de contenidos, y consumidor final que usa dichos servicios. Así, cualquier contenido que haya sido creado usando Inteligencia Artificial debe ser etiquetado con una marca de agua superpuesta en el video, texto o imagen, indicando que ha sido editado, además de comprometerse a no procesar información personal y cumplir distintas reglas.
En conclusión, los deepfakes plantean importantes cuestiones legales en cuanto a la responsabilidad y el impacto en la privacidad de las personas. Nos encontramos ante tiempos de disrupciones, y en el futuro no tan lejano, no sabremos lo que es real y lo que no, por ello deviene la importancia de las regulaciones y del necesario conocimiento en estas temáticas, teniendo en cuenta la enormidad y el desconocimiento del inmenso mundo digital.
Para culminar, resulta ilustrador un pasaje del escritor Thomas Franklin, de hace ya más de dos siglos (presumiblemente 1787), donde expuso que “La falsedad volará, por así decirlo, en las alas del viento, y llevará sus cuentos a todos los rincones de la tierra; mientras que la verdad se queda atrás; sus pasos, aunque seguros, son lentos y solemnes, y no tiene ni el vigor ni la actividad suficientes para perseguir y alcanzar a su enemigo”.[8] Es decir, una deepfake puede difundirse tan ágilmente debido a su grado de polémica y asombro que cause en la sociedad, pero el desmentir tal evento probablemente signifique un esfuerzo vastamente mayor.
Notas:
[1] https://nypost.com/2023/03/27/pope-francis-in-balenciaga-deepfake-fools-millions-definitely-scary/
[2] https://www.internetjustsociety.org/legal-issues-of-deepfakes
[3] bit.ly/DJU-obama
[6] https://artificialintelligenceact.eu/the-act/
[8] https://jarwillis.com/2021/02/09/the-tale-of-truth-and-lie/
Foto: Antifallen (Instagram) https://www.instagram.com/p/CqOc73dpIWD/