El fandom de Taylor Swift se organiza para combatir la difusión de contenido deepfake no consensuado de la artista. Utilizan tácticas de inundación en redes sociales para proteger su imagen y concienciar sobre el abuso de la inteligencia artificial.

El mundo de la tecnología y el entretenimiento se ha visto sacudido por la reciente inundación de deepfakes no consensuados de Taylor Swift en plataformas de redes sociales. Según TechCrunch, estos deepfakes explícitos han alcanzado una gran viralidad, con un post obteniendo más de 45 millones de vistas, 24.000 reposts y cientos de miles de ‘me gusta’ antes de ser eliminado. Ante este fenómeno, los fans de Taylor Swift, conocidos como «Swifties», han lanzado una campaña masiva para hacer que estos deepfakes sean lo más difíciles de encontrar posible.

La estrategia de los Swifties involucra inundar redes sociales con mensajes de apoyo y hashtags como «PROTECT TAYLOR SWIFT», que ya ha generado más de 36.000 publicaciones. Sin embargo, algunos métodos utilizados por los fans, como alentar a doxear a los usuarios que difundieron los deepfakes, han generado preocupaciones sobre combatir el acoso con más acoso.

Este caso resalta la creciente prevalencia y peligrosidad de los deepfakes, especialmente en el ámbito de la pornografía. Investigaciones de la firma de ciberseguridad Deeptrace indican que aproximadamente el 96% de los deepfakes son pornográficos, afectando principalmente a mujeres. El FBI y las autoridades internacionales ya han emitido advertencias sobre la amenaza de sextorsión relacionada con estos contenidos.

El incidente también pone de relieve la facilidad con que se pueden generar deepfakes utilizando herramientas de IA generativa accesibles. Según se informa, las imágenes de Swift se originaron en un chat de Telegram dedicado a crear imágenes explícitas no consensuadas de mujeres mediante IA. A pesar de que este tipo de contenido viola las políticas de Microsoft, su herramienta de IA, Microsoft Designer, ha sido utilizada para crearlos, revelando lagunas en las herramientas de seguridad.

En el ámbito legislativo, se están haciendo avances para criminalizar los deepfakes no consensuados. Virginia ya ha prohibido la pornografía de venganza deepfake, y la representante Yvette Clarke (D-NY) ha reintroducido el Acta de Responsabilidad DEEPFAKES, propuesta por primera vez en 2019. Aunque hay preocupaciones sobre la dificultad de legislar en los rincones oscuros de la web, algunos opinan que la ley podría establecer al menos un precedente legal de protección contra este abuso.

Este incidente destaca los problemas asociados con el rápido ascenso de la IA: las empresas desarrollan productos sin evaluar adecuadamente los riesgos. Los fans de Taylor Swift están tomando la iniciativa en la lucha por una regulación reflexiva de los productos de IA de rápido desarrollo, pero si se requiere una campaña de acoso masivo contra una celebridad para que los modelos de IA no probados enfrenten algún tipo de escrutinio, entonces eso representa un problema en sí mismo.