La ley AB 2839 de California, recién firmada, impone sanciones a quienes distribuyan deepfakes electorales engañosos. Las recientes publicaciones de Elon Musk en redes sociales podrían estar en la mira de esta normativa.

El estado de California ha implementado una nueva ley que podría cambiar las reglas del juego para las redes sociales y sus usuarios en relación con la difusión de deepfakes, especialmente aquellos relacionados con las elecciones. La ley AB 2839, firmada por el gobernador Gavin Newsom, tiene como objetivo limitar la distribución de contenido creado por inteligencia artificial (IA) que engañe a los votantes sobre candidatos políticos.

La normativa llega en un momento en el que las tecnologías de deepfake están siendo cada vez más utilizadas para manipular videos y audios de figuras públicas, en muchos casos con la intención de desinformar. En concreto, la ley prohíbe la distribución de deepfakes con malicia, es decir, aquellos que se publiquen sabiendo que son falsos y con la intención de confundir a los votantes. Esto incluye publicaciones en redes sociales, donde se ha visto un aumento significativo de contenido manipulado.

Elon Musk en el centro de la controversia.

La firma de esta nueva ley podría tener implicaciones directas para figuras influyentes en las redes sociales como Elon Musk. El CEO de X (anteriormente Twitter) ha sido señalado en repetidas ocasiones por la difusión de contenido engañoso, incluido un deepfake de Kamala Harris, vicepresidenta de Estados Unidos. En este video, Harris aparentemente se describía a sí misma como una «contratación por diversidad» e «incompetente», lo cual no era cierto.

El gobernador Newsom hizo referencia directa a este incidente en un tuit reciente en el que anunció la entrada en vigor de la nueva ley. «Ya no se puede distribuir a sabiendas un anuncio u otras comunicaciones electorales que contengan contenido materialmente engañoso», afirmó Newsom, en clara alusión a las publicaciones de Musk.

La ley AB 2839: ¿A quién afecta?.

La ley AB 2839 es una de las normativas más estrictas de Estados Unidos contra los deepfakes relacionados con las elecciones, y tiene un enfoque particular en los distribuidores de este contenido. A diferencia de otras leyes, la AB 2839 no apunta a los creadores de deepfakes ni a las plataformas en las que se alojan, sino a quienes los comparten con malicia, es decir, con pleno conocimiento de su falsedad y con el objetivo de influir en la opinión pública.

Esta ley afecta a cualquier usuario de redes sociales que difunda contenido manipulado con la intención de engañar, incluyendo tanto a personas comunes como a figuras públicas. Según Leora Gershenzon, directora de políticas de la Iniciativa de California para la Tecnología y la Democracia (CITED), la ley podría aplicarse a cualquier usuario que comparta deepfakes falsos, independientemente de su estatus o influencia. Esto significa que Elon Musk, con su enorme alcance en X, no estaría exento de las consecuencias legales si se determina que sus publicaciones caen bajo los términos de la AB 2839.

Las implicaciones de la nueva ley.

Uno de los aspectos más destacados de la AB 2839 es que cualquier persona que vea un deepfake de IA en redes sociales puede solicitar una medida cautelar. Esto permitiría que un juez ordene al autor eliminar el contenido o incluso imponer sanciones económicas. Esta medida es vista como una herramienta clave para evitar la propagación de información falsa durante los períodos electorales, donde la desinformación puede tener un impacto significativo en la democracia.

La ley también crea una «ventana» de tiempo en la que se aplicarán reglas más estrictas sobre lo que se puede y no se puede publicar en redes sociales. Esta ventana se extiende a 120 días antes de las elecciones en California y 60 días después de que se celebren. Durante este período, la ley AB 2839 establece criterios claros sobre lo que se considera contenido engañoso relacionado con los candidatos, incluyendo aquellos que se presentan a cargos estatales, locales o federales en las boletas de California.

¿Parodia o manipulación electoral?.

El debate sobre lo que constituye un deepfake y lo que se puede considerar parodia sigue siendo un tema candente. Durante una reciente conferencia de prensa, el gobernador Newsom dejó en claro que la ley no busca limitar la libertad de expresión ni la sátira política, sino que tiene como objetivo detener la manipulación deliberada de los votantes. «La parodia sigue vigente en California, pero las falsificaciones y las manipulaciones de las elecciones dañan la democracia», señaló Newsom.

La respuesta de Elon Musk.

Hasta el momento, Elon Musk no ha emitido una declaración oficial sobre la ley AB 2839 ni sobre las publicaciones de deepfakes que lo involucran. Sin embargo, el martes, Musk volvió a publicar una imagen falsa relacionada con Kamala Harris, y el miércoles compartió otra imagen de IA manipulada que representaba al propio gobernador Newsom. Estas publicaciones acumulaban millones de visualizaciones en X, lo que refuerza la preocupación de las autoridades sobre el impacto de las redes sociales en la desinformación electoral.

Un precedente para futuras elecciones.

La AB 2839 es vista como un modelo para otras jurisdicciones que también enfrentan desafíos en la lucha contra los deepfakes y la desinformación en las elecciones. A medida que se acercan las elecciones presidenciales de 2024, la nueva ley de California podría tener un impacto significativo en cómo las plataformas de redes sociales y sus usuarios manejan el contenido manipulado.

Gershenzon destacó que el objetivo principal de la ley es evitar que los deepfakes electorales lleguen a influir en los resultados de las elecciones. «El mejor resultado sería que la gente no publicara este tipo de contenido en primer lugar», dijo. Sin embargo, si la ley demuestra ser efectiva, podría sentar un precedente para nuevas regulaciones en todo Estados Unidos.

La nueva ley AB 2839 de California es un paso importante en la lucha contra la desinformación electoral, especialmente en el ámbito de las redes sociales. Mientras figuras públicas como Elon Musk siguen siendo objeto de escrutinio por la difusión de deepfakes, la normativa busca proteger el proceso democrático al imponer sanciones a quienes manipulan contenido con la intención de engañar a los votantes. A medida que se implementa esta ley, los próximos meses revelarán si será efectiva en su misión de frenar la propagación de deepfakes y preservar la integridad de las elecciones en California.