Las publicaciones de deepfakes de Kamala Harris por parte de Elon Musk podrían no ser aceptadas bajo la nueva ley de California
La nueva ley de California podría causar problemas legales a los usuarios de redes sociales que publiquen o reenvíen deepfakes de inteligencia artificial que engañen a los votantes sobre las próximas elecciones. El gobernador Gavin Newsom sugiere que la AB 2839, que entró en vigor inmediatamente después de que la firmó el martes, podría usarse para frenar los retuits de Elon Musk, entre otros que difunden contenido engañoso.
“Acabo de firmar un proyecto de ley para hacer que esto sea ilegal en el estado de California”, dijo Newsom en un tuit, haciendo referencia a una falsificación de inteligencia artificial que Musk publicó a principios de este año, en la que aparecía como si Kamala Harris se llamara a sí misma una candidata incompetente y una contratación por diversidad (no lo hizo).
“Ya no se puede distribuir a sabiendas un anuncio u otras comunicaciones electorales que contengan contenido materialmente engañoso, incluidas las falsificaciones profundas”, dijo Newsom más adelante en el tuit.
La nueva ley de California apunta a los distribuidores de deepfakes de IA, específicamente si la publicación se parece a un candidato en las boletas electorales de California y el autor sabe que es falso, lo que causará confusión. La AB 2839 es única porque no persigue a los creadores de deepfakes de IA ni a las plataformas en las que aparecen, sino a quienes los difunden maliciosamente. Cualquiera que vea un deepfake de IA en las redes sociales ahora puede solicitar una medida cautelar, lo que significa que un juez podría ordenar al autor que lo elimine o emitir una indemnización monetaria contra la persona que lo publicó.
Se trata de una de las leyes más estrictas de Estados Unidos contra las falsificaciones de inteligencia artificial relacionadas con las elecciones de cara a las elecciones presidenciales de 2024.
Un patrocinador que ayudó a redactar la AB 2839, la Iniciativa de California para la Tecnología y la Democracia (CITED), le dice a TechCrunch que esta ley puede afectar a cualquier usuario de redes sociales, no solo a Musk, que publique o reenvíe falsificaciones de inteligencia artificial relacionadas con las elecciones con malicia. “Malicia” significa que el autor sabía que era falso y confundiría a los votantes.
“(AB 2839) persigue a los creadores o distribuidores de contenido, si el contenido se encuentra dentro de los términos de la ley”, dijo la directora de políticas de CITED, Leora Gershenzon, en una entrevista con TechCrunch. “Se trata de contenido materialmente engañoso que se distribuye sabiendo que es falso, con un desprecio temerario por la verdad, y es probable que influya en las elecciones”.
Cuando se le preguntó si Musk podría enfrentar acciones legales por volver a publicar deepfakes, Newsom no descartó la posibilidad.
“Creo que el señor Musk no entendió el mensaje final”, dijo el gobernador Newsom en una conferencia de prensa el jueves. “La parodia sigue vigente en California, pero las falsificaciones y las manipulaciones de las elecciones dañan la democracia”.
En concreto, la nueva ley prohíbe los deepfakes de inteligencia artificial relacionados con las elecciones en televisión, radio, teléfono, mensajes de texto o cualquier comunicación “distribuida a través de Internet”. El proyecto de ley no se limita a los anuncios de campañas políticas, en los que se han centrado otras leyes, sino también a las publicaciones de la gente común. La AB 2839 crea un período de tiempo (120 días antes de una elección en California y 60 días después) en el que hay reglas más estrictas sobre lo que se puede y no se puede publicar sobre candidatos políticos en las redes sociales.
“El objetivo real no es ni la indemnización por daños ni la medida cautelar”, dijo Gershenzon. “Se trata simplemente de que la gente no lo haga en primer lugar. Ese sería realmente el mejor resultado… que estos deepfakes no afecten fraudulentamente nuestras elecciones”.
Esta ley se aplica a los candidatos a las elecciones estatales y locales de California, así como a los candidatos federales que aparecerán en la boleta electoral de California, como Kamala Harris y Donald Trump. Si hay una exención de responsabilidad obvia en una falsificación de inteligencia artificial, que indique que ha sido alterada digitalmente, entonces la AB 2839 no se aplica a ella.
Musk ya está tratando de poner a prueba la voluntad de hacer cumplir la nueva ley de California. Musk volvió a publicar el martes una imagen falsa que se parece a Kamala Harris a la que Newsom hizo referencia en su tuit, acumulando más de 31 millones de impresiones en X. Musk también volvió a publicar el miércoles una imagen falsa de IA que se parece al gobernador Newsom, que recibió más de 7 millones de impresiones.
Musk y X enfrentan otros problemas legales relacionados con la moderación. Por ejemplo, un juez de la Corte Suprema de Brasil multó el jueves a X Corporation por eludir la prohibición del país sobre la plataforma. El juez dijo anteriormente que el fracaso de X en combatir las noticias falsas y el discurso de odio está dañando la democracia de Brasil.