Un juez bloquea la nueva ley de inteligencia artificial de California en el caso sobre el deepfake de Kamala Harris y Musk vuelto a publicar

Un juez federal bloqueó una de las nuevas leyes de IA de California el miércoles, menos de dos semanas después de que fuera firmada por el gobernador Gavin Newsom. Poco después de firmar el AB 2839, Newsom sugirió que podría usarse para obligar a Elon Musk a eliminar una falsificación de IA de la vicepresidenta Kamala Harris que había vuelto a publicar (y desatando una pequeña batalla en línea entre los dos). Sin embargo, un juez de California acaba de dictaminar que el estado no puede obligar a las personas a eliminar los deepfakes electorales, al menos no todavía.

AB 2839 apunta a los distribuidores de deepfakes de IA en las redes sociales, específicamente si su publicación se parece a la de un candidato político y el cartel sabe que es una falsificación que puede confundir a los votantes. La ley es única porque no persigue a las plataformas en las que aparecen los deepfakes de IA, sino a quienes los difunden. AB 2839 faculta a los jueces de California a ordenar que los carteles de falsificaciones de IA los eliminen, o potencialmente enfrentar sanciones monetarias.

Pero el autor original de ese deepfake de IA, un usuario de X llamado Christopher Kohls, presentó una demanda para bloquear la nueva ley de California por considerarla inconstitucional apenas un día después de su firma. El abogado de Kohls escribió en una denuncia que el deepfake de Kamala Harris es una sátira que debería estar protegida por la Primera Enmienda.

El miércoles, el juez de distrito de los Estados Unidos, John Méndez, se puso del lado de Kohls. Méndez ordenó una orden judicial preliminar para impedir temporalmente que el fiscal general de California haga cumplir la nueva ley contra Kohls o cualquier otra persona, con la excepción de los mensajes de audio que se incluyen en la AB 2839.

Lea usted mismo lo que dijo el juez Méndez en su decisión:

“Casi cualquier contenido alterado digitalmente, cuando se deja en manos de un individuo arbitrario en Internet, podría considerarse dañino. Por ejemplo, las cifras aproximadas generadas por IA sobre la participación electoral podrían considerarse contenido falso que socava razonablemente la confianza en el resultado de una elección según este estatuto. Por otra parte, muchos ‘Las representaciones “dañinas” cuando se muestran a una variedad de personas pueden no influir en última instancia en las perspectivas electorales ni socavar la confianza en una elección. Como señala persuasivamente el demandante, AB 2839 ‘se basa en varios términos subjetivos y mens rea mal redactados’, lo que tiene el efecto de implicar grandes cantidades de discurso político y constitucionalmente protegido…

(Si bien) un temor bien fundado a un panorama mediático manipulado digitalmente puede estar justificado, este temor no otorga a los legisladores una licencia desenfrenada para arrasar con la larga tradición de crítica, parodia y sátira protegida por la Primera Enmienda. Los videos de YouTube, las publicaciones de Facebook y los tweets de X son los anuncios en los periódicos y las caricaturas políticas de hoy, y la Primera Enmienda protege el derecho de un individuo a hablar independientemente del nuevo medio que puedan adoptar estas críticas. Otras causas de acción legales, como agravios por privacidad, infracción de derechos de autor o difamación, ya brindan recurso a figuras públicas o individuos privados cuya reputación puede verse afectada por representaciones alteradas artificialmente difundidas por satíricos u oportunistas en Internet…

El expediente demuestra que el Estado de California tiene un gran interés en preservar la integridad electoral y abordar el contenido manipulado artificialmente. Sin embargo, el interés de California y las dificultades que enfrenta el Estado son mínimos cuando se comparan con la gravedad de los valores de la Primera Enmienda en juego y las continuas violaciones constitucionales que el demandante y otros creadores de contenido en situaciones similares experimentan mientras se les paraliza el discurso.“

En esencia, dice, la ley es simplemente demasiado amplia tal como está escrita y podría dar lugar a que las autoridades estatales se extralimiten gravemente en lo que se permite o no expresarse.

Debido a que se trata de una orden judicial preliminar, tendremos que esperar y ver si esta ley de California está realmente bloqueada para siempre o sólo por ahora, pero de cualquier manera es poco probable que tenga mucho efecto en las elecciones del próximo mes. AB 2839 es una de las 18 nuevas leyes relacionadas con la IA que Newsom firmó el mes pasado.

Sin embargo, es una gran victoria para el campo de carteles de libertad de expresión de Elon Musk en X. En los días posteriores a que Newsom promulgara la ley AB 2839, Musk y sus aliados habituales publicaron una serie de falsificaciones de IA que pusieron a prueba la nueva ley de California.