Esto es lo que es ilegal según las 18 (y contando) nuevas leyes de IA de California
En septiembre, el gobernador de California, Gavin Newsom, consideró 38 proyectos de ley relacionados con la IA, incluido el muy polémico SB 1047, que la legislatura del estado envió a su escritorio para su aprobación final. Vetó la SB 1047 el domingo, pero promulgó más de una docena de otros proyectos de ley sobre AI a lo largo del mes. Estos proyectos de ley intentan abordar los problemas más apremiantes de la inteligencia artificial: desde sistemas futuristas de inteligencia artificial que crean riesgos existenciales, desnudos falsificados a partir de generadores de imágenes de inteligencia artificial, hasta estudios de Hollywood que crean clones de artistas muertos con inteligencia artificial.
“California, hogar de la mayoría de las principales empresas de inteligencia artificial del mundo, está trabajando para aprovechar estas tecnologías transformadoras para ayudar a abordar desafíos apremiantes mientras estudia los riesgos que presentan”, dijo la oficina del gobernador Newsom en un comunicado de prensa.
Hasta ahora, el gobernador Newsom ha promulgado 18 proyectos de ley sobre IA, algunos de los cuales son las leyes de mayor alcance de Estados Unidos sobre IA generativa hasta el momento. Esto es lo que hacen.
Riesgo de IA
El domingo, el gobernador Newsom promulgó la ley SB 896, que requiere que la Oficina de Servicios de Emergencia de California realice análisis de riesgo sobre las amenazas potenciales que plantea la IA generativa. CalOES trabajará con empresas modelo de vanguardia, como OpenAI y Anthropic, para analizar las amenazas potenciales de la IA a la infraestructura estatal crítica, así como las amenazas que podrían provocar eventos con víctimas masivas.
Datos de entrenamiento
Otra ley que Newsom firmó este mes exige que los proveedores de IA generativa revelen los datos utilizados para entrenar sus sistemas de IA en la documentación publicada en su sitio web. AB 2013 entrará en vigor en 2026 y exige que los proveedores de IA publiquen: las fuentes de sus conjuntos de datos, una descripción de cómo se utilizan los datos, la cantidad de puntos de datos en el conjunto, si se incluyen datos con derechos de autor o con licencia, el período de tiempo. se recogieron los datos, entre otras normas.
Privacidad y sistemas de inteligencia artificial
Newsom también firmó el domingo AB 1008, que aclara que las leyes de privacidad existentes en California también se extienden a los sistemas de inteligencia artificial generativa. Eso significa que si un sistema de inteligencia artificial, como ChatGPT, expone la información personal de alguien (nombre, dirección, datos biométricos), las leyes de privacidad existentes en California limitarán la forma en que las empresas pueden usar y beneficiarse de esos datos.
Educación
Newsom firmó la AB 2876 este mes, que requiere que la Junta de Educación del Estado de California considere la “alfabetización en IA” en sus marcos curriculares y materiales educativos de matemáticas, ciencias e historia. Esto significa que las escuelas de California pueden comenzar a enseñar a los estudiantes los conceptos básicos de cómo funciona la inteligencia artificial, así como las limitaciones, los impactos y las consideraciones éticas del uso de la tecnología.
Otra nueva ley, la SB 1288, exige que los superintendentes de California creen grupos de trabajo para explorar cómo se utiliza la IA en la educación de las escuelas públicas.
Definición de IA
Este mes, Newsom firmó un proyecto de ley que establece una definición uniforme de inteligencia artificial en la ley de California. AB 2885 establece que la inteligencia artificial se define como “un sistema diseñado o basado en una máquina que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir de la información que recibe cómo generar resultados que pueden influir en la inteligencia física o virtual. ambientes”.
Cuidado de la salud
Otro proyecto de ley firmado en septiembre es el AB 3030, que exige que los proveedores de atención médica revelen cuándo utilizan IA generativa para comunicarse con un paciente, específicamente cuando esos mensajes contienen información clínica del paciente.
Mientras tanto, Newsom firmó recientemente la SB 1120, que impone limitaciones sobre cómo los proveedores de servicios de atención médica y las aseguradoras de salud pueden automatizar sus servicios. La ley garantiza que médicos autorizados supervisen el uso de herramientas de inteligencia artificial en estos entornos.
Llamadas automáticas con IA
El viernes pasado, el gobernador Newsom promulgó un proyecto de ley que exige que las llamadas automáticas revelen si han utilizado voces generadas por IA. AB 2905 tiene como objetivo evitar otro caso de llamada automática falsa que se asemeja a la voz de Joe Biden y que confundió a muchos votantes de New Hampshire a principios de este año.
Pornografía falsa
El domingo, Newsom promulgó la ley AB 1831, que amplía el alcance de las leyes existentes sobre pornografía infantil para incluir materia generada por sistemas de inteligencia artificial.
Newsom firmó dos leyes que abordan la creación y difusión de desnudos falsos la semana pasada. La SB 926 criminaliza el acto, haciendo ilegal chantajear a alguien con imágenes de desnudos generadas por IA que se le parezcan.
La SB 981, que también se convirtió en ley el jueves, exige que las plataformas de redes sociales establezcan canales para que los usuarios denuncien desnudos falsos que se parezcan a ellos. Luego, el contenido debe bloquearse temporalmente mientras la plataforma lo investiga y eliminarse permanentemente si se confirma.
Marcas de agua
También el jueves, Newsom firmó un proyecto de ley para ayudar al público a identificar contenido generado por IA. La SB 942 requiere que los sistemas de IA generativa ampliamente utilizados revelen que son generados por IA en los datos de procedencia de su contenido. Por ejemplo, todas las imágenes creadas por Dall-E de OpenAI ahora necesitan una pequeña etiqueta en sus metadatos que indique que fueron generadas por IA.
Muchas empresas de IA ya lo hacen y existen varias herramientas gratuitas que pueden ayudar a las personas a leer estos datos de procedencia y detectar contenido generado por IA.
Falsificaciones electorales
A principios de esta semana, el gobernador de California firmó tres leyes contra las falsificaciones de IA que podrían influir en las elecciones.
Una de las nuevas leyes de California, AB 2655, exige que las grandes plataformas en línea, como Facebook y X, eliminen o etiqueten los deepfakes de IA relacionados con las elecciones, así como que creen canales para denunciar dicho contenido. Los candidatos y funcionarios electos pueden solicitar medidas cautelares si una gran plataforma en línea no cumple con la ley.
Otra ley, AB 2839, apunta a los usuarios de redes sociales que publican o vuelven a publicar falsificaciones de IA que podrían engañar a los votantes sobre las próximas elecciones. La ley entró en vigor inmediatamente el martes y Newsom sugirió que Elon Musk podría correr el riesgo de violarla.
Los anuncios políticos generados por IA ahora requieren revelaciones absolutas según la nueva ley de California, AB 2355. Eso significa que, en el futuro, es posible que Trump no pueda salirse con la suya al publicar falsificaciones de IA de Taylor Swift apoyándolo en Truth Social (ella respaldó a Kamala Harris). La FCC ha propuesto un requisito de divulgación similar a nivel nacional y ya ha declarado ilegales las llamadas automáticas que utilizan voces generadas por IA.
Actores e IA
Dos leyes que Newsom firmó a principios de este mes, que estaba impulsando SAG-AFTRA, el sindicato de actores de cine y televisión más grande del país, crean nuevos estándares para la industria de medios de California. AB 2602 requiere que los estudios obtengan el permiso de un actor antes de crear una réplica generada por IA de su voz o imagen.
Mientras tanto, AB 1836 prohíbe a los estudios crear réplicas digitales de artistas fallecidos sin el consentimiento de sus herederos (por ejemplo, se utilizaron réplicas autorizadas legalmente en las películas recientes de “Alien” y “Star Wars”, así como en otras películas).
SB 1047 es vetada
El gobernador Newsom todavía tiene algunos proyectos de ley relacionados con la IA que decidir antes de finales de septiembre. Sin embargo, la SB 1047 no es una de ellas: el proyecto de ley fue vetado el domingo.
Durante una charla con el director ejecutivo de Salesforce, Marc Benioff, a principios de este mes durante la conferencia Dreamforce 2024, es posible que Newsom se haya quitado el sombrero sobre la SB 1047 y cómo está pensando en regular la industria de la inteligencia artificial de manera más amplia.
“Hay un proyecto de ley que es descomunal en términos de discurso público y conciencia; es esta SB 1047”, dijo Newsom en el escenario este mes. “¿Cuáles son los riesgos demostrables en la IA y cuáles son los riesgos hipotéticos? No puedo resolverlo todo. ¿Qué podemos solucionar? Y ese es el enfoque que estamos adoptando en todo el espectro al respecto”.
Vuelva a consultar este artículo para obtener actualizaciones sobre las leyes de inteligencia artificial que firma el gobernador de California y las que no.