OpenAI dice que más actores cibernéticos utilizan su plataforma para alterar las elecciones

OpenAI se está convirtiendo cada vez más en la plataforma preferida de los actores cibernéticos que buscan influir en las elecciones democráticas en todo el mundo.

En un informe de 54 páginas publicado el miércoles, el creador de ChatGPT dijo que ha interrumpido “más de 20 operaciones y redes engañosas de todo el mundo que intentaron utilizar nuestros modelos”. Las amenazas iban desde artículos de sitios web generados por IA hasta publicaciones en redes sociales de cuentas falsas.

La compañía dijo que su actualización sobre “influencia y operaciones cibernéticas” tenía como objetivo proporcionar una “instantánea” de lo que está viendo e identificar “un conjunto inicial de tendencias que creemos que pueden informar el debate sobre cómo la IA encaja en el panorama de amenazas más amplio”.

El informe de OpenAI llega menos de un mes antes de las elecciones presidenciales de Estados Unidos. Más allá de Estados Unidos, es un año importante para las elecciones en todo el mundo, con contiendas que afectan a más de 4 mil millones de personas en más de 40 países. El aumento del contenido generado por IA ha generado graves preocupaciones sobre la desinformación relacionada con las elecciones, y la cantidad de deepfakes que se han creado ha aumentado un 900 % año tras año, según datos de Clarity, una empresa de aprendizaje automático.

La desinformación en las elecciones no es un fenómeno nuevo. Ha sido un problema importante que se remonta a la campaña presidencial estadounidense de 2016, cuando los actores rusos encontraron formas fáciles y económicas de difundir contenido falso en las plataformas sociales. En 2020, las redes sociales se vieron inundadas de información errónea sobre las vacunas Covid y el fraude electoral.

Las preocupaciones actuales de los legisladores se centran más en el aumento de la IA generativa, que despegó a finales de 2022 con el lanzamiento de ChatGPT y ahora está siendo adoptada por empresas de todos los tamaños.

OpenAI escribió en su informe que los usos de la IA relacionados con las elecciones “varían en complejidad desde simples solicitudes de generación de contenido hasta esfuerzos complejos y de múltiples etapas para analizar y responder a publicaciones en las redes sociales”. El contenido de las redes sociales se relacionaba principalmente con las elecciones en Estados Unidos y Ruanda, y en menor medida, con las elecciones en India y la UE, dijo OpenAI.

A finales de agosto, una operación iraní utilizó los productos de OpenAI para generar “artículos extensos” y comentarios en las redes sociales sobre las elecciones estadounidenses, así como otros temas, pero la compañía dijo que la mayoría de las publicaciones identificadas recibieron pocos o ningún me gusta, acciones y comentarios. comentarios. En julio, la empresa prohibió las cuentas de ChatGPT en Ruanda que publicaban comentarios relacionados con las elecciones en X. Y en mayo, una empresa israelí utilizó ChatGPT para generar comentarios en las redes sociales sobre las elecciones en la India. OpenAI escribió que pudo abordar el caso en menos de 24 horas.

En junio, OpenAI abordó una operación encubierta que utilizaba sus productos para generar comentarios sobre las elecciones al Parlamento Europeo en Francia y la política en Estados Unidos, Alemania, Italia y Polonia. La compañía dijo que si bien la mayoría de las publicaciones en las redes sociales que identificó recibieron pocos me gusta o se compartieron, algunas personas reales respondieron a las publicaciones generadas por IA.

Ninguna de las operaciones relacionadas con las elecciones logró atraer “compromiso viral” o crear “audiencias sostenidas” mediante el uso de ChatGPT y otras herramientas de OpenAI, escribió la compañía.

MIRAR: Las perspectivas electorales podrían ser positivas o muy negativas para China