La startup noruega Factiverse quiere combatir la desinformación con IA
A raíz de las elecciones presidenciales de Estados Unidos de 2024, un hecho quedó claro: la desinformación proliferó en línea a un ritmo sorprendente, moldeando las opiniones de los estadounidenses sobre cada candidato, así como un conjunto diverso de temas, incluida la salud pública, el cambio climático y la inmigración. La IA generativa, con su capacidad de producir deepfakes en segundos y su propensión a alucinar hechos, no hace más que exacerbar el problema.
Factiverse, una startup que participó en TechCrunch Disrupt Battlefield 200 en octubre, se está preparando para el ataque. La empresa, que ganó el premio al mejor lanzamiento en la categoría de Seguridad, Privacidad y Redes Sociales, ha desarrollado una herramienta de empresa a empresa que proporciona verificación en vivo de texto, video y audio. El argumento de la empresa: ayudar a las empresas a ahorrar horas de investigación y mitigar cualquier riesgo para la reputación o responsabilidad legal.
La startup noruega aún se encuentra en sus primeras etapas; Factiverse ha recaudado alrededor de 1,45 millones de dólares en capital inicial desde su lanzamiento en 2020. Sin embargo, ya ha comenzado a trabajar con socios financieros y de medios, incluido uno de los bancos más grandes de Noruega, según la directora ejecutiva y cofundadora de Factiverse, Maria Amelie.
Factiverse incluso proporcionó verificación de datos en vivo de los debates presidenciales de EE. UU. que fue utilizada por varios socios de medios, dijo Amelie.
“No somos un LLM (modelo de lenguaje grande). Hemos creado un tipo diferente de modelo basado en la recuperación de información”, dijo Amelie a TechCrunch.
Como ex periodista de tecnología y autora publicada, Amelie tiene experiencia de primera mano en la guerra contra los hechos. Trabajó con el cofundador y director de tecnología de Factiverse, Vinay Setty, profesor asociado de aprendizaje automático en la Universidad de Stavanger, para lanzar la startup con un enfoque B2B.
El modelo de Factiverse se basa en datos de alta calidad, bien seleccionados y creíbles de fuentes confiables y verificadores de hechos de todo el mundo, según Amelie, y no en los “datos de comida chatarra” con los que se entrena la IA generativa.
“Entrenamos nuestro modelo de IA para que piense intuitivamente como alguien que tiene mucha experiencia en la investigación de información”, dijo Amelie.
El modelo, que se basa en el aprendizaje automático y el procesamiento del lenguaje natural, es capaz de identificar reclamos y buscar en la web en tiempo real, desde motores de búsqueda como Google y Bing hasta motores de búsqueda de inteligencia artificial como You.com y artículos académicos.
“La parte más divertida es que no te mostramos lo que aparece primero en esos motores de búsqueda”, dijo Amelie. “En realidad, le estamos proponiendo qué fuentes son más, o históricamente han sido, más creíbles sobre su tema… De hecho, analizamos el dominio en correlación con el tema y, a veces, incluso quién se cita en un artículo”.
A día de hoy, Factiverse dice que supera a GPT-4, Mistral 7-b y GPT-3 en su capacidad para identificar afirmaciones dignas de verificación en 114 idiomas. El modelo de la compañía también supera a los LLM a la hora de determinar la veracidad de un reclamo. Amelie dijo que la tasa de éxito de Factiverse es de alrededor del 80% y el objetivo es mejorar a medida que la empresa incorpora nuevos clientes en todo el mundo.
“Tenemos suficiente financiación para ser los mejores, pero estamos aquí en Estados Unidos para convertirnos en los más rápidos”, dijo Amelie a TechCrunch. También señaló que la empresa quiere iniciar una ronda inicial en 2025. “Estamos buscando clientes e inversores que quieran invertir en confianza y credibilidad”, dijo.