Voyage AI está construyendo herramientas RAG para que la IA alucine menos

La IA tiende a inventar cosas. Esto no resulta atractivo para cualquiera que lo utilice con regularidad, pero especialmente para las empresas, cuyos resultados falaces podrían perjudicar sus resultados. La mitad de los trabajadores que respondieron a una encuesta reciente de Salesforce dicen que les preocupa que las respuestas de los sistemas generativos impulsados ​​por IA de su empresa sean inexactas.

Si bien ninguna técnica puede resolver estas “alucinaciones”, algunas pueden ayudar. Por ejemplo, la generación de recuperación aumentada, o RAG, combina un modelo de IA con una base de conocimientos para proporcionar al modelo información complementaria antes de que responda, lo que sirve como una especie de mecanismo de verificación de hechos.

Se han construido empresas enteras sobre RAG, gracias a la enorme demanda de una IA más confiable. Voyage AI es uno de ellos. Fundada por el profesor de Stanford Tengyu Ma en 2023, Voyage impulsa los sistemas RAG para empresas como Harvey, Vanta, Replit y SK Telecom.

“Voyage tiene la misión de mejorar la precisión y eficiencia de la búsqueda y recuperación en la IA empresarial”, dijo Ma a TechCrunch en una entrevista. “Las soluciones de viaje están adaptadas a dominios específicos, como codificación, finanzas, aplicaciones legales y multilingües, y adaptadas a los datos de una empresa”.

Para poner en marcha los sistemas RAG, Voyage entrena modelos de IA para convertir texto, documentos, archivos PDF y otras formas de datos en representaciones numéricas llamadas incrustaciones vectoriales. Las incrustaciones capturan el significado y las relaciones entre diferentes puntos de datos en un formato compacto, lo que las hace útiles para aplicaciones relacionadas con la búsqueda, como RAG.

Voyage utiliza un tipo particular de incrustación llamada incrustación contextual, que captura no solo el significado semántico de los datos sino también el contexto en el que aparecen los datos. Por ejemplo, dada la palabra “banco” en las oraciones “Me senté en la orilla del río” y “Deposité dinero en el banco”, los modelos integrados de Voyage generarían diferentes vectores para cada instancia de “banco”, reflejando las diferentes significados implícitos en el contexto.

Voyage aloja y licencia sus modelos para uso local, de nube privada o de nube pública, y ajusta sus modelos para los clientes que optan por pagar por este servicio. La empresa no es única en ese sentido (OpenAI también tiene un servicio de integración adaptable), pero Ma afirma que los modelos de Voyage ofrecen un mejor rendimiento a menores costos.

“En RAG, ante una pregunta o consulta, primero recuperamos información relevante de una base de conocimiento no estructurada, como un bibliotecario que busca libros en una biblioteca”, explicó. “Los métodos RAG convencionales a menudo tienen problemas con la pérdida de contexto durante la codificación de la información, lo que provoca fallas en la recuperación de información relevante. Los modelos integrados de Voyage tienen la mejor precisión de recuperación de su clase, lo que se traduce en la calidad de respuesta de un extremo a otro de los sistemas RAG”.

Dar peso a esas afirmaciones audaces es el respaldo del principal rival de OpenAI, Anthropic; un documento de soporte de Anthropic describe los modelos de Voyage como “de última generación”.

“El enfoque de Voyage utiliza incrustaciones de vectores entrenados en los datos de la empresa para proporcionar recuperaciones conscientes del contexto”, dijo Ma, “lo que mejora significativamente la precisión de la recuperación”.

Ma dice que Voyage, con sede en Palo Alto, tiene poco más de 250 clientes. Se negó a responder preguntas sobre ingresos.

En septiembre, Voyage, que cuenta con alrededor de una docena de empleados, cerró una ronda Serie A de 20 millones de dólares liderada por CRV con la participación de Wing VC, Conviction, Snowflake y Databricks. Ma dice que la inyección de efectivo, que eleva el total recaudado por Voyage a 28 millones de dólares, respaldará el lanzamiento de nuevos modelos integrados y permitirá a la empresa duplicar su tamaño.