Razonamiento guiado: un nuevo enfoque para mejorar la inteligencia de sistemas multiagente

Gregor Betz de Logikon AI, KIT presenta el razonamiento guiado. Un sistema con más de un agente es un sistema de razonamiento guiado si un agente, llamado guía, trabaja principalmente con los otros agentes para mejorar su razonamiento. Un sistema de múltiples agentes con un agente guía y al menos un agente cliente se denomina sistema de razonamiento guiado si el guía trabaja con los clientes de una manera planificada y principal para lograr que razonen de una manera que siga un cierto método M. Una forma de describir el método de razonamiento M es con estándares y criterios, ejemplos claros o reglas e instrucciones detalladas. Los métodos de razonamiento guiado incluyen un entrenador que ayuda a una unidad de negocios a hacer un análisis FODA, un niño que ayuda a su abuela a resolver un problema de crucigramas y un diálogo socrático.

A primera vista, el argumento a favor del razonamiento guiado por IA se basa en estos supuestos:

1. La IA debería dar las respuestas correctas y explicarlas.
2. Los sistemas de IA sólo pueden explicar honestamente sus respuestas si se basan en un pensamiento claro.
3. El razonamiento incorrecto dificulta que los sistemas de IA den las respuestas correctas.
4. Los grandes expertos en un campo no siempre saben cómo utilizar técnicas de pensamiento avanzadas.

El principio de especialización cognitiva dice que para crear sistemas de IA que puedan explicarse y sean precisos, se deben incorporar más expertos en IA para métodos de razonamiento (especialistas en metarrazonamiento) que puedan trabajar con expertos en otros dominios. El razonamiento guiado es una buena técnica de diseño para aplicaciones avanzadas de GenAI porque facilita la división del trabajo cognitivo.

La forma estándar de Logikon de utilizar el razonamiento guiado menciona que cuando los agentes del cliente se enfrentan a un problema de decisión, se les dice que examinen y evalúen cuidadosamente los pros y los contras.

• Paso 1: El método de razonamiento guiado se inicia cuando se envía la consulta del usuario. Esto puede hacerse inmediatamente cuando el modelo del cliente llama a un método de uso de herramientas o si el usuario lo solicita específicamente.
• Paso 2: El cliente presenta el enunciado del problema al guía. El papel fundamental del guía es organizar meticulosamente los pasos de pensamiento que se utilizarán para encontrar la respuesta, proporcionando una estructura clara al proceso. Paso 3: El guía puede hacerle preguntas al cliente.
• Paso 4: El guía obtiene las respuestas del cliente.
• Paso 5: Las respuestas se procesan y revisan más a fondo.

El guía establece las reglas para el proceso de pensamiento y gestiona el flujo de trabajo, ya sea de forma estática o dinámica. El guía reescribe el problema de forma diferente después de obtener el enunciado del problema (en el paso 2). Los pasos 3 y 4 permiten al cliente responder a los diferentes enunciados del problema sin depender uno del otro. Esto se denomina “cadena de pensamiento”. El guía compara las posibles respuestas para determinar si el cliente entiende el problema y qué debería decir en respuesta. Se le da al cliente una explicación escrita correctamente y un resumen del proceso de pensamiento (protocolo). Si la IA no ha desarrollado líneas de razonamiento consistentes y respuestas a formulaciones de problemas similares, el cliente puede responder a la primera pregunta del usuario.

Después de recibir el enunciado del problema, el guía le indica al cliente que piense en diferentes maneras de resolverlo y enumera los pros y los contras de cada solución posible. El guía utiliza el rastro de pensamiento realizado de esta manera como punto de partida para un análisis posterior. En particular, a través de una serie de pasos que se describen a continuación, crea un mapa de argumentos informal que aclara los diferentes argumentos presentados durante la lluvia de ideas y muestra cómo se conectan con las opciones de respuesta en competencia, directa o indirectamente.

• Una sola afirmación muestra cada caso para el mapa de argumentos informales.
• A continuación, el guía utiliza el mapa de argumentos para que el cliente evalúe los argumentos de forma planificada.
• El cliente tiene la tarea de evaluar la persuasión de la reclamación C examinando todos los pros y contras que se han considerado razonables.
• Esta revisión hacia atrás, argumento por argumento, comienza con los nodos hoja del mapa de argumentos y finaliza con una verificación de cuán plausibles son las afirmaciones principales.

La figura anterior muestra los pasos que siguen los usuarios para armar un argumento controvertido como un mapa de argumentos difusos. Así es como Logikon normalmente realiza el razonamiento directo sopesando los pros y los contras. Cada paso del programa Python de Logikon se corresponde con una clase de analista diferente. Las clases de analista utilizan principalmente procesos internos de LLM para crear los artefactos lógicos necesarios.

• IssueBuilder toma el rastro de razonamiento del pensamiento aproximado y, con la ayuda de LLM expertos, describe el problema principal del que trata el texto, que generalmente es una nueva forma de plantear el problema original.
• El ProsConsBuilder utiliza los rastros de razonamiento para crear una lista de pros y contras con múltiples raíces que abordan el problema principal que ya se identificó. Este método consta de varios pasos: primero, del rastro de razonamiento se extraen todas las afirmaciones de razones relevantes para el problema, sin importar su valencia. En el segundo paso, estas razones se combinan en una o más listas de pros y contras. Este es el único paso en el que se encuentran y se agregan las afirmaciones de raíz central. Las listas finales de pros y contras se verifican para detectar duplicados y su minuciosidad (según las razones dadas al principio) y se modifican si es necesario.
• RelevanceNetworkBuilder utiliza un conjunto de plantillas de indicaciones para determinar la probabilidad de que dos enunciados de razones sean relevantes entre sí y entre cualquier par de enunciados de razones y afirmaciones principales. Esto crea un gráfico completo de todos los enunciados de razones y afirmaciones principales, con relaciones ponderadas de apoyo y ataque. (Se cree que dos afirmaciones principales se contradicen entre sí al máximo).
• FuzzyArgmapBuilder toma el gráfico completo y utiliza un método de ramificación óptimo para crear un árbol que conecta todos los nodos de argumentos con los bordes más fuertes. Luego agrega más bordes con pesos superiores a un cierto nivel. Este proceso da como resultado un mapa de argumentos difusos, que luego se exporta en varios formatos útiles. El propósito de FuzzyArgmapBuilder es proporcionar una representación completa y visualmente intuitiva del proceso de argumentación, lo que facilita su comprensión y análisis.

Echa un vistazo a la Papel y GitHub. Todo el crédito por esta investigación corresponde a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y LinkedInÚnete a nuestro Canal de Telegram. Si te gusta nuestro trabajo, te encantará nuestro hoja informativa..

No olvides unirte a nuestro Subreddit con más de 50 000 millones de usuarios

Dhanshree Shenwai es ingeniera informática y tiene una amplia experiencia en empresas de tecnología financiera que abarcan los ámbitos financiero, de tarjetas y pagos y bancario, y está muy interesada en las aplicaciones de la inteligencia artificial. Le entusiasma explorar nuevas tecnologías y avances en el cambiante mundo actual, facilitando la vida de todos.