Asistente LLM con memoria a largo plazo
Asistente basado en un modelo de lenguaje con memoria persistente y recuperación híbrida —semántica y por palabras clave— sobre un almacén en grafo.
Proyecto personal de aprendizaje y demostración. No es un despliegue para un cliente real.
Memoria
- Conversación
- Extracción de información
- Grafo en Neo4j
Consulta
- Pregunta
- Recuperación híbrida (embeddings + TF-IDF)
- Contexto
- Respuesta del LLM
Esquema conceptual a partir de la descripción del proyecto. Se sustituirá por un diagrama propio.
Visión general
Un proyecto personal de experimentación: un asistente con modelo de lenguaje que conserva memoria a largo plazo y la recupera con una combinación de búsqueda semántica y búsqueda por palabras clave. No es un producto ni un despliegue para un cliente.
Problema y objetivo
Un modelo de lenguaje por sí solo no recuerda conversaciones anteriores, y meter todo el historial en cada petición es caro y poco fiable. El objetivo era explorar una memoria persistente que guarde información relevante y la recupere cuando hace falta, con un diseño que se pueda razonar y evaluar.
Arquitectura técnica
- Almacén de memoria en grafo (Neo4j): la información se guarda como entidades y relaciones, lo que permite recorrer conexiones además de buscar por similitud.
- Recuperación híbrida: se combinan la búsqueda semántica con embeddings, que captura el significado, y la búsqueda por palabras clave con TF-IDF, que acierta con términos exactos y nombres propios.
- Generación: el modelo recibe la pregunta y el contexto recuperado.
Los detalles de implementación (motores, modelos y parámetros concretos) los explico en una conversación.
Tecnologías
Python, Neo4j, embeddings, TF-IDF y un modelo de lenguaje (API).
Decisiones de diseño
- Por qué híbrida. La búsqueda semántica encuentra ideas parecidas aunque cambie el vocabulario, pero puede fallar con identificadores, nombres o cifras exactas; TF-IDF cubre ese hueco.
- Por qué un grafo. Las relaciones entre personas, temas y hechos forman parte de lo que se recuerda, y un grafo las representa de forma natural.
- Qué recordar. No todo lo dicho merece guardarse. Decidir qué se almacena es tan importante como cómo se recupera.
Resultados y evaluación
Las métricas de evaluación aún no están publicadas: no se muestran cifras sin validar.
Relación con proyectos reales
Los mismos principios —recuperación sobre documentos propios, citas a la fuente, permisos y evaluación— son la base del servicio de asistentes de IA con datos privados. Este proyecto es una demostración de capacidad técnica; no sustituye a una evaluación con los datos de cada empresa.