Cómo Contextual AI usa Elasticsearch para lograr más del 90% de precisión en RAG a escala

Contextual AI fue fundada para resolver uno de los problemas más persistentes de la IA empresarial: lograr que los modelos de lenguaje de gran tamaño respondan de manera confiable preguntas usando datos propietarios de las empresas. La plataforma de ingeniería de contexto de la compañía se sitúa entre los datos empresariales en bruto y los LLM, proporcionando la recuperación, el reordenamiento y la generación fundamentada necesarios para que los agentes de IA sean lo suficientemente precisos para casos de uso de alto valor en producción. Los clientes despliegan estos agentes para tareas como búsqueda de conocimiento empresarial, análisis de cumplimiento y riesgo, y soporte al cliente, flujos de trabajo donde una precisión del 70% simplemente no es aceptable.

Antes de adoptar Elasticsearch como núcleo de su infraestructura de datos, la mayoría de los despliegues RAG combinaban herramientas de código abierto para gestionar la búsqueda por palabras clave y semántica por separado. Esta fragmentación generaba complejidad de ingeniería, dificultaba el escalado y dejaba la precisión estancada en un rango del 65–75%, incluso después del ajuste fino. Para Contextual AI, construir una plataforma en la que los clientes empresariales pudieran confiar en producción requirió una base diferente, una que pudiera manejar colecciones masivas de documentos multimodales y soportar ambos paradigmas de búsqueda en un solo sistema.

Contextual AI construyó su plataforma sobre Elasticsearch, aprovechando dos capacidades clave. Primero, el soporte de Elastic para búsqueda por palabras clave BM25 y búsqueda por similitud vectorial dentro de la misma base de datos eliminó la necesidad de gestionar servicios separados. La API de búsqueda múltiple permite a la plataforma ejecutar consultas híbridas en una sola llamada, optimizando los flujos de trabajo de ingeniería y reduciendo la latencia. Segundo, la base de datos vectorial de Elastic maneja los repositorios de datos más exigentes de la compañía: su índice individual más grande contiene aproximadamente 14 millones de fragmentos provenientes de más de 60.000 documentos, en su mayoría no estructurados y multimodales: PDFs, archivos HTML y documentos con imágenes, tablas, esquemas y diagramas incrustados. El equipo de investigación también utiliza Elasticsearch para evaluar modelos de embeddings en condiciones reales antes de promoverlos a producción.

El resultado es un umbral de precisión que los competidores no pueden igualar. Los agentes de Contextual AI alcanzan consistentemente más del 90% de precisión en tareas de conocimiento complejas, frente al 65–75% típico del RAG convencional. Una de las ventajas más significativas proviene de la alineación entre investigación y producción: como tanto los equipos de investigación como los de plataforma utilizan Elasticsearch, las técnicas probadas en pruebas se trasladan directamente a los sistemas desplegados sin riesgo de integración. Esta consistencia acelera la iteración y da a los clientes empresariales la confianza de que lo que vieron en la evaluación es lo que obtienen en producción.

El modelo de despliegue de Contextual AI abarca Google Cloud como entorno principal, con capacidad para extenderse a regiones de AWS y Azure, o a entornos locales y de VPC controlados por el cliente para aquellos con requisitos estrictos de cumplimiento de datos. Esta flexibilidad, respaldada por el soporte multinube y las capacidades de alojamiento propio de Elasticsearch, se ha convertido en un diferenciador comercial a medida que más empresas imponen requisitos de soberanía de datos a los proveedores de IA. La compañía considera su arquitectura basada en Elastic como fundacional para escalar hacia despliegues empresariales cada vez más complejos.