Cómo TaskUs Reduce el Tiempo de Gestión un 20% con TaskGPT Impulsado por Pinecone

TaskUs lleva más de una década trabajando en IA, prestando servicios de experiencia del cliente externalizada a algunas de las marcas tecnológicas más exigentes del mundo. A medida que la IA generativa comenzó a transformar lo que era posible en el soporte al cliente, TaskUs construyó TaskGPT: una plataforma GenAI modular que permite a los clientes desplegar herramientas de soporte impulsadas por IA personalizadas para sus bases de conocimiento, datos y requisitos de cumplimiento específicos.

El enfoque original almacenaba embeddings en archivos planos y ejecutaba búsquedas de similitud de coseno con Python. Funcionaba en casos de uso en etapas tempranas, pero se deterioraba a medida que crecía la demanda. A medida que más clientes se incorporaban y las capacidades de TaskGPT se expandían, abarcando fintech, sanidad y tecnología de consumo, la necesidad de una base de datos vectorial diseñada específicamente para este propósito quedó clara. La latencia, la escalabilidad y el aislamiento de datos multiinquilino estaban en riesgo con el enfoque de archivos planos.

TaskUs seleccionó Pinecone como base de datos vectorial para los dos productos principales de TaskGPT: AssistAI y Prompto. AssistAI es un asistente de conocimiento basado en RAG entrenado con la documentación y las interacciones históricas de cada cliente, construido con un módulo de ingesta propio llamado ChatBoTify, que divide las bases de conocimiento de los clientes en fragmentos y almacena los embeddings en Pinecone junto con metadatos. Prompto usa Pinecone para la coincidencia de intenciones y recomendaciones, mostrando respuestas relevantes a los agentes de soporte en tiempo real. Los namespaces de Pinecone mantienen los datos de cada cliente aislados. La inferencia de LLM se ejecuta a través de Amazon Bedrock con múltiples opciones de modelos base adaptadas a las necesidades de cada cliente.

En los despliegues de clientes, TaskGPT ha producido una reducción del 20% en el tiempo medio de gestión y una mejora del 5% en las puntuaciones de satisfacción del cliente. Los agentes resuelven los problemas más rápido porque AssistAI muestra la respuesta correcta en segundos, en lugar de requerir una navegación manual por la base de conocimiento.

La arquitectura de TaskUs muestra cómo las empresas de BPO están evolucionando hacia proveedores de plataformas de IA. Al construir TaskGPT sobre Pinecone, ofrecen a los clientes un sistema GenAI de calidad de producción sin la carga de infraestructura, convirtiendo su década de experiencia en CX en un activo de datos que mejora continuamente la calidad de recuperación.