Cómo GoGuardian usa Databricks para reducir los costos de ML un 90% mientras protege a los estudiantes de K–12

GoGuardian se fundó con la convicción de que la tecnología, aplicada con criterio, puede proteger a los niños y apoyar a los educadores. Su plataforma sirve a aproximadamente la mitad de los estudiantes de K–12 en EE. UU., ejecutando alertas de prevención del suicidio, mitigación de distracciones y filtrado de contenido en millones de dispositivos inscritos. En el centro de esta misión se encuentra una operación intensiva en IA que procesa entre 4 y 6 mil millones de inferencias en un día escolar típico: clasificando sitios web, detectando intentos de eludir filtros y generando “Smart Alerts” para actividades de alto riesgo. La escala es enorme y también lo es la responsabilidad: los errores en la salida del modelo pueden significar advertencias perdidas sobre estudiantes en crisis.

Antes de migrar a Databricks, la infraestructura de IA de GoGuardian estaba distribuida en múltiples servicios de AWS aislados. La gestión de datos, el desarrollo de ML, el despliegue de modelos y el monitoreo vivían en sistemas separados sin una capa de gobernanza común. Esta fragmentación creó dos problemas que se agravaban mutuamente: la carga operativa era elevada porque los ingenieros tenían que gestionar y escalar manualmente los clústeres en la nube, y el cumplimiento de COPPA y FERPA era difícil de aplicar de forma coherente en todo el flujo de datos. El equipo también enfrentaba cuellos de botella en el etiquetado de datos para casos de uso sensibles como la detección de conductas autolesivas, donde la precisión y la auditabilidad eran innegociables.

GoGuardian reconstruyó su infraestructura de datos e IA sobre la plataforma Databricks. La migración comenzó con Delta Lake para aportar estructura y fiabilidad a los datos almacenados en AWS S3, seguida de Databricks Lakeflow para automatizar la ingesta, transformación y validación en tiempo real, reemplazando completamente el trabajo manual de tuberías. Una integración con dbt aplicó lógica de hash basada en SQL para eliminar información de identificación personal de los datos de entrenamiento. Para el despliegue de modelos, el equipo pasó de clústeres permanentes en la nube a cómputo sin servidor de Databricks, eliminando la gestión manual de clústeres. MLflow proporcionó seguimiento del ciclo de vida de extremo a extremo, y Databricks Model Serving escaló la inferencia para satisfacer la demanda en tiempo real sin infraestructura dedicada. Unity Catalog impuso una gobernanza centralizada en todo el conjunto de datos, aplicando controles de acceso y haciendo auditable el cumplimiento de privacidad.

El resultado más destacado fue una reducción del 90% en los costos operativos del modelo Delphi, el modelo principal de clasificación de sitios web de la empresa que aplica políticas de contenido específicas de cada escuela. En los casos de uso clave de ML, los costos operativos cayeron hasta un 50%. Las escuelas que utilizan las soluciones de filtrado de GoGuardian reportaron una caída del 62% en el uso inapropiado de dispositivos. En el ámbito de la seguridad estudiantil, la IA ahora prioriza los registros con mayor probabilidad de indicar violencia o autolesiones, reduciendo el volumen que requiere revisión humana en más del 95%, de aproximadamente 1 millón de registros a entre 35 000 y 45 000, lo que acelera drásticamente la velocidad de intervención de los equipos de seguridad.

Con una plataforma unificada y rentable, GoGuardian está ampliando sus capacidades hacia la próxima generación de herramientas de protección estudiantil: filtros de confianza en video para evaluar contenido educativo, detección de chatbots para detectar conversaciones en línea peligrosas y bloqueos predictivos de sitios de juegos sincronizados con el horario escolar. El director de Datos e IA, Manoj Rawat, señaló que el ahorro de costos liberó capacidad de ingenieria para construir una nueva herramienta de etiquetado con IA generativa, un desarrollo que la arquitectura anterior habría bloqueado. La trayectoria de GoGuardian demuestra cómo una plataforma de inteligencia de datos unificada puede reducir simultáneamente los costos operativos y elevar la calidad de la IA crítica para la seguridad a escala.