Cómo Fujitsu construyó Takane, un LLM japonés para industrias reguladas, con Cohere

Fujitsu da servicio a clientes en más de 100 países como partner de transformación digital, con profundas raíces en sectores que exigen los más altos estándares de privacidad de datos y cumplimiento normativo: finanzas, gobierno, sanidad, derecho y fabricación. A medida que la IA generativa se convirtió en un habilitador clave de la transformación, Fujitsu reconoció que los LLM de propósito general, optimizados principalmente para el inglés, creaban una brecha de precisión fundamental para los clientes empresariales japoneses. En industrias reguladas, incluso errores lingüísticos menores pueden tener consecuencias graves, por lo que la fiabilidad en contextos específicos del japonés no es negociable.

El reto al que se enfrentaba Fujitsu no era simplemente construir un modelo con capacidades en japonés, sino uno suficientemente seguro para industrias que operan bajo estrictos requisitos de gobernanza de datos. Los LLM generales alojados por proveedores de nube pública no podían satisfacer los requisitos de cumplimiento y soberanía de datos de estos clientes. Desarrollar un modelo robusto y escalable desde cero también requería acceso a infraestructura avanzada de entrenamiento, extensos conjuntos de datos en japonés y una profunda experiencia en desarrollo de LLM, capacidades que Fujitsu necesitaba adquirir o conseguir mediante alianzas.

Fujitsu eligió Cohere como partner tecnológico estratégico, aprovechando la serie Cohere Command como arquitectura base. Trabajando con los ingenieros de Cohere, Fujitsu construyó Takane como un modelo personalizado de despliegue privado optimizado para los requisitos lingüísticos y de dominio específicos de los clientes empresariales japoneses. Las capacidades del modelo abarcan el procesamiento de flujos de trabajo de documentos complejos, soporte multilingüe (japonés, alemán, chino, portugués), extracción de datos estructurados en formatos como JSON y CSV, razonamiento matemático y lógico para casos de uso en finanzas e ingeniería, y resumen y análisis de sentimiento de alta precisión para la toma de decisiones empresariales.

El resultado de rendimiento fue significativo: Takane logró una puntuación de clase mundial en el benchmark JGLUE, validando su precisión para los exigentes contextos empresariales en los que operan los clientes de Fujitsu. El modelo está ahora integrado en la infraestructura comercial de IA de Fujitsu, incorporado al servicio Fujitsu Kozuchi AI y ofrecido a través del Fujitsu Data Intelligence PaaS (DI PaaS), haciéndolo accesible a los clientes de Fujitsu en las industrias japonesas más sensibles en materia de privacidad.

La alianza de Takane demuestra cómo una gran empresa global de TI puede acelerar el desarrollo de capacidades de IA combinando su experiencia de dominio y alcance de distribución con la infraestructura de modelos de un partner especializado en IA. En lugar de construir su propio LLM desde cero, Fujitsu usó la experiencia de entrenamiento y los modelos base de Cohere para alcanzar la calidad de producción más rápido de lo que habría permitido un esfuerzo independiente, manteniendo al mismo tiempo la capacidad de despliegue privado y el control total sobre los datos de sus clientes.