ServiceNow lanzó su propio modelo de lenguaje grande (LLM, por sus siglas en inglés) específico de dominio, Now LLM, creado para la empresa y optimizado para la productividad y la privacidad de los datos.
La compañía de flujos de trabajo digitales liberó el miércoles la segunda y última gran actualización en el año de su plataforma Now, llamada Vancouver —es la tercera vez que usa un nombre canadiense, después de Calgary y Quebec—. En marzo pasado lanzó Utah.
Su principal novedad es el debut de Now Assist, una familia de soluciones basadas en inteligencia artificial generativa (Gen AI), para IT Service Management (ITSM), Customer Service Management (CSM), HR Service Delivery (HRSD) y Creator.
El objetivo de Now LLM es impulsar Now Assist que ofrece funciones como resumen de casos, incidentes y chat de agentes, agente virtual, así como capacidades de búsqueda que pueden aplicarse a diversos escenarios y funciones.
El presidente y COO de ServiceNow, CJ Desai, dijo en un comunicado que con Vancouver “estamos combinando la solidez de Now Platform con las nuevas funciones de Gen AI para llevar la inteligencia artificial a todos los rincones empresariales y crear un catalizador de productividad y mejores experiencias empresariales”.
Detrás de Now LLM está Nvidia
ServiceNow dijo que las funciones de búsqueda de Now Assist funcionan con Now LLM, que se basa en el Nvidia NeMo framework, y se ofrecen mediante el software Nvidia Triton Inference Server.
Ambos forman parte de la plataforma de inteligencia artificial del proveedor de unidades de procesamiento de gráficos. Las nuevas capacidades surgen a partir de la asociación que en mayo pasado anunciaron ambas compañías para desarrollar Gen AI para las IT empresariales.
Los LLM específicos de dominio, detalló la empresa, están diseñados para sus flujos de trabajo, casos de uso y procesos, además de que están configurados para agentes, empleados, clientes y administradores de IT que utilizan su plataforma.
Esto permite una excelente experiencia para el usuario final, un tiempo de comercialización sin precedentes y altos niveles de transparencia y gobernanza, agregó.
Pero la estrategia de Gen AI de ServiceNow ya ofrecía un soporte LLM amplio y seguro también a través de LLM de propósito general, que brindan flexibilidad al cliente.
Actualmente soporta Microsoft Azure OpenAI Service LLM y OpenAI API.
