36 Krypton se enteró de que recientemente, Zhongke Shuguang lanzó una nueva actualización iterativa del almacenamiento nativo de inferencia de IA FN Neo. Los datos medidos muestran que el tiempo de respuesta del primer token del modelo se reduce en un 73%, y la capacidad de rendimiento total del token aumenta en un 150%, lo que reduce efectivamente el tiempo de espera para la interacción del usuario y fortalece la capacidad de servicio concurrente del sistema. FN neo también tiene un 99,999% de alta confiabilidad para el funcionamiento ininterrumpido de 7 × 24 horas de negocios de IA de grado de producción, y el mecanismo de prevención de fallas múltiples garantiza la continuidad ininterrumpida del negocio de inferencia. Al mismo tiempo, el producto es compatible con el marco de razonamiento convencional y el entorno de red multivariante. Las empresas pueden completar el despliegue sin una transformación a gran escala del sistema existente, mejorar la calidad y la eficiencia bajo la premisa de reutilizar la ecología de razonamiento existente y apoyar eficazmente la producción a gran escala de grandes modelos y agentes.
Hangtong
Hangtong Technology