36 Krypton descobriu que, recentemente, Zhongke Shuguang lançou uma nova atualização iterativa do armazenamento nativo de inferência de IA FN Neo. Os dados medidos mostram que o tempo de resposta do primeiro token do modelo é reduzido em 73% e a capacidade geral de rendimento de token é aumentada em 150%, o que reduz efetivamente o tempo de espera para a interação do usuário e fortalece a capacidade de serviço simultâneo do sistema. A FN Neo também tem 99,999% de alta confiabilidade para a operação ininterrupta de 7 × 24 horas de negócios de IA de nível de produção, e o mecanismo de prevenção de múltiplas falhas garante a continuidade ininterrupta dos negócios de inferência. Ao mesmo tempo, o produto é compatível com a estrutura de raciocínio convencional e o ambiente de rede multivariado. As empresas podem concluir a implantação sem transformação em larga escala do sistema existente, melhorar a qualidade e a eficiência sob a premissa de reutilizar a ecologia de raciocínio existente e apoiar efetivamente a produção em larga escala de grandes modelos e agentes.
Hangtong
Hangtong Technology