36 Krypton erfuhr, dass Zhongke Shuguang kürzlich ein neues iteratives Upgrade von AI Inference Native Storage FN Neo veröffentlicht hat. Die gemessenen Daten zeigen, dass die Reaktionszeit des ersten Tokens des Modells um 73% reduziert und die Gesamt-Token-Durchsatzkapazität um 150% erhöht wird, was die Wartezeit für die Benutzerinteraktion effektiv reduziert und die gleichzeitige Servicefähigkeit des Systems stärkt. FN Neo verfügt außerdem über eine hohe Zuverlässigkeit von 99,999 % für den unterbrechungsfreien Betrieb von 7 × 24 Stunden KI-Geschäft in Produktionsqualität, und der Mechanismus zur Vermeidung mehrerer Ausfälle gewährleistet eine unterbrechungsfreie Unterbrechung der Geschäftskontinuität. Gleichzeitig ist das Produkt mit dem Mainstream-Reasoning-Framework und der multivariaten Netzwerkumgebung kompatibel. Unternehmen können den Einsatz ohne groß angelegte Transformation des bestehenden Systems abschließen, die Qualität und Effizienz unter der Prämisse der Wiederverwendung der vorhandenen Argumentationsökologie verbessern und die groß angelegte Produktion großer Modelle und Agenten effektiv unterstützen.
Hangtong
Hangtong Technology