Los equipos de NVIDIA NIM y SGLang anunciaron el 13 de noviembre que el motor abierto de inferencia pasa a ejecutarse dentro de los microservicios NIM certificados.
NVIDIA publica configuraciones probadas para determinadas GPU y modelos. Los equipos que sirven modelos en producción pueden usar esos perfiles como punto de partida para medir latencia y capacidad en su entorno.
El anuncio cubre configuraciones concretas. El rendimiento depende del modelo, el hardware y la carga.
SGLang and NVIDIA NIM: Advancing Enterprise Inference Together
Publicado el 13 nov 2026
Para ampliar en las fuentes.
LMSYS y NVIDIA · SGLang and NVIDIA NIM: Advancing Enterprise Inference Together ↗La actualidad de la IA también se ve.
Encuentra Noticias IA en YouTube.


