Principal · desarrollo
NVIDIA fecha el 16 de octubre la publicación de Dory 1.0, un modelo de lenguaje de 4.000 millones de parámetros. Su arquitectura reutiliza un bloque de capas varias veces: permite dedicar más cálculo a cada token con los mismos pesos.
La ficha documenta hasta 256.000 tokens de contexto y varias precisiones numéricas. La utilidad de esta propuesta está en poder comparar distintos presupuestos de cálculo sin cargar otro modelo. Eso no garantiza una respuesta mejor en cualquier tarea: las tablas del proveedor muestran que aumentar las repeticiones no mejora todos los resultados.
Para probarlo hay una condición importante. La propia guía indica que el soporte de vLLM y llama.cpp pasa por propuestas de integración o código específico; los comandos genéricos de una plataforma no acreditan compatibilidad con sus versiones estables.
Las evaluaciones proceden de NVIDIA. No hemos instalado el modelo ni reproducido sus pruebas. El idioma declarado en la ficha es inglés; el rendimiento en español queda por evaluar.
Fuente primaria: https://huggingface.co/nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
La actualidad de la IA también se ve.
Ver el canal
