Morning Fold
es

vLLM

  1. Nube

    AWS Lambda ya ejecuta inferencia en GPU con 48 invocaciones concurrentes que comparten un modelo por GPU

    Lambda Managed Instances puede ejecutar funciones en GPU de la serie G de EC2, con hasta 48 invocaciones concurrentes que comparten un modelo por GPU. Ofrece imágenes base de vLLM y SGLang y tiempos de espera asíncronos de 90 minutos, facturados al precio de la instancia más un 9,75 %.

  2. IA y LLM

    180B parámetros, 32GB de RAM: llevando al límite la inferencia MoE con Transformers

    El autor compara cómo llama.cpp, vLLM y Transformers ubican y mueven los expertos MoE cuando un modelo no cabe en memoria. Transmitir los expertos desde el SSD mediante Strata se queda a menos de un 6 % de la velocidad de generación de tokens de Strata.

  3. IA y LLM

    Rumble-2-Flash: un modelo de voz abierto de 0.5B para más de 40 idiomas

    Rumble-2-Flash es un modelo de reconocimiento de voz de 0.5B parámetros con licencia Apache 2.0, que cubre más de 40 idiomas y es compatible de forma nativa con Transformers y vLLM. Se destiló a partir de un modelo más grande mediante on-policy distillation.

  4. IA y LLM

    Celebrando a los ganadores y nominados de los premios PyTorch Foundation Contributor 2026

    La PyTorch Foundation nombró 15 ganadores en nueve categorías, frente a 11 en 2025, y añadió tres categorías nuevas: Knowledge Enhancer, Bug Buster y Catalyst.

  5. IA y LLM

    Rápido por defecto: heurísticas en tiempo de compilación para kernels de Helion

    Helion ahora elige las configuraciones de kernels en tiempo de compilación a partir de la IR y el flujo de datos, sin autotuning. Frente a FLA Triton escrito a mano logra 1.18x, y frente a los operadores CUDA de vLLM en H100, 1.27x.

Añade Morning Fold a tu pantalla de inicio

  1. Toca el botón Compartir <svg viewBox="0 0 24 24" aria-hidden="true"><path d="M12 15V4M7.5 8.5 12 4l4.5 4.5M5 13v5.5A1.5 1.5 0 0 0 6.5 20h11a1.5 1.5 0 0 0 1.5-1.5V13"/></svg> en la parte inferior de Safari.
  2. Desplázate hacia abajo y toca Añadir a pantalla de inicio.
  3. Toca Añadir. Morning Fold se abrirá desde su icono a pantalla completa.

Crea una cuenta gratis

Morning Fold es gratis. ¿Ya tienes cuenta? Iniciar sesión