AWS Lambda
2 articles ces 30 derniers jours.
-
AWS Lambda exécute désormais l'inférence GPU, avec jusqu'à 48 invocations simultanées partageant un modèle par GPU
Lambda Managed Instances peut exécuter des fonctions sur les GPU de la série G d'EC2, avec jusqu'à 48 invocations simultanées partageant un même modèle par GPU. Il propose des images de base vLLM et SGLang ainsi que des délais d'expiration asynchrones de 90 minutes, facturés au prix de l'instance majoré de 9,75 %.
-
AWS Lambda prend désormais en charge les instances GPU pour les Event Functions sur Lambda Managed Instances
Lambda peut désormais exécuter des fonctions empaquetées en conteneur sur les GPU de la série G d'EC2, sans pilotes, configuration CUDA ni gestion de cluster. Il cible l'inférence et les médias, le rendu et les charges de travail scientifiques, déclenchées par des événements AWS.