vLLM
Leader établiThe High-Throughput and Memory-Efficient inference and serving engine for LLMs
vllm.ai Source★ 27.3KApache-2.0Modèles et Agents IA / Infrastructure d’Entraînement et d’Inférence
- Visites par mois
- 1M
- Baisse3.9%vs mois précédentsept. 2026
- Revenus publiés
- Non divulgué
- Aucune preuve de revenus publics
- Tarif de départ
- Gratuit
- Pas de tarif d’abonnement mensuel
- Lancement
- il y a 3 ans
- 2023-06-19 · Est.
Trafic
Actions marketing
Lancements, recherche & contenu, référents, promos- vLLM-Omni also support H3-Image across NVIDIA data-center and RTX GPUs, AMD, Intel, Moore Threads, and Huawei Ascend NPUs 🙌 From your desktop to Rubin, let’s create! 🖼️ 回复原帖 @vllm_project: On 4x Rubin GPUs, initial throughput tuning al
@vllm_project · 2026-11-12 · 3 j’aime · 0 republications · 1,088 vues
- Congrats to @MiniMax_AI on H3-Image taking the #1 spot among open-weight models for image editing by Artificial Analysis! 🎉 We’re bringing NVIDIA Vera Rubin support H3-image to vLLM-Omni, and native 4K generation in 0.87 seconds!⚡️ Check
@vllm_project · 2026-11-12 · 44 j’aime · 6 republications · 3,159 vues
- These gains come from optimizations across the vLLM engine (e.g., eliminating CPU overheads) and Rubin-optimized kernels, including MiniMax Sparse Attention and decode-specialized kernels. Our M3.1 blog covered the first wave of Rubin opti
@vllm_project · 2026-11-11 · 8 j’aime · 0 republications · 1,396 vues
vLLM-Omni supports H3-Image across multiple GPU and NPU platformsActivité produit
vLLM announced that vLLM-Omni supports H3-Image across NVIDIA data-center and RTX GPUs, AMD, Intel, Moore Threads, and Huawei Ascend NPUs.
12 nov. · il y a 2 jPost X
PyTorch hosts Ascend for PyTorch Meetup in BeijingPromotions
On November 7, PyTorch hosted the Ascend for PyTorch Meetup in Beijing, bringing together maintainers from PyTorch core, TorchNPU, vLLM, and over a hundred developers for technical talks, roundtables, and hands-on sessions.
7 nov. · il y a 7 jPost X
vLLM adds day-0 support for ERNIE 5.5 Flash BaseActivité produit
vLLM announced Day-0 support for Baidu's ERNIE 5.5 Flash Base. Models can be served in FP8 or BF16 using Baidu's vLLM-ERNIE plugin on vLLM 0.32.0.
5 nov. · il y a 9 jPost de lancementPost X
Lancement d'un nouveau produitLancement
19 juin 2023 · il y a 3 ansSite web
Open Source & Auto-hébergement
- Étoiles GitHub
- ★ 27.3K
- Forks
- 5,925
- Licence
- Apache-2.0
- Langage principal
- Python
Sources de trafic
Répartition du trafic
Canaux
- Direct43%
- Recherche organique35%
- Référents16%
- Autre5%
Pays
- Chine42%
- États-Unis13%
- Inde5%
- Nigeria3%
- Corée du Sud3%
Rechercher
Autorité de domaine 82Domaine enregistré 2023-06-19
| Mot-clé | Volume mensuel |
|---|---|
| vllm | 138.5K |
| deepseek v4.1 | 96.6K |
| vllm-ascend | 2,000 |
| vllm ascend | 1,930 |
| vllm recipe | 1,920 |
Données de trafic : Vaneform
Tarifs
Page de tarifs non identifiée ou aucun prix public affiché.
Pages & changements
Pages clés
Captures hebdo- Accueilvllm.ai/
- Fonctionnalitésvllm.ai/events Capture 2026-11-05
Blog officiel & changelog
Articles récents & mises à jourH3-Image Day-0 Support: 4K in 0.87s with Vera Rubin
H3-Image on Vera Rubin: 0.87-second 4K generation or 6,115 images/hour on four GPUs, with projected API revenue and support across consumer and data-center hardware.
Encoder Disaggregation in vLLM: Scaling Multimodal Serving with EPD
Recent advances in vLLM encoder disaggregation: metadata-only multimodal requests, dedicated encoder execution, remote embedding transfer, cross-encoder caching, and lower-overhead EPD routing.
Migrating vLLM to the LibTorch Stable ABI
How vLLM migrated its CUDA build and compiled dependencies to the LibTorch Stable ABI, enabling compatible PyTorch upgrades without rebuilding vLLM.
VeRL-Omni v0.3.0: Async Training and Broader Multimodal Post-Training
VeRL-Omni v0.3.0 expands async RL, makes the V1 trainer the default, and adds reproducible recipes for audio-video generation and multimodal understanding.
Changements
Aucun changement de tarif, d’offre ou de positionnement détecté depuis le début du suivi.
Design
Monochrome minimaliste (fond clair, densité aéré) avec mise en page titre centré + cta et visuels pure typographie & géométrie.
Aperçu de l’écran · cliquer pour agrandir
First-screen pitch & conversion flow
“The High-Throughput and Memory-Efficient inference and serving engine for LLMs”
Structure hero titre centré + cta associée à un CTA télécharger l’app / installer l’extension et sans bandeau de preuve sociale.
Conversion path: Titre centré + CTA + Pure typographie & géométrie → Télécharger l’app / Installer l’extension
- Ancrage de catégorie
Palette · cliquer pour copier
- Typographie
- 7.0
- Couleur & contraste
- 7.0
- Mise en page & espacement
- 7.0
- Finition & soin
- 7.0
- Singularité
- 5.0
Structure
- Polices
- Inter
- Mise en page hero
- Titre centré + CTA
- Visuel principal
- Pure typographie & géométrie
- CTA de conversion
- Télécharger l’app / Installer l’extension
- Preuve sociale
- Sans bandeau de preuve sociale
- Navigation
- Barre supérieure pleine largeur
- Thème & densité
- Clair · Aéré
- Coins & profondeur
- Petit rayon · Bordures fines
Prévisualiser le brief design IA complet (variables CSS :root et règles)Tokens de style uniquement ; ne copiez jamais les marques, logos, textes ou images
# Brief de design : Monochrome minimaliste
Palette monochrome avec une seule couleur d'accentuation, de fins séparateurs et un généreux espace blanc.
## Tokens de Design
```css
:root {
--background: #ffffff;
--surface: #eaf6fe;
--foreground: #050510;
--muted-foreground: #6b7787;
--accent: #35a3ef;
--radius: 4px;
--font-heading: "Inter", ui-sans-serif, system-ui, sans-serif;
--font-body: "Inter", ui-sans-serif, system-ui, sans-serif;
}
```
Ratio de surface des couleurs : Arrière-plan #FFFFFF (~84%) · Surface #EAF6FE (~3%) · Texte #050510 (~6%) · Texte secondaire #6B7787 (~3%) · Accent #35A3EF (~4%). L'arrière-plan et la surface dominent le canevas ; réservez la couleur d'accentuation aux boutons principaux et aux états actifs.
## Structure de Mise en Page & Conversion
- Disposition hero : Titre centré + CTA
- Navigation : Barre supérieure pleine largeur
- Thème et densité : Clair · Aéré
- Rayon de bordure et élévation : Petit rayon ; sans ombres portées — séparer les calques par des bordures fines et de l’espace blanc
- Support visuel principal : Pure typographie & géométrie
- CTA de conversion : Télécharger l’app / Installer l’extension
- Accroche du titre : Ancrage de catégorie
- Notes de disposition spatiale : Structure hero titre centré + cta associée à un CTA télécharger l’app / installer l’extension et sans bandeau de preuve sociale.
- Résumé visuel : Monochrome minimaliste (fond clair, densité aéré) avec mise en page titre centré + cta et visuels pure typographie & géométrie.
## À Éviter
- Dégradés néon multicolores
- Ombres portées marquées
- Plus d'une couleur d'accentuation concurrente
Implémentez l’interface selon les tokens et spécifications ci-dessus : utilisez uniquement ces variables de couleur et réservez la couleur d’accentuation aux actions principales et états actifs. N’adoptez que ce style visuel sans jamais copier la marque, le logo, les textes ou les images d’un produit de référence.
Questions et sources
- Quel trafic le site de vLLM reçoit-il ?
- Vaneform estime 1M visites en 2026-09. Elles peuvent inclure des visites répétées ; clients payants et revenus nécessitent leurs propres données.Source
Produits de la même catégorie
Ces produits sont classés dans la même catégorie. Comparez les besoins couverts, les fonctionnalités et les conditions de déploiement avant d’en faire des alternatives.
| Produit | Tarif de départ | Visites | Revenus |
|---|---|---|---|
| OllamaGéantMost popular way to build with open models. | $20/mois | 9M | Non divulgué |
| BytePlusAI Film Award 2027 Powered By BytePlus | — | 4.3M | Non divulgué |
| Agent Router统一的 大模型接口网关 | — | 3.8M | Non divulgué |
| Groq®Groq was built for this. | — | 3.6M | Non divulgué |
| ModelScopeFast-forwarding AI development with open-source community. | — | 2.9M | Non divulgué |
| RunpodExperiment, train, fine-tune, deploy, scale on one platform | — | 2.8M | Non divulgué |