LMSYS Org
@lmsysorg X フォロワー 18.3K最初の製品リリース:3年前
- 公開された売上
- 非公開
- 保有製品の公開収益なし
訪問
プロダクト
| プロダクト | 月間訪問 · 10月 | 操作 |
|---|---|---|
| SGLangOSSLLMとマルチモーダル向け高性能サービング基盤。 | 228.6K | |
| LMSYS Orgオープンで拡張しやすい大規模モデルを開発 | 193.8K |
タイムライン
11月18日 · 3日前
SGLang highlights Humming low-bit kernels and performance results製品動向
LMSYS Org's post describes Humming compiling low-bit kernels for dense and MoE layers on NVIDIA GPUs and highlights its use in SGLang. It reports a 1.07–1.23× prefill speedup versus Marlin and 17–34% higher output throughput for FP8 versus BF16 expert activations in the stated tests.
SGLang adds day-zero support for Hy4 flash製品動向
SGLang announced day-zero support for Tencent Hunyuan's Hy4 flash, describing the model as a 224B multimodal model with a 1M context window. The post highlights lower per-task cost, reduced KV-cache size, DFly2 speculative decoding, and LatentMoE with Engram, and invites users to try it with SGLang.
SGLang adds support for Sage S2.1 Flash製品動向
The post says SGLang now supports Sage S2.1 Flash, a multimodal model for scientific research. It describes multi-round research with retrieval, coding, and tool use, and invites users to run it with SGLang.
SGLang LMSYS Org details SGLang optimizations for DeepSeek-V4.1-Flash on H200参照元&被リンク
LMSYS Org's post describes serving DeepSeek-V4.1-Flash on 8×H200 with SGLang PD disaggregation. It reports 15%–64% lower end-to-end latency and 41%–79% lower TTFT than the original baseline across eight test cases, while TPOT was 3%–52% higher and GSM8K changed from 96.74% to 95.38%.
11月10日 · 11日前
SGLang Diffusion adds day-0 support for MiniMax-H3-Image製品動向
SGLang Diffusion announced day-0 support for running MiniMax-H3-Image at full precision locally and in the cloud, featuring native multi-GPU inference and AdaLN precomputation.
よくある質問と根拠データ
- LMSYS Org はこれまでにどのような製品を作っていますか?
- EarlyLore では LMSYS Org の独立系ソフトウェア製品 2 件(現在稼働中 2 件)を追跡しており、代表的な製品に SGLang, LMSYS Org があります。
- LMSYS Org の運営プロダクト全体のWebトラフィック規模はどのくらいですか?
- トラフィック推計のある独自ドメインを集計すると、LMSYS Org のポートフォリオは各サイト最新観測月の合計で月間 422.4K 訪問に達します。共有ホスティングやストア専用ページは合算対象から除かれます。
個人開発者向け関連リサーチガイド