開源產品與程式碼倉庫

85 個

模型訓練與推理基礎設施同市場領域商業產品 →領域行情 →首屏畫面與設計風格 →

開源專案 · 按 Stars
專案Stars操作
Unsloth免費開源的本地 AI 工作空間，讓使用者在自己的硬體上運行和訓練模型、生成圖像與影片，並連接程式設計代理。79.5K
myopenclawCOSS為個人、專業人士和團隊提供託管的OpenClaw雲服務，免去伺服器設定並提供持續運行的AI助手。73.9K
LocalAI開源 AI 引擎，讓使用者在自己的設備上運行語言、語音、視覺、圖像、影片和智慧體任務。50.4K
vLLM為運行大語言模型和構建相關應用的開發者提供高吞吐、節省記憶體的模型推理與部署服務引擎。27.3K
Open R1開源的 DeepSeek-R1 復現專案，為貢獻者提供推理最佳化模型的訓練流程與工具鏈。23.9K
SGLang面向團隊和企業的開源推理服務框架，可為大型語言及多模態模型提供快速、可擴展的推理服務。13.2K
PyTorch面向機器學習開發者和研究人員的開源深度學習框架，支援模型開發、分布式訓練和生產部署。10K
OumiCOSS面向企業、開發團隊和機器學習研究人員，通過 AI 工程代理自動化專用模型與智慧體的資料生成、評估、訓練、部署和持續改進。8,171
SyntheticCOSS為研究人員、工程師和編碼代理使用者提供可私密使用的開源 AI 模型。5,057
Zylon為受監管行業的知識工作者和組織提供可在自有基礎設施中部署的私有企業AI平台。2,785
oMLX面向 Apple Silicon Mac 使用者的本地 MLX 推理伺服器，通過 SSD 快取加速 AI 模型響應。2,579
MLC開放的機器學習編譯社群2,133
Rapid AIRapidAI 是面向 AI 工程落地的開源組織，為真實業務構建視覺、語音、文件智慧與知識問答方案。1,818
ds4可在本地機器上運行大型開源模型的 C 語言推理引擎，面向希望本地運行 DeepSeek、GLM 和 Qwen 模型的使用者。1,629
ML Intern為獨立開發者和機器學習團隊將任務轉化為包含研究方向、執行清單、審批節點和交付物的運行簡報。1,263
LimiX-2面向結構化資料的基礎模型，可用於分類、回歸、插補和因果骨架恢復。1,186
BananaCOSS為需要快速交付和擴展的 AI 團隊提供 GPU 推理託管、自動擴縮容及部署監控工具。946
EmpirioLabs AICOSS為團隊和個人開發者提供託管 AI 模型、推理 API、GPU 雲實例及 AI 代理服務。802
SuperlinkedMCPSIE 為軟體開發團隊提供小型開放模型推理，通過託管 API 或自部署支援搜尋、文件處理、資訊提取和文本生成等 AI 任務。486
fastTextfast · Text 是一個免費開源的輕量級機器學習庫，供使用者學習文本表示和訓練文本分類器，並提供多語言預訓練詞向量。482
Soup CLIMCP開源的大語言模型後訓練工具包，支援通過層流式傳輸（layer streaming）在本地消費級顯卡上進行微調、對齊與評估。403
LuminalCOSS為需要部署 AI 模型的團隊提供模型編譯最佳化、雲端推理 API 和本地部署，以提高推理吞吐量並降低延遲。372
EleutherAI非營利人工智慧研究實驗室，為研究人員提供開放模型、資料集、工具和研究，推動開放科學。356
Deepinfer這是面向技術讀者的獨立資料站，介紹 DeepSeek 的 DeepInfer 推理框架的發布範圍、架構、硬體要求、基準限制及與其他框架的比較。327
dstack為雲租戶、資料中心營運商和 AI 算力營運方提供統一的異構算力管理及訓練、推理工作負載編排工具。299
Cocoon將 GPU 算力、AI 與 Telegram 生態連接起來，為開發者提供低成本 AI 算力，並讓使用者以隱私和保密方式使用 AI。270
Seldon為 AI 平台工程團隊和企業技術負責人提供機器學習及生成式 AI 模型的部署、監控、治理與規模化運行基礎設施。217
Gonka面向開發者提供通過兼容 OpenAI 的 API 運行推理的服務，也讓 GPU 提供者託管模型並賺取 GNK。168
Positron為部署生成式 AI 模型的企業提供專用推理伺服器及加速硬體，以降低推理成本和能耗。136
ParlAI供研究人員共享、訓練和測試對話模型的 Python 框架。133
第 1 / 3 頁 · 當前展示 1–30 / 共 85 個開源專案