开源产品与代码仓库

85 个

模型训练与推理基础设施同赛道商业产品 →领域行情 →首屏与设计风格 →

开源项目 · 按 Stars
项目Stars操作
Unsloth免费开源的本地 AI 工作空间，让用户在自己的硬件上运行和训练模型、生成图像与视频，并连接编程代理。79.5K
myopenclawCOSS为个人、专业人士和团队提供托管的OpenClaw云服务，免去服务器设置并提供持续运行的AI助手。73.9K
LocalAI开源 AI 引擎，让用户在自己的设备上运行语言、语音、视觉、图像、视频和智能体任务。50.4K
vLLM为运行大语言模型和构建相关应用的开发者提供高吞吐、节省内存的模型推理与部署服务引擎。27.3K
Open R1开源的 DeepSeek-R1 复现项目，为贡献者提供推理优化模型的训练流程与工具链。23.9K
SGLang面向团队和企业的开源推理服务框架，可为大型语言及多模态模型提供快速、可扩展的推理服务。13.2K
PyTorch面向机器学习开发者和研究人员的开源深度学习框架，支持模型开发、分布式训练和生产部署。10K
OumiCOSS面向企业、开发团队和机器学习研究人员，通过 AI 工程代理自动化专用模型与智能体的数据生成、评估、训练、部署和持续改进。8,171
SyntheticCOSS为研究人员、工程师和编码代理用户提供可私密使用的开源 AI 模型。5,057
Zylon为受监管行业的知识工作者和组织提供可在自有基础设施中部署的私有企业AI平台。2,785
oMLX面向 Apple Silicon Mac 用户的本地 MLX 推理服务器，通过 SSD 缓存加速 AI 模型响应。2,579
MLC开放的机器学习编译社区2,133
Rapid AIRapidAI 是面向 AI 工程落地的开源组织，为真实业务构建视觉、语音、文档智能与知识问答方案。1,818
ds4可在本地机器上运行大型开源模型的 C 语言推理引擎，面向希望本地运行 DeepSeek、GLM 和 Qwen 模型的用户。1,629
ML Intern为独立开发者和机器学习团队将任务转化为包含研究方向、执行清单、审批节点和交付物的运行简报。1,263
LimiX-2面向结构化数据的基础模型，可用于分类、回归、插补和因果骨架恢复。1,186
BananaCOSS为需要快速交付和扩展的 AI 团队提供 GPU 推理托管、自动扩缩容及部署监控工具。946
EmpirioLabs AICOSS为团队和个人开发者提供托管 AI 模型、推理 API、GPU 云实例及 AI 代理服务。802
SuperlinkedMCPSIE 为软件开发团队提供小型开放模型推理，通过托管 API 或自部署支持搜索、文档处理、信息提取和文本生成等 AI 任务。486
fastTextfast · Text 是一个免费开源的轻量级机器学习库，供用户学习文本表示和训练文本分类器，并提供多语言预训练词向量。482
Soup CLIMCP开源的大语言模型后训练工具包，支持通过层流式传输（layer streaming）在本地消费级显卡上进行微调、对齐与评估。403
LuminalCOSS为需要部署 AI 模型的团队提供模型编译优化、云端推理 API 和本地部署，以提高推理吞吐量并降低延迟。372
EleutherAI非营利人工智能研究实验室，为研究人员提供开放模型、数据集、工具和研究，推动开放科学。356
Deepinfer这是面向技术读者的独立资料站，介绍 DeepSeek 的 DeepInfer 推理框架的发布范围、架构、硬件要求、基准限制及与其他框架的比较。327
dstack为云租户、数据中心运营商和 AI 算力运营方提供统一的异构算力管理及训练、推理工作负载编排工具。299
Cocoon将 GPU 算力、AI 与 Telegram 生态连接起来，为开发者提供低成本 AI 算力，并让用户以隐私和保密方式使用 AI。270
Seldon为 AI 平台工程团队和企业技术负责人提供机器学习及生成式 AI 模型的部署、监控、治理与规模化运行基础设施。217
Gonka面向开发者提供通过兼容 OpenAI 的 API 运行推理的服务，也让 GPU 提供者托管模型并赚取 GNK。168
Positron为部署生成式 AI 模型的企业提供专用推理服务器及加速硬件，以降低推理成本和能耗。136
ParlAI供研究人员共享、训练和测试对话模型的 Python 框架。133
第 1 / 3 页 · 当前展示 1–30 / 共 85 个开源项目