模型训练与推理基础设施行情

模型训练与推理基础设施 · 产品形态：Linux 客户端

产品形态网页应用 (Web)550API 接口226命令行工具 (CLI)86开发套件 (SDK)66macOS 客户端47Windows 客户端44Linux 客户端35MCP 服务31
共 35 个产品
产品与研究指标
产品月访问 · 10月操作
Ollama巨兽帮助个人和团队在 macOS、Windows、Linux 本地或云端运行开放 AI 模型并构建应用。9.4M
PyTorch开源面向机器学习开发者和研究人员的开源深度学习框架，支持模型开发、分布式训练和生产部署。1.1M
Unsloth开源免费开源的本地 AI 工作空间，让用户在自己的硬件上运行和训练模型、生成图像与视频，并连接编程代理。887.5K
Llama适用于 Mac、Windows 和 Linux 的本地 AI 应用，让用户在自己的电脑上运行开放模型、聊天并通过兼容 API 将模型用于其他应用。226.6K
Paperspace提供云端 GPU 计算、笔记本和模型部署工具，供开发者、研究人员及团队构建、训练和部署机器学习模型。201K
OptimAI Network通过去中心化节点提供数据挖掘、验证和计算能力，为AI智能体提供支持，参与者可贡献设备并获得代币奖励。152.7K
PaddlePaddle飞桨是面向深度学习开发者的开源平台，提供模型训练、推理、科学计算及多硬件适配能力。70.4K
SkyRig按分钟付费的高性能 Windows 云电脑平台，配备真实 GeForce RTX GPU，适用于游戏、3D渲染和内容创作。22K
dstack开源为云租户、数据中心运营商和 AI 算力运营方提供统一的异构算力管理及训练、推理工作负载编排工具。17K
LM-KitMCP为开发者和企业提供可私有部署的 AI 服务器及嵌入式运行时，用于文档解析、信息提取、知识搜索和智能体运行。11.4K
OllaMan开源面向个人开发者、AI 爱好者和小团队的桌面客户端，用于管理 Ollama 模型与服务器并进行 AI 对话。6.9K
LM Studio帮助个人用户通过图形界面在本地电脑上下载、运行和使用大语言模型，无需编程即可离线与 AI 交互。6.6K
Neural Designer为工程、科研、医疗和商业领域的用户提供无需编程即可准备数据、训练和验证神经网络并部署预测模型的软件。<5K
Izzbie为个人、家庭和中小企业提供本地运行的私有AI及安全加密网络基础设施。<5K
ReteAi无需云端和订阅的本地AI平台，可跨Mac、Windows、Linux及iOS设备组建计算网格共同运行大语言模型。<5K
FLAP帮助开发者和团队在自己的GPU或云端训练并微调大型语言模型，同时保护训练数据隐私。<5K
PotluckMCP开源为个人和公司提供可在自有设备上运行的本地AI，并正在开发用于工程调查和企业知识管理的工作流。<5K
Magnitude开源面向本地运行开放模型用户的开源推理引擎，通过针对用户硬件自动调优来加速模型运行，并连接现有智能体工具。<5K
Langtrain帮助开发者和团队用自有数据微调开源模型，并在自有硬件或离线环境中部署和运行。<5K
50GRAMx让个人、团队和机构在自己拥有的电脑或服务器上运行可签名核验的开放模型与 AI 计算。<5K
X402layerMCPx402 Singularity Layer 为开发者、创作者和智能体提供去中心化 AI 推理、算力、常驻智能体托管及支付基础设施。<5K
Autotune开源帮助在本机运行 AI 模型的用户自动优化 Ollama 的内存分配、上下文和缓存，降低内存占用并加快响应，同时提供命令行、API 和本地监控面板。<5K
Sapient为机器人、医疗、产品团队及工业场景提供本地运行语言、视觉和语音模型的推理引擎，支持命令行、服务器、代码库及移动端 SDK。<5K
RunSnack开源让 GPU 拥有者通过链接将自己的硬件分享给指定的人，对方无需账户即可在浏览器中使用隔离的终端。<5K
LokiAI面向产品团队、独立开发者、硬件合作伙伴和运维人员，帮助选择、验证并无线部署适配设备的 AI 模型，在本地运行推理并追踪部署状态。<5K
AventusAventus Cloud 是面向企业区块链的去中心化计算网络，供企业和节点运营者执行计算、预言机服务及业务逻辑。<5K
Ferrum开源通过单个 Rust 二进制提供本地大模型推理、图像生成与编辑，并支持命令行和 OpenAI 兼容 API。<5K
SursumAI开源帮助需要自行运行开放权重模型的用户在本机或自有服务器部署模型，并通过兼容 OpenAI 的 API 使用和管理它们。<5K
jitllm开源为开发者和模型使用者提供本地大语言模型推理，可在个人设备上运行模型并利用CPU和GPU资源。<5K
NEURAXMCP面向大学实验室、企业和独立开发者的本地AI模型开发工作室，可用于设计、分析、估算并在本机训练模型。<5K
VYRE为组织提供在自有硬件或托管服务器上运行本地 AI、集中协调设备并通过移动应用查看业务信息的平台，目前网站仅提供定价与注册流程预览。<5K
Hearthscale开源面向普通用户和组织、可在 Windows 和 Linux 设备上本地运行 AI 模型并使用相关应用的桌面平台。<5K
Qelm开源为语言模型研究与开发提供可在本地创建、训练、保存和运行紧凑型量子增强语言模型的框架与工具。<5K
Market01面向所有人的 GPU 算力平台，帮助用户寻找全球计算资源并训练先进模型。<5K
KitOpsMCP开源面向数据科学家、应用开发者和 DevOps 工程师的开源工具，可将模型、数据集、智能体技能及 MCP 服务器等 AI 项目资产打包、签名和版本化为可移植的 OCI 制…<5K