模型训练与推理基础设施行情

模型训练与推理基础设施 · 产品形态：命令行工具 (CLI)

产品形态网页应用 (Web)550API 接口226命令行工具 (CLI)86开发套件 (SDK)66macOS 客户端47Windows 客户端44Linux 客户端35MCP 服务31
共 86 个产品
产品与研究指标
产品月访问 · 10月操作
BytePlus为企业和创作者提供 AI 模型、智能体开发工具及云基础设施，用于内容生成、知识检索和部署扩展企业应用。3M
Runpod为开发者和团队提供按需 GPU、Serverless 和集群云基础设施，用于开发、训练、微调和部署 AI 工作负载。2.9M
Unsloth开源免费开源的本地 AI 工作空间，让用户在自己的硬件上运行和训练模型、生成图像与视频，并连接编程代理。887.5K
Fireworks为企业、开发者和机器学习研究团队提供开放模型推理、模型路由集成与训练平台，帮助构建专属 AI。659.7K
Baseten把推理、训练和执行放在同一平台上，供成长最快的公司训练、部署并扩展开源和自定义 AI 模型。653K
RunwareMCP为开发者和企业提供统一的 AI 模型 API、无服务器 GPU 计算和专用算力。402.9K
SAM3 常见使用案例大全一键部署优云智算为模型、算法、应用开发者及应用、Agent、Coding开发者提供GPU算力租用和模型API服务，支持AI训练、推理与应用部署。275.4K
Llama适用于 Mac、Windows 和 Linux 的本地 AI 应用，让用户在自己的电脑上运行开放模型、聊天并通过兼容 API 将模型用于其他应用。226.6K
Paperspace提供云端 GPU 计算、笔记本和模型部署工具，供开发者、研究人员及团队构建、训练和部署机器学习模型。201K
Prime Intellect为 AI、企业及公共部门团队提供一体化的 GPU 算力、模型训练、评估、推理和沙箱基础设施，帮助其训练、部署并持续改进自有 AI 模型。164.7K
OptimAI Network通过去中心化节点提供数据挖掘、验证和计算能力，为AI智能体提供支持，参与者可贡献设备并获得代币奖励。152.7K
Quarkus面向开发者的 Java 框架，用于构建快速、高效的云原生应用。127.6K
Thunder ComputeMCP为开发者提供持久化 GPU 实例，并为 AI 代理和自动化任务提供按需 GPU 沙箱。102.1K
Lemonade Mobile为应用和智能体提供可在本地运行的 AI，包括聊天、视觉、图像、语音、转录和嵌入功能。96.2K
GreenNodeMCP为越南及东南亚企业提供注重数据主权与合规的云基础设施，以及模型训练、部署、AI 智能体和文档处理服务。76K
On-Demand GPU Cloud开源packet.ai 为开发者提供按小时或按月租用的 NVIDIA GPU 云服务，支持共享或独占 GPU，并可通过控制台、命令行及 API 启动和管理计算任务。58.9K
LiumMCP开源GPU 算力租赁市场，供租用者和 AI 代理按秒计费租用供应商机器上的 NVIDIA GPU 容器。58.5K
Aleph Cloud为 Web3、AI 开发者和企业提供去中心化云基础设施，可用于部署虚拟服务器、网站、GPU 工作负载及机密虚拟机。48K
Synapse Power开源为团队提供云 GPU 基础设施，用于运行 AI、机器学习和高性能计算工作负载。36.7K
ds4开源可在本地机器上运行大型开源模型的 C 语言推理引擎，面向希望本地运行 DeepSeek、GLM 和 Qwen 模型的用户。36.2K
Cerebrium为需要部署和扩展实时AI工作负载的团队提供按使用量计费的无服务器GPU基础设施。27K
Soup CLIMCP开源开源的大语言模型后训练工具包，支持通过层流式传输（layer streaming）在本地消费级显卡上进行微调、对齐与评估。25.3K
CloudRiftMCP为数据中心运营商、电信公司和企业提供主权AI平台，用于在自有基础设施上管理GPU、租赁算力并运行推理服务。21.1K
RuncrateMCP为 AI 团队及其智能体提供按需 GPU、模型推理 API 和存储服务。19.4K
dstack开源为云租户、数据中心运营商和 AI 算力运营方提供统一的异构算力管理及训练、推理工作负载编排工具。17K
SuperlinkedMCP开源SIE 为软件开发团队提供小型开放模型推理，通过托管 API 或自部署支持搜索、文档处理、信息提取和文本生成等 AI 任务。13.2K
Llmpm开源LLM 的 npm——安装、运行和分享 AI 模型。我们打造了 llmpm，这款 CLI 工具让开源 LLM 像软件包一样可安装。9.8K
Inferless为开发者和企业提供按使用量计费的无服务器 GPU 基础设施，用于快速部署、自动扩缩和监控机器学习模型。9.7K
mlx-serve开源面向 Apple Silicon 的本地推理服务器与菜单栏 AI 助手，支持 MLX 和 GGUF 模型，可在 Mac 和 iPhone 上离线运行对话、多媒体生成及智能代理任务。7.5K
ParlAI开源供研究人员共享、训练和测试对话模型的 Python 框架。<5K
PandaStackMCP开源为构建和运行 AI 代理的团队提供快速启动的 Firecracker 微虚拟机沙箱，以及托管数据库、应用托管和函数服务。<5K
Bsub开源bsub.io 为开发者提供批处理平台，可通过 API、CLI 或 SDK 运行文件处理与计算任务，并支持自托管。<5K
Mtok.marketMCP去中心化、非托管且由卖家自托管的 AI 推理 Token 现货市场，供 AI Agent 通过 Base 链上的 USDC 购买突发算力或出售闲置容量。<5K
OvermindMCP开源为 AI 智能体工程团队提供从生产追踪、数据准备和评估到模型微调与部署的一体化平台，让团队拥有自己的专用模型。<5K
TensorPool为机器学习训练和推理提供按需多节点 GPU 集群、共享存储和训练任务管理。<5K
ReteAi无需云端和订阅的本地AI平台，可跨Mac、Windows、Linux及iOS设备组建计算网格共同运行大语言模型。<5K
Thrindex开源与硬件无关的神经形态计算软件栈与引擎，支持通过 SDK 编译脉冲神经网络并部署至神经形态芯片与边缘设备。<5K
Pipeless开源面向开发者的开源计算机视觉框架，帮助快速开发和部署实时视频分析应用，并处理模型推理、多路视频流和底层流水线。<5K
MergeKit帮助团队通过可视化设计、合并现有大模型权重、托管 GPU 计算和基准评估来构建专用模型。<5K
Denvr AI Cloud为 AI 开发者与运营者提供基于加拿大主权基础设施的高性能 GPU 云计算，用于 AI 训练和推理。<5K
RigSpark开源为希望在自己电脑上运行 AI 的用户检测硬件、推荐适配模型，并在本地下载、验证和运行聊天、图像、短视频及语音模型。<5K
PotluckMCP开源为个人和公司提供可在自有设备上运行的本地AI，并正在开发用于工程调查和企业知识管理的工作流。<5K
Langtrain帮助开发者和团队用自有数据微调开源模型，并在自有硬件或离线环境中部署和运行。<5K
Jungle GridMCP为开发者和 AI 团队提供通过 API、MCP 或命令行提交和运行 AI 工作负载的托管执行平台，负责算力路由、日志、故障恢复及结果交付。<5K
Banana开源为需要快速交付和扩展的 AI 团队提供 GPU 推理托管、自动扩缩容及部署监控工具。<5K
Edge AIEdgeAI 让开发者和企业用 INT8/INT4 量化把 AI 模型压缩到约十分之一，以便部署到边缘设备、手机和物联网并降低推理成本。<5K
Yule开源供用户在本机运行 AI 模型的推理运行时，提供模型完整性验证、进程沙箱、签名审计日志和 GPU 加速。<5K
Oprel开源供开发者安装使用的 SDK 和命令行工具，可下载模型并运行聊天会话。<5K
Agentipedia为研究人员提供发布研究假设、让 AI 智能体自主运行实验并共享和复用结构化结果的平台。<5K
memopt开源面向 GPU 云服务商、AI 实验室和企业基础设施团队的开源 GPU 内存基础设施，通过分层分页、缓存复用及内核优化提升 GPU 内存利用率<5K
第 1 / 2 页 · 当前展示 1–50 / 共 86 个产品