开源产品与代码仓库

85 个

模型训练与推理基础设施同赛道商业产品 →领域行情 →首屏与设计风格 →

开源项目 · 按 Stars
项目Stars操作
ComputableMCP面向算力买卖双方的 AI 算力交易助手，可追踪聊天记录和市场中的 GPU 报价并进行撮合对接。2
Yule供用户在本机运行 AI 模型的推理运行时，提供模型完整性验证、进程沙箱、签名审计日志和 GPU 加速。2
Quaynor面向开发者的轻量级本地大语言模型推理引擎，可在软件中离线运行开放权重模型，并支持工具调用、流式输出和嵌入生成。2
Sipp为构建游戏、本地智能体及视觉聊天应用的开发者提供浏览器和原生 AI 推理运行时，并通过统一接口连接自托管网关与外部模型服务。2
Ferrum通过单个 Rust 二进制提供本地大模型推理、图像生成与编辑，并支持命令行和 OpenAI 兼容 API。2
LiumMCPGPU 算力租赁市场，供租用者和 AI 代理按秒计费租用供应商机器上的 NVIDIA GPU 容器。1
LlmpmLLM 的 npm——安装、运行和分享 AI 模型。我们打造了 llmpm，这款 CLI 工具让开源 LLM 像软件包一样可安装。1
SynexaCOSS为开发者提供通过 API 部署和运行 AI 模型的平台，并按使用量计费。1
Oprel供开发者安装使用的 SDK 和命令行工具，可下载模型并运行聊天会话。1
co/core让人们共享已有的计算设备来运行开放模型，为彼此提供AI推理服务。1
Troy帮助用户在 Apple Silicon Mac 上通过 YAML 配置和命令行本地微调大语言模型、生成训练数据，并将模型导出到 iPhone 等运行环境。1
SursumAICOSS帮助需要自行运行开放权重模型的用户在本机或自有服务器部署模型，并通过兼容 OpenAI 的 API 使用和管理它们。1
LightningCOSSLightning AI 为学生、研究人员和 AI 团队提供云端 GPU 与开发平台，用于构建、训练和部署专用 AI 模型。GitHub
On-Demand GPU CloudCOSSpacket.ai 为开发者提供按小时或按月租用的 NVIDIA GPU 云服务，支持共享或独占 GPU，并可通过控制台、命令行及 API 启动和管理计算任务。GitHub
ClusyCOSS为数据团队提供 AI 原生云端笔记本，用于探索数据、训练模型及运行实验，并提供可跨云和 CPU/GPU 架构迁移运行任务的基础设施。GitHub
QuantaLLMCOSS让安卓用户和开发者能够在手机本地离线运行大型语言模型，并可通过SDK集成推理功能。GitHub
FreesoloCOSS为工程师提供小模型后训练平台，支持通过智能体运行训练、导出模型权重并部署兼容 OpenAI 的接口。GitHub
Thrindex与硬件无关的神经形态计算软件栈与引擎，支持通过 SDK 编译脉冲神经网络并部署至神经形态芯片与边缘设备。GitHub
RigSpark为希望在自己电脑上运行 AI 的用户检测硬件、推荐适配模型，并在本地下载、验证和运行聊天、图像、短视频及语音模型。GitHub
MXNetApache MXNet 是面向深度学习研究原型开发与生产应用的开源框架，支持分布式训练和多语言绑定，但该项目已退役。GitHub
memopt面向 GPU 云服务商、AI 实验室和企业基础设施团队的开源 GPU 内存基础设施，通过分层分页、缓存复用及内核优化提升 GPU 内存利用率GitHub
BlocBloc Hub 帮助开发者和团队分享、部署并在本地运行可复现的 AI 模型环境，通过命令行管理模型、依赖和硬件配置。GitHub
Rapha Protocol面向医院和 AI 团队，将模型训练任务送入受控的医院计算环境，使患者数据留在机构内部，并提供策略控制、执行证明和结算。GitHub
Yukon让人们在自有硬件上运行和基准测试 AI 模型的本地推理挑战平台，面向硬件拥有者以及需要本地模型的应用和代理。GitHub
RunSnack让 GPU 拥有者通过链接将自己的硬件分享给指定的人，对方无需账户即可在浏览器中使用隔离的终端。GitHub
第 3 / 3 页 · 当前展示 61–85 / 共 85 个开源项目