CPU
CPU 算力
NVIDIA
NVIDIA GPU
AMD
AMD GPU
Apple
Apple Silicon
NPU
NPU 加速
Docker
Docker 容器
Raspberry Pi
树莓派
Windows
Windows
Linux
Linux
macOS
macOS
Android
Android
PostgreSQL
PostgreSQL
模型分片
模型分片推理
P2P
P2P 通信
EasyTier
EasyTier 穿透
云端管控
云端管控
弹性扩展
弹性扩展
安全
企业级安全
FastAPI
FastAPI
Cloudflare
Cloudflare
Enterprise Distributed AI Platform

Exo 算力聚合集群

云端 + 本地 + 异地,异构算力统一调度

立即下载
Architecture

五层 系统架构

从底层网络到上层应用,构建完整的企业级分布式算力集群体系

第一层:应用可视化层

Web 管理界面、CLI 命令行工具、API 接口,提供统一的操作入口与算力集群状态可视化

应用层

第二层:控制调度层

任务调度引擎、模型分片策略、负载均衡器、节点发现与健康检查,实现智能调度

调度层

第三层:算力业务层

异构算力抽象、模型推理运行时、内存管理、设备管理,统一调度 CPU/GPU/NPU 算力

算力层

第四层:网络基础层

P2P 通信、EasyTier 远程穿透、NAT 穿越、安全加密传输,打通跨网络算力通道

网络层

第五层:全局运维支撑层

日志监控、安全审计、用户认证、配置管理、告警通知,保障系统稳定运行

运维层
Core Features

核心 能力矩阵

六大核心能力,打造企业级分布式 AI 算力集群解决方案

异构算力聚合

统一纳管 CPU、GPU(NVIDIA/AMD/Intel)、Apple Silicon、NPU 等异构算力资源,自动发现与注册节点,实现算力资源池化。

模型分片协同推理

支持大模型自动分片,将模型层拆分到多设备并行推理,突破单设备显存限制,实现「小设备跑大模型」。

EasyTier 远程穿透

基于 EasyTier 实现跨网络环境的 P2P 穿透组网,无需公网 IP 即可将异地设备加入同一算力集群。

云端统一设备管控

通过 Web 管理面板实现对全网设备的远程终端操作、设备状态监控、任务下发与执行,支持远程终端 + 远程设备管控。

弹性扩展

支持动态添加/移除节点,自动感知集群拓扑变化,无需重启服务即可完成算力扩容与缩容。

企业级安全

端到端传输加密、节点身份认证、访问权限控制、操作审计日志,确保集群通信与数据安全。

Cross Platform

全平台 跨端部署

一套代码,多端运行。支持主流操作系统与硬件平台

Windows
Linux
macOS
Docker
Raspberry Pi
Android
Tech Stack

技术

采用业界领先的技术组合,构建高性能分布式系统

Python

核心推理引擎

FastAPI

后端 API 框架

SQLite / PostgreSQL

数据持久化

JavaScript

前端交互

EasyTier

P2P 穿透组网

Cloudflare

Pages + Workers

GitHub

版本控制

WebSocket

实时通信
Download

下载 中心

安全下载 Exo Cloud Cluster 公开应用程序与脚本
所有下载均通过安全代理从 GitHub 私有仓库获取

安全说明:所有下载均通过 Cloudflare Worker 安全代理从 GitHub 私有仓库获取,仅开放 apps/ 公开目录,仓库源代码不对外公开。下载链接使用 HTTPS 加密传输,确保文件安全。
Quick Start

快速 入门教程

三步完成 Exo Cloud Cluster 集群部署

1

环境准备

确保系统已安装 Python 3.10+ 和 pip。推荐使用虚拟环境:

python -m venv exo-env source exo-env/bin/activate # Linux/macOS # 或 exo-env\Scripts\activate # Windows
2

下载并安装

从本页面下载中心获取 exo-cloud-cluster-setup.py 安装脚本,运行一键安装:

python exo-cloud-cluster-setup.py

或者手动安装依赖:

pip install -r requirements.txt python setup.py install
3

启动集群

在主节点启动服务,其他节点自动发现并加入集群:

# 启动主节点 python main.py --role master # 其他设备加入集群 python main.py --role worker --master-addr <主节点IP>
4

访问管理面板

部署完成后,打开浏览器访问 Web 管理面板:

http://localhost:8000

默认账号:admin,默认密码:Admin@123(首次登录后请修改密码)

准备好开始了吗?

立即下载 Exo Cloud Cluster,构建您的分布式 AI 算力集群