五层 系统架构
从底层网络到上层应用,构建完整的企业级分布式算力集群体系
第一层:应用可视化层
Web 管理界面、CLI 命令行工具、API 接口,提供统一的操作入口与算力集群状态可视化
第二层:控制调度层
任务调度引擎、模型分片策略、负载均衡器、节点发现与健康检查,实现智能调度
第三层:算力业务层
异构算力抽象、模型推理运行时、内存管理、设备管理,统一调度 CPU/GPU/NPU 算力
第四层:网络基础层
P2P 通信、EasyTier 远程穿透、NAT 穿越、安全加密传输,打通跨网络算力通道
第五层:全局运维支撑层
日志监控、安全审计、用户认证、配置管理、告警通知,保障系统稳定运行
核心 能力矩阵
六大核心能力,打造企业级分布式 AI 算力集群解决方案
异构算力聚合
统一纳管 CPU、GPU(NVIDIA/AMD/Intel)、Apple Silicon、NPU 等异构算力资源,自动发现与注册节点,实现算力资源池化。
模型分片协同推理
支持大模型自动分片,将模型层拆分到多设备并行推理,突破单设备显存限制,实现「小设备跑大模型」。
EasyTier 远程穿透
基于 EasyTier 实现跨网络环境的 P2P 穿透组网,无需公网 IP 即可将异地设备加入同一算力集群。
云端统一设备管控
通过 Web 管理面板实现对全网设备的远程终端操作、设备状态监控、任务下发与执行,支持远程终端 + 远程设备管控。
弹性扩展
支持动态添加/移除节点,自动感知集群拓扑变化,无需重启服务即可完成算力扩容与缩容。
企业级安全
端到端传输加密、节点身份认证、访问权限控制、操作审计日志,确保集群通信与数据安全。
全平台 跨端部署
一套代码,多端运行。支持主流操作系统与硬件平台
技术 栈
采用业界领先的技术组合,构建高性能分布式系统
Python
核心推理引擎FastAPI
后端 API 框架SQLite / PostgreSQL
数据持久化JavaScript
前端交互EasyTier
P2P 穿透组网Cloudflare
Pages + WorkersGitHub
版本控制WebSocket
实时通信下载 中心
安全下载 Exo Cloud Cluster 公开应用程序与脚本
所有下载均通过安全代理从 GitHub 私有仓库获取
Windows 客户端
Windows 10/11 x64macOS 客户端
macOS 12+ (Apple Silicon / Intel)Linux 客户端
Ubuntu 20.04+ / Debian / CentOSPython CLI 工具
pip install / 源码安装Docker 镜像
Docker Compose 一键部署部署脚本合集
一键部署 / 配置 / 监控脚本快速 入门教程
三步完成 Exo Cloud Cluster 集群部署
环境准备
确保系统已安装 Python 3.10+ 和 pip。推荐使用虚拟环境:
下载并安装
从本页面下载中心获取 exo-cloud-cluster-setup.py 安装脚本,运行一键安装:
或者手动安装依赖:
启动集群
在主节点启动服务,其他节点自动发现并加入集群:
访问管理面板
部署完成后,打开浏览器访问 Web 管理面板:
默认账号:admin,默认密码:Admin@123(首次登录后请修改密码)
准备好开始了吗?
立即下载 Exo Cloud Cluster,构建您的分布式 AI 算力集群