Skip to content

Phase 67 — 去中心化推理网络系统设计

版本: v3.1.0 创建日期: 2026-02-28 状态: ✅ 已实现 (v3.1.0) | CLI Phase 67 ✅


一、模块概述

Phase 67 引入去中心化推理网络,实现跨节点的AI推理任务调度、负载均衡和隐私保护推理。

1.1 核心目标

  1. 节点注册: 推理节点发现和能力注册
  2. 任务调度: 智能路由推理任务到最优节点
  3. 隐私推理: 支持标准/加密/联邦学习模式
  4. 负载均衡: 基于GPU/内存/延迟的动态调度

1.2 技术架构

┌──────────────────────────────────────┐
│       Inference Network              │
│  ┌────────────────────────────────┐  │
│  │   InferenceNodeRegistry       │  │
│  │   - 节点注册/发现/心跳        │  │
│  └────────────────────────────────┘  │
│  ┌────────────────────────────────┐  │
│  │   InferenceScheduler           │  │
│  │   - 任务调度/负载均衡/隐私     │  │
│  └────────────────────────────────┘  │
│  ┌────────────────────────────────┐  │
│  │   InferenceIPC (6 handlers)    │  │
│  └────────────────────────────────┘  │
└──────────────────────────────────────┘

二、核心模块设计

2.1 InferenceNodeRegistry (ai-engine/inference/inference-node-registry.js)

推理节点注册表,管理节点生命周期。

常量:

  • NODE_STATUS: ONLINE, OFFLINE, BUSY, DEGRADED

核心方法:

  • initialize() — 初始化并加载已注册节点
  • registerNode({ nodeId, endpoint, capabilities, gpuMemory }) — 注册推理节点
  • unregisterNode(nodeId) — 注销节点
  • heartbeat(nodeId) — 节点心跳更新
  • listNodes(filter) — 列出节点(status, capability)
  • getNodeStatus(nodeId) — 获取节点状态

2.2 InferenceScheduler (ai-engine/inference/inference-scheduler.js)

推理任务调度器,支持多种隐私模式。

常量:

  • TASK_STATUS: QUEUED, DISPATCHED, RUNNING, COMPLETE, FAILED
  • PRIVACY_MODE: STANDARD, ENCRYPTED, FEDERATED

核心方法:

  • initialize() — 初始化调度器
  • setNodeRegistry(registry) — 注入节点注册表
  • submitTask({ model, input, privacyMode, priority }) — 提交推理任务
  • getTaskStatus(taskId) — 查询任务状态
  • getSchedulerStats() — 获取调度统计(队列长度、完成数、平均延迟)
  • buildInferenceContext() — 构建推理网络上下文(Context Engineering注入)

三、数据库设计

sql
CREATE TABLE IF NOT EXISTS inference_nodes (
  id TEXT PRIMARY KEY,
  node_id TEXT NOT NULL UNIQUE,
  endpoint TEXT,
  capabilities TEXT,
  gpu_memory_mb INTEGER DEFAULT 0,
  status TEXT DEFAULT 'online',
  last_heartbeat INTEGER,
  task_count INTEGER DEFAULT 0,
  created_at INTEGER
);

CREATE TABLE IF NOT EXISTS inference_tasks (
  id TEXT PRIMARY KEY,
  model TEXT NOT NULL,
  input TEXT,
  output TEXT,
  privacy_mode TEXT DEFAULT 'standard',
  priority INTEGER DEFAULT 5,
  assigned_node TEXT,
  status TEXT DEFAULT 'queued',
  duration_ms INTEGER,
  created_at INTEGER,
  completed_at INTEGER
);

四、IPC接口设计

InferenceIPC (6 handlers)

通道说明
inference:register-node注册推理节点
inference:unregister-node注销节点
inference:list-nodes列出节点
inference:submit-task提交推理任务
inference:get-task-status查询任务状态
inference:get-stats获取调度统计

五、前端集成

Pinia Store

  • inferenceNetwork.ts — 节点列表、任务队列、调度统计

Vue Page

  • InferenceNetworkPage.vue — 节点管理/任务提交/实时监控

Route

  • /inference-network — 推理网络

六、配置选项

javascript
inferenceNetwork: {
  enabled: false,
  maxNodes: 100,
  heartbeatIntervalMs: 30000,
  defaultPrivacyMode: 'standard',
  federatedLearningEnabled: false,
},

七、Context Engineering

  • step 4.10: setInferenceScheduler() — 注入推理网络上下文

附录:规范章节补全(v5.0.3.108)

本文为系统设计子文档。为对齐项目文档标准结构,下列章节以 见正文 指引或简述方式补齐若干视角,不重复正文细节。

1. 概述

见正文「模块概述 / 功能描述」。Phase 67 去中心化推理网络系统:分布式 LLM 推理网络。

2. 核心特性

去中心化推理 / 节点调度 / 负载均衡。

3. 系统架构

见正文「架构设计」。

4. 系统定位

ChainlessChain 的「去中心化推理网络系统」。

5. 核心功能

见正文模块概述与各节。

6. 技术架构

见正文实现章节。

7. 系统特点

见正文(状态 / 版本 / 特性)。

8. 应用场景

见正文应用场景 / 背景。

9. 竞品对比

见正文对比(如有)。

10. 配置参考

见正文配置 / 参数章节。

11. 性能指标

见正文性能 / 指标章节。

12. 测试覆盖

见正文测试章节。

13. 安全考虑

见正文安全 / 权限章节。

14. 故障排除

见正文故障 / 已知限制章节。

15. 关键文件

见正文实现位置 / 关键文件章节。

16. 使用示例

见正文使用 / API 示例。

17. 相关文档

系统设计主文档docs-site 对应功能页。

基于 MIT 许可发布