模块 02 · 拓扑建模
智能系统运维可观测性 · 拓扑建模模块功能逻辑设计
1. 功能概述
拓扑建模模块是 Observable Ops 平台的「数字底盘」——将物理世界的基础设施和逻辑世界的依赖关系抽象为统一知识图谱，为所有上层智能分析模块提供拓扑数据服务。
1.1 模块定位
flowchart LR
subgraph 采集["数据采集层"]
C1[K8s API]
C2[CMDB]
C3[Service Mesh]
C4[Prometheus]
end
subgraph 本模块["02 拓扑建模"]
T1[拓扑构建]
T2[拓扑存储]
T3[拓扑查询]
T4[拓扑分析]
end
subgraph 上层["上层消费模块"]
U1[04 智能感知]
U2[05 认知网络]
U3[06 故障研判]
U4[07 根因分析]
U5[08 影响分析]
end
采集 --> 本模块 --> 上层
style 采集 fill:#e3f2fd
style 本模块 fill:#d1e7dd
style 上层 fill:#fff9c4
| 定位维度 |
描述 |
| 平台定位 |
数据基础设施模块，为所有上层智能分析模块提供拓扑数据服务 |
| 能力定位 |
拓扑数据的构建、存储、查询和分析能力 |
| 数据定位 |
实体（节点）+ 关系（边）+ 属性统一模型 |
| 技术定位 |
图数据库（Neo4j）+ 时序数据库（TimescaleDB）+ 消息队列（Kafka） |
1.2 职责边界
flowchart TB
subgraph 做["职责范围：做"]
D1[多源拓扑数据汇聚与融合]
D2[实体与关系统一建模]
D3[图谱实时更新与增量同步]
D4[拓扑查询 API]
D5[拓扑分析算法]
D6[拓扑变更事件发布]
end
subgraph 不做["明确不做"]
N1[不做监控指标采集]
N2[不做异常检测判断]
N3[不做根因推理]
N4[不做业务告警通知]
end
做 --> 不做
style 做 fill:#d1e7dd
style 不做 fill:#fce7f3
| 类型 |
具体职责 |
| 做 |
多源拓扑数据汇聚融合（K8s、CMDB、Prometheus、Service Mesh）· 实体与关系统一建模 · 图谱实时更新与增量同步 · 拓扑查询 API（路径、邻居、子图、聚合）· 拓扑分析算法（连通分量、中心性、PageRank、社区发现）· 拓扑变更事件发布 |
| 不做 |
原始指标采集（采集层负责）· 异常检测逻辑（智能感知负责）· 根因推理（根因分析负责）· 业务告警通知（应用层负责） |
1.3 模块协作关系
flowchart LR
M02[02 拓扑建模] --> M03[03 数据融合]
M02 --> M04[04 智能感知]
M02 --> M05[05 认知网络]
M02 --> M06[06 故障研判]
M02 --> M07[07 根因分析]
M02 --> M08[08 影响分析]
M03 -.->|数据融合| M02
M04 -.->|拓扑查询| M02
M05 -.->|知识检索| M02
M06 -.->|拓扑上下文| M02
M07 -.->|故障路径| M02
M08 -.->|影响范围| M02
style M02 fill:#d1e7dd
style M03 fill:#e3f2fd
style M04 fill:#fff9c4
style M05 fill:#fff9c4
style M06 fill:#ffccbc
style M07 fill:#ffccbc
style M08 fill:#ffccbc
| 上游模块 |
数据流向 |
接口方式 |
| 03 数据融合 |
汇聚后的标准化实体/关系数据 |
Kafka Topic 推送 |
| 04 智能感知 |
查询拓扑上下文用于异常检测 |
gRPC 查询 |
| 05 认知网络 |
构建知识图谱的拓扑层 |
gRPC 订阅 |
| 06 故障研判 |
获取故障相关的拓扑信息 |
gRPC 查询 |
| 07 根因分析 |
故障传播路径分析 |
gRPC 查询 |
| 08 影响分析 |
影响范围评估 |
gRPC 查询 |
2. 功能架构
2.1 数据模型架构
flowchart TB
subgraph 实体层["实体层级模型"]
L1[基础设施层]
L2[逻辑服务层]
L3[应用实例层]
L4[运行时层]
end
subgraph 基础设施层
I1[主机 Host]
I2[网络设备 Network]
I3[存储设备 Storage]
end
subgraph 逻辑服务层
L21[服务 Service]
L22[命名空间 Namespace]
L23[集群 Cluster]
L24[网关 Gateway]
end
subgraph 应用实例层
L31[容器 Container]
L32[进程 Process]
L33[端点 Endpoint]
L34[域名 Domain]
end
subgraph 运行时层
R1[指标 Metric]
R2[追踪 Trace]
R3[日志 Log]
R4[事件 Event]
end
L1 --> L2 --> L3 --> L4
style L1 fill:#e3f2fd
style L2 fill:#d1e7dd
style L3 fill:#fff9c4
style L4 fill:#ffccbc
实体模型
| 实体类型 |
英文名 |
关键属性 |
数据来源 |
| 主机 |
Host |
hostname, ip, os, cpu_count, mem_gb, cloud_region |
CMDB / 云平台 API |
| 网络设备 |
NetworkDevice |
device_type, vendor, model |
CMDB / SNMP |
| 服务 |
Service |
service_name, namespace, protocol, port |
K8s API / 服务发现 |
| 集群 |
Cluster |
cluster_id, cluster_name, version, cloud_provider |
K8s API |
| 命名空间 |
Namespace |
ns_name, cluster, labels |
K8s API |
| 容器 |
Container |
container_id, image, pod_name, node_name, status |
K8s API / cAdvisor |
| 网关 |
Gateway |
gateway_name, upstream_services, rate_limit |
Service Mesh |
| 端点 |
Endpoint |
path, method, status_code, latency_p99 |
APM / 日志解析 |
关系模型
| 关系 |
英文名 |
起点 |
终点 |
属性 |
| 包含 |
contains |
Cluster / Namespace / Service |
Namespace / Service / Container |
labels, since |
| 部署在 |
runs_on |
Container / Pod |
Host / Node |
node_name, zone |
| 调用 |
calls |
Service / Container |
Service / Endpoint |
protocol, port, qps, latency_avg |
| 访问 |
accesses |
Gateway / Ingress |
Service |
path, method, rate_limit |
| 监控 |
monitors |
Prometheus / Telegraf |
Host / Service / Container |
scrape_interval, metrics |
| 同步 |
syncs |
CMDB |
Host / NetworkDevice |
last_sync, source |
属性模型
| 属性类型 |
说明 |
存储方式 |
| 静态属性 |
不经常变化（hostname, os, region） |
Neo4j 节点属性 |
| 动态属性 |
实时变化（status, cpu_usage, qps） |
TimescaleDB 时序数据 |
| 关系属性 |
边的属性（调用 qps, 延迟） |
Neo4j 边属性 |
| 元数据属性 |
标签、注解、描述 |
Neo4j 节点属性（JSON） |
2.2 分层架构
flowchart TB
subgraph 元数据层["元数据层 Meta Graph"]
G1[Schema 定义
实体类型 + 关系类型]
end
subgraph 实例层["实例层 Instance Graph"]
G2[具体实体
具体关系实例]
end
subgraph 聚合层["聚合层 Aggregate Graph"]
G3[服务拓扑视图
集群拓扑视图]
end
subgraph 时序层["时序层 Temporal Graph"]
G4[历史快照
变更轨迹]
end
G1 --> G2 --> G3 --> G4
style G1 fill:#e3f2fd
style G2 fill:#d1e7dd
style G3 fill:#fff9c4
style G4 fill:#ffccbc
| 层次 |
描述 |
查询场景 |
| 元数据层 |
Schema 级别的实体类型和关系类型定义 |
类型查询、Schema 验证 |
| 实例层 |
具体实体和关系实例 |
节点查询、路径查询、邻居查询 |
| 聚合层 |
按服务/集群聚合的视图 |
服务拓扑、集群拓扑、聚合指标 |
| 时序层 |
拓扑变更的历史快照 |
变更轨迹、回滚分析、故障复盘 |
2.3 协作模式
sequenceDiagram
participant CMDB as 数据源
participant TM as 02 拓扑建模
participant NB as Neo4j
participant RD as Redis
participant 04 as 04 智能感知
participant 06 as 06 故障研判
Note over TM: 启动时全量同步
CMDB->>TM: 批量导出
TM->>TM: 解析 + 实体映射
TM->>NB: 批量写入
NB-->>TM: 写入完成
TM->>RD: 缓存预热
Note over TM: 运行期增量更新
loop 实时监听
CMDB->>TM: K8s Watch / API 变更
TM->>TM: 增量解析
TM->>NB: 事务更新
TM->>RD: 缓存失效
TM->>04: Kafka拓扑变更事件
end
Note over TM: 查询请求
04->>TM: gRPC: GetNeighbors
TM->>RD: 缓存查询
RD-->>TM: 缓存命中
TM-->>04: 邻居节点列表
06->>TM: gRPC: FindPath
TM->>NB: Cypher 路径查询
NB-->>TM: 路径结果
TM-->>06: 故障传播路径
3. 核心功能
3.1 拓扑构建
flowchart LR
C1[多源数据] --> P1[数据解析]
P1 --> P2[实体映射]
P2 --> P3[关系抽取]
P3 --> P4[冲突解决]
P4 --> P5[图谱写入]
P5 --> E1[Neo4j]
P5 --> E2[Kafka 事件]
style C1 fill:#e3f2fd
style P1 fill:#d1e7dd
style P2 fill:#d1e7dd
style P3 fill:#d1e7dd
style P4 fill:#fff9c4
style P5 fill:#fff9c4
style E1 fill:#e1bee7
style E2 fill:#ffccbc
| 子功能 |
输入 |
处理逻辑 |
输出 |
| 主动发现 |
K8s API / CMDB API / 服务发现 |
周期性拉取 + Diff 对比 |
增量拓扑变更 |
| 被动接收 |
Kafka Topic（服务变更、实例变更） |
实时消费 + 解析 + 写入 |
实时拓扑更新 |
| 实体映射 |
原始数据（多种格式） |
格式标准化 + ID 映射 + 去重 |
标准化实体 |
| 关系抽取 |
标准化实体 + 数据源上下文 |
关系类型识别 + 方向判断 + 属性提取 |
标准化关系 |
| 冲突解决 |
多源同一实体 |
优先级策略（CMDB > K8s > Prometheus） |
合并后实体 |
| 图谱写入 |
合并后实体 + 关系 |
Neo4j Transaction + 批量写入 |
图数据库记录 |
冲突解决策略详解
多源数据不可避免出现冲突，按以下优先级链处理：
| 冲突场景 |
默认策略 |
可配置选项 |
| 同一实体属性冲突 |
CMDB > K8s > Prometheus > Service Mesh |
按数据源调整优先级 |
| 实体删除冲突 |
一个源删除 + 另一源存在 → 标记疑似删除，人工确认 |
自动删除 / 标记 |
| 关系方向冲突 |
服务调用关系以 Service Mesh 为准 |
可指定权威数据源 |
| 类型不一致冲突 |
同一 ID 在不同源类型不同 → 报错 + 人工介入 |
忽略 / 取新 |
3.2 拓扑更新
flowchart TB
subgraph 增量["增量更新"]
U1[变更检测
Hash Diff]
U2[影响评估
变更范围]
U3[原子更新
ACID Transaction]
U4[事件发布
Kafka]
end
subgraph 全量["全量更新"]
F1[周期全量
每日 / 每周]
F2[快照存储
时序数据库]
F3[Diff 对比
变更集]
end
U1 --> U2 --> U3 --> U4
F1 --> F2 --> F3
style 增量 fill:#d1e7dd
style 全量 fill:#fff9c4
| 更新策略 |
触发条件 |
更新范围 |
延迟 |
| 实时增量 |
Kafka 事件 / K8s Webhook |
变更节点 + 直接关联边 |
< 1s |
| 定时增量 |
每 5 分钟轮询 |
上次轮询至今的变更 |
< 5min |
| 全量同步 |
每日 02:00 / 手动触发 |
全部实体 + 关系 |
< 30min |
| 故障触发 |
检测到数据源异常恢复 |
故障时段变更 |
< 5min |
3.3 拓扑查询
| 查询类型 |
Cypher 示例 |
场景 |
| 节点查询 |
MATCH (n:Service {name: $name}) RETURN n |
按名称/类型查找节点 |
| 路径查询 |
MATCH path = (a)-[:calls*1..3]-(b) WHERE a.name=$x RETURN path |
查找两点间所有路径 |
| 邻居查询 |
MATCH (n)-[r]-(m) WHERE n.name=$name RETURN m |
查找直接关联节点 |
| 子图查询 |
MATCH p = ()-[*1..2]-() WHERE all(n IN nodes(p) WHERE n.cluster=$cluster) RETURN p |
按条件截取子图 |
| 聚合查询 |
MATCH (n:Service) RETURN n.namespace, count(n) AS cnt |
按属性聚合统计 |
| 时序查询 |
MATCH (n)-[r]->(m) WHERE r.updated_at > $since RETURN r |
查询变更历史 |
实战查询场景
| 场景 |
查询意图 |
结果示例 |
| SQL 慢查询分析 |
查找 order-svc 依赖的所有数据库实例 |
order-svc → calls → order-db:5432 + order-svc → calls → user-db:3306 |
| 发布影响评估 |
查找 api-gateway 新版本部署后会影响的上下游 |
上游依赖（3 个服务）· 下游被调用（8 个服务）· 间接影响（15 个端点） |
| 故障隔离范围 |
查找 payment-svc 不可达时可能影响的所有路径 |
连通分量分析 → 3 个服务 + 2 个数据库将不可达 |
| 链路追踪辅助 |
查找从 frontend 到 recommend 的所有调用链 |
4 条路径：最长 5 跳，最短 2 跳 |
| 配置变更验证 |
新上线 redis-cluster-2 后，检查哪些服务已连接到新节点 |
已迁移: session-svc / cache-svc · 未迁移: rate-limiter（告警） |
3.4 拓扑分析
| 分析算法 |
输入 |
输出 |
应用场景 |
| 连通分量 |
全量拓扑 |
连通分量列表 |
故障隔离范围判断 |
| 强连通分量 SCC |
有向拓扑 |
SCC 列表 |
服务循环依赖检测 |
| PageRank |
有向拓扑 |
节点排名分数 |
核心服务识别 |
| 介数中心性 |
拓扑图 |
节点介数分数 |
关键链路识别 |
| 社区发现 Louvain |
无向拓扑 |
社区划分 |
服务分组分析 |
| 故障传播路径 |
故障节点 |
传播路径 DAG |
影响分析、根因推理 |
4. 技术实现
4.1 数据采集
flowchart LR
subgraph 数据源
DS1[K8s API Server]
DS2[CMDB]
DS3[Service Mesh]
DS4[Prometheus]
DS5[DNS 系统]
end
subgraph 采集层
CL1[主动发现
API轮询]
CL2[被动接收
Webhook / Kafka]
end
subgraph 处理层
PR1[格式解析]
PR2[实体映射]
PR3[关系抽取]
PR4[冲突解决]
end
DS1 & DS2 & DS3 & DS4 & DS5 --> CL1 & CL2
CL1 & CL2 --> PR1 --> PR2 --> PR3 --> PR4
style 数据源 fill:#e3f2fd
style 采集层 fill:#d1e7dd
style 处理层 fill:#fff9c4
| 数据源 |
采集方式 |
频率 |
数据内容 |
| K8s API Server |
Watch + List |
实时 + 5min 轮询 |
Node / Pod / Service / Endpoint / Ingress |
| CMDB |
REST API 轮询 |
5min 轮询 |
主机 / 网络设备 / 存储设备 |
| Service Mesh |
Envoy ADS / CDS |
实时 |
服务发现 / 流量拓扑 / 路由规则 |
| Prometheus |
PromQL + Targets |
15s 轮询 |
指标采集目标 / 告警规则 |
| DNS 系统 |
DNS Zone Transfer |
1h 轮询 |
域名解析 / CNAME / A 记录 |
4.2 存储架构
| 存储引擎 |
存储内容 |
数据模型 |
容量规划 |
| Neo4j |
实体 + 关系 + 属性 |
属性图（Property Graph） |
100 万节点 / 1000 万边 |
| TimescaleDB |
拓扑变更时序 |
时序表（node_changes / edge_changes） |
保留 90 天 |
| Kafka |
变更事件流 |
6 个 Topic（按事件类型分区） |
保留 7 天 |
| Redis |
查询缓存 + 变更缓冲 |
String / Hash / Sorted Set |
10GB |
4.3 缓存策略
| 缓存类型 |
内容 |
TTL |
更新策略 |
| 节点缓存 |
高频查询节点 |
5 分钟 |
LRU + 变更事件失效 |
| 路径缓存 |
热点路径查询结果 |
1 分钟 |
LRU + 边变更失效 |
| 聚合缓存 |
服务统计 / 集群统计 |
5 分钟 |
定时刷新 |
| 时序缓冲 |
变更事件批量写入缓冲 |
实时 flush |
时间/数量双阈值触发 |
4.4 错误处理与边界场景
| 异常场景 |
检测方式 |
处理策略 |
恢复动作 |
| 数据源不可达 |
健康检查超时 |
使用缓存数据 + 标记数据源离线 |
重试 3 次 → 指数退避 → 告警 |
| 数据格式异常 |
Schema 校验失败 |
跳过异常记录 + 写入死信队列 |
人工检视死信队列 |
| 实体 ID 冲突 |
唯一约束冲突 |
按优先级链合并 |
记录冲突日志 |
| Neo4j 写入失败 |
事务异常 |
回滚 + 重试队列 |
落盘到本地队列，恢复后回放 |
| Kafka 消费积压 |
消费延迟 > 阈值 |
降级为批处理模式 |
积压消除后恢复实时 |
| 全量同步中断 |
同步任务超时 |
标记断点 + 下次从断点续传 |
重试 + 通知运维 |
4.5 图分析引擎
flowchart LR
G1[查询请求] --> G2[查询计划生成
Cypher Parser]
G2 --> G3[查询优化
Index + Cost Model]
G3 --> G4[执行引擎
运行时]
G4 --> G5[结果聚合]
G5 --> G6[返回结果]
G4 -->|深度查询| A1[图算法库
PageRank / Louvain
连通分量]
A1 --> G5
style G1 fill:#e3f2fd
style G2 fill:#d1e7dd
style G3 fill:#fff9c4
style G4 fill:#ffccbc
style A1 fill:#e1bee7
style G5 fill:#e1bee7
style G6 fill:#d1e7dd
| 组件 |
技术选型 |
说明 |
| 查询语言 |
Cypher |
Neo4j 原生查询语言 |
| 查询优化器 |
Cost-based Optimizer |
基于统计信息选择最优执行计划 |
| 图算法库 |
Neo4j Graph Data Science (GDS) |
PageRank、Louvain、连通分量等 |
| 索引 |
Composite Index + Range Index |
支持多字段组合查询 |
5. 接口设计
5.1 REST API
| 方法 |
路径 |
说明 |
响应 |
| GET |
/api/v1/topology/nodes |
查询节点列表 |
NodeList |
| GET |
/api/v1/topology/nodes/{id} |
查询单个节点 |
Node |
| GET |
/api/v1/topology/edges |
查询边列表 |
EdgeList |
| POST |
/api/v1/topology/query/path |
路径查询 |
Path[] |
| POST |
/api/v1/topology/query/neighbors |
邻居查询 |
Node[] |
| POST |
/api/v1/topology/query/subgraph |
子图查询 |
Graph |
| POST |
/api/v1/topology/analyze |
拓扑分析 |
AnalyzeResult |
| GET |
/api/v1/topology/stats |
拓扑统计 |
TopologyStats |
| POST |
/api/v1/topology/sync/trigger |
手动触发同步 |
SyncJob |
5.2 gRPC 接口
| 服务 |
方法 |
说明 |
场景 |
| TopologyService |
GetNode |
获取单个节点 |
故障研判上下文 |
| TopologyService |
FindPath |
路径查询 |
根因分析传播路径 |
| TopologyService |
GetNeighbors |
邻居查询 |
影响分析 |
| TopologyService |
GetSubGraph |
子图查询 |
服务拓扑大图 |
| TopologyService |
AnalyzeGraph |
拓扑分析 |
PageRank / 社区发现 |
| TopologyService |
SyncTopology |
触发全量同步 |
管理面操作 |
5.3 Kafka 事件流
| Topic |
事件类型 |
Payload |
消费者 |
topology.node.created |
节点创建 |
NodeCreatedEvent |
认知网络、智能感知 |
topology.node.updated |
节点更新 |
NodeUpdatedEvent |
认知网络、智能感知 |
topology.node.deleted |
节点删除 |
NodeDeletedEvent |
认知网络、智能感知 |
topology.edge.created |
边创建 |
EdgeCreatedEvent |
认知网络、根因分析 |
topology.edge.updated |
边更新 |
EdgeUpdatedEvent |
认知网络、根因分析 |
topology.sync.completed |
同步完成 |
SyncCompletedEvent |
监控告警 |
5.4 接口质量指标
| 指标 |
SLO 目标 |
告警阈值 |
| 可用性 |
99.95% |
< 99.9% |
| 节点查询延迟 P99 |
< 50ms |
> 100ms |
| 路径查询延迟 P99 |
< 200ms |
> 500ms |
| 子图查询延迟 P99 |
< 1s |
> 2s |
| 实时更新延迟 |
< 1s |
> 5s |
| 图分析延迟 P99 |
< 5s |
> 10s |
| 吞吐量 |
> 5000 QPS |
< 2000 QPS |
6. 量化指标
6.1 性能指标
| 指标名称 |
当前基线 |
目标值 |
测量方法 |
| 节点查询延迟 P99 |
< 80ms |
< 50ms |
APM 追踪 |
| 路径查询延迟 P99 |
< 300ms |
< 200ms |
APM 追踪 |
| 子图查询延迟 P99 |
< 2s |
< 1s |
APM 追踪 |
| 实时更新延迟 |
< 3s |
< 1s |
变更时间戳差值 |
| 图分析延迟 P99 |
< 10s |
< 5s |
日志时间戳 |
| 全量同步时间 |
< 45min |
< 30min |
同步任务日志 |
| API 吞吐量 |
> 3000 QPS |
> 5000 QPS |
Prometheus metrics |
6.2 准确指标
| 指标名称 |
当前基线 |
目标值 |
测量方法 |
| 实体覆盖率 |
90% |
> 98% |
与 CMDB 对比 |
| 关系准确率 |
92% |
> 97% |
人工抽检验证 |
| 数据一致性 |
95% |
99.5% |
多源交叉验证 |
| 重复实体率 |
< 3% |
< 0.5% |
ID 去重分析 |
| 孤立节点率 |
< 5% |
< 2% |
图分析算法 |
6.3 可用指标
| 指标名称 |
当前基线 |
目标值 |
测量方法 |
| 系统可用性 |
99.5% |
99.95% |
正常运行时间统计 |
| 数据完整性 |
99% |
99.99% |
缺失数据比率监控 |
| 事件丢失率 |
< 0.1% |
< 0.01% |
Kafka 消费位点校验 |
| Neo4j 可用性 |
99.9% |
99.99% |
健康检查 |
| 同步成功率 |
95% |
> 99% |
同步任务结果统计 |
7. 部署架构
7.1 K8s 部署架构
flowchart TB
subgraph K8s["Kubernetes 集群"]
subgraph 数据层["数据层 StatefulSet"]
NB1[Neo4j Primary]
NB2[Neo4j Replica1]
NB3[Neo4j Replica2]
RD[Redis Cluster]
KG[Kafka Broker]
end
subgraph 服务层["服务层 Deployment"]
TMS[Topology Svc x3]
TMA[Topology API x2]
end
subgraph 采集层["采集层 DaemonSet"]
TC[Topology Collector]
end
end
subgraph 外部["外部数据源"]
K8S_API[K8s API Server]
CMDB[CMDB]
end
K8S_API --> TC
CMDB --> TC
TC --> TMS
TMS --> NB1
TMS --> RD
TMS --> KG
TMA --> TMS
TMA --> NB1
NB1 --> NB2
NB1 --> NB3
style K8s fill:#f0f9ff
style 数据层 fill:#fff9c4
style 服务层 fill:#d1e7dd
style 采集层 fill:#ffccbc
