减少平均时延的策略

为了提高服务的高可用性，减少时延带来的诟病，采取减少平均时延策略， 可用方式有哪些?如何将此策略与现在流行的微服务框架结合，给出你熟悉微服 务框架的融合的设计方案。

服务调用（通信）可以分为以下几个层级

• injvm 进程内
• innative 主机内
• instack 机架内
• inzone 机房内
• inregion 区域内
• global 跨区域

在设计微服务调用时，尽量使用上面层级的，而不是下面层级的：
可以进 程内调用的，不要跨进程；
可以主机内调用，不要跨主机；
可以机架内调用的， 不要跨机架；
可以机房内调用的，不要跨机房；
可以区域内调用的，不要跨区域。

在设计上运用了以上思想的有如下中间件：

1. Dubbo

a) 本地调用。
使用了 Injvm 协议，是一个伪协议，它不开启端口，不发 起远程调用，只在 JVM 内直接关联，但执行 Dubbo 的 Filter 链。
从 dubbo2.2.0 开始，每个服务默认都会在本地暴露；
在引用服务的时候，默认优先引用本地服务；
如果希望引用远程服务可以使用一下配置强制引用远程服务。不用跨网络，可以消除网络开销(injvm)。
b) 跨网络调用。
对dubbo 来说，所有的跨网络服务都是对等的，不区分跨中心、跨区域，因此做不到同机房->同城->跨城这样的优先级。

2. Spring Cloud。

Spring Cloud 有 region（地区）和 zone（中心）的概念，这两个概念源自于 Eureka。通过不同的调用优先级，可以减少网络开销：
a) 一个调用发起时优先调用同一个 zone 下的服务(inzone)。
b) 调用失败则再次调用同一个 region 下的不同 zone 下的服务(inregion)。
c) 如果再次失败，则调用不同 region 下的服务(global)。

3. Kubernetes。

Kubernetes 网络有以下 4 中模式。 使用不同的网络模式，可以减少网络开销：

a) 无网模式。单机应用。内部调(injvm)。
b) Host 模式。共用宿主机。同一个Pod下的调用，如service和sidecar之间的通信，本地网络通信(instack)。
c) Bridge 模式。同一个物理机，不同 Pod 之间的通信，会用到 Docker Bridge0。物理层面的通信，正常的机房内网络通信(inzone)。
d) SDN (Software Defined Network)。软件层面的网络路由。