多服务器通讯层应该如何设计—一次code review小记 – 后端技术 by Tim Yang

多服务器通讯层应该如何设计—一次code review小记 – 后端技术 by Tim Yang

对于服务器内部的通讯功能，已经有TCP提供可靠传输，已经有类似Apache MINA这样的框架来提供上层的封装，业务逻辑代码完全可以直接基于socket或MINA这样的框架来直接传送数据，我们为什么还需要包装一个独立的通讯层？

目前考虑到的原因有

• Connection pool作用。为了节点间更高的throughput, 通常两节点之间会使用n个固定连接来传输。n可设为CPU内核数大小。
• 多节点互相连接的处理。一个节点需要连接n个节点发送信息。如果这部分逻辑放在业务调用层来实现，业务层会变得臃肿。
• 处理自动重连逻辑，单个节点可以停用并重新启用。将这部分逻辑封装到通讯层，上层调用会更优雅。
• 服务器之间通讯很短时间内不稳定(比如10s左右的中断)的处理。如果IDC内部或IDC之间通讯不稳定会造成这种现象。我们希望这种短暂的中断，不要引起业务逻辑重新选择节点，造成大量数据迁移及cache重构带来的内部振荡。
• 海量数据传输最优化，大部分时间单个节点单向传输会>10k个数据包/s，独立的通讯层容易测试观察该环节是否存在瓶颈。

Read full article from 多服务器通讯层应该如何设计—一次code review小记 – 后端技术 by Tim Yang