高性能低延时系统设计

高性能、低延迟相关却又不同。

高性能一般指系统有强大的处理、吞吐能力，单服单机单核高能效比、性价比，而低延迟一般指从提出请求到吐出回应的时间间隔短，它们是不同的关注，有可能延迟高但整体性能高。

但更多时候，高性能和低延迟是密切相关的，关键设计技术也是一致的，这些技术很多都是通用的，在后端架构中被广泛使用。

本文主要介绍高性能低延迟系统设计的几项通用技术：包括减少拷贝，trade-off、CPU卸载负荷、池化技术、内存优化技术、并行化和加锁技术、缓存、Pipeline等，参考了网上的一些资料，也借用了一些网图，特此声明和致谢。

参考

• https://mp.weixin.qq.com/s/1rl00FJU9qgF6Dqz_KtY2Q