agentzh
26-11-20 03:19 微博认证:OpenResty Inc 创始人

Redis 的 CPU 和内存还有余量,为什么一到流量高峰,网关却连不上 Redis?

很多网关用 Redis 做登录态校验和实时限流。流量突然上来时,新建连接可能先把配额打满。请求一旦开始超时,重试又会把连接压力往上推。

我们针对单实例和集群分别做了两个针对 OpenResty 的 Redis 客户端私有库,lua-resty-redis-fast 和 lua-resty-redis-cluster-fast。以单实例版为例,只要网关节点和 worker 数量不变,占用的 Redis 连接数就不会随业务并发量增长。它也沿用了开源 lua-resty-redis 的常用 Lua 接口,方便已有业务评估和迁移。

我们分别用并发 GET 对比了这两个库和对应的开源客户端。以下是各组测试结果的中位值。

• 单实例版的吞吐量是开源客户端的 3.47 倍,P99 从 1.793 ms 降到 0.785 ms。
• 集群版的吞吐量是开源客户端的 7.14 倍,P99 从 6.821 ms 降到 0.972 ms。

网关前置查询越快,留给后端处理请求的时间就越多。线上能改善多少,还要看实际的 Redis 命令和网络环境。完整的压测数据和接入说明见评论区。

对这些私有库感兴趣的朋友可以直接联系我们。

#OpenResty##Redis##性能优化#

发布于 美国