一、引言:当Redis“太重”,Memcached才是正解
在《Nginx外置缓存》系列中,我们多次以Redis作为分布式缓存的代表。但在某些极端追求低延迟、高吞吐、纯KV语义的场景下,Redis反而成了“过度设计”:
- 会话缓存(Session):只需GET/SET/DELETE,不需要List/Set/Hash等复杂数据结构;
- API响应片段缓存:对象大小固定<10KB,QPS > 10万,Redis的单线程模型和持久化开销成为瓶颈;
- 计数器/限流令牌桶:仅需原子INCR/DECR,无需AOF/RDB带来的IO抖动;
- 边缘节点缓存:内存资源受限,无法承担Redis fork子进程时的内存翻倍风险。
这些场景的共同特征是:数据是临时的、结构是扁平的、操作是原子的、对延迟极其敏感。这正是Memcached的主场——一个为纯KV缓存而生的、多线程的、无持久化的内存引擎。
但“Nginx + Memcached”绝非简单的proxy_pass替换。原生Nginx的memcached_module功能残缺(只读不写),生产环境必须借助ngx_memc模块或OpenResty的lua-resty-memcached库才能实现完整的读写闭环。本文将从协议特性、模块选型、生产配置到性能调优,构建一套真正可用的Nginx + Memcached外置缓存体系。
二、为什么选Memcached而非Redis?
2.1 核心差异对比
| 维度 | Memcached | Redis |
|---|---|---|
| 数据模型 | 纯KV字符串 | String/List/Hash/Set/ZSet/Stream |
| 线程模型 | 多线程(CPU利用率高) | 单线程(6.0后IO多线程,命令仍单线程) |
| 持久化 | ❌ 无 | ✅ RDB/AOF |
| 集群模式 | 客户端一致性哈希 | 服务端Cluster/Sentinel |
| 内存管理 | Slab Allocator(无碎片) | jemalloc(可能有碎片) |
| 最大Value | 默认1MB(可调至128MB) | 512MB |
| 过期策略 | 惰性+定期淘汰 | 惰性+定期淘汰 |
| 适用场景 | 临时KV缓存、Session、计数器 | 复杂数据结构、持久化、消息队列 |
2.2 选型决策树
你的缓存需求? ├─ 需要复杂数据结构(List/Hash/Set) → Redis ├─ 需要持久化/主从复制 → Redis ├─ Value > 1MB → Redis └─ 纯KV + 临时数据 + 极致低延迟 → Memcached ✅ 你的QPS和延迟要求? ├─ QPS < 5万 & P99 < 1ms → Redis足够 ├─ QPS > 10万 & P99 < 0.3ms → Memcached ✅ └─ CPU密集型序列化/反序列化 → Memcached(多线程优势)📌核心认知:Memcached不是“简化版Redis”,而是专为KV缓存优化的专用引擎。它的价值不在于功能多,而在于把“简单的事做到极致”。
三、Nginx对接Memcached的三种路径
3.1 路径对比
| 路径 | 模块 | 读 | 写 | 删 | 连接池 | 适用场景 |
|---|---|---|---|---|---|---|
| 原生memcached_module | ngx_http_memcached_module | ✅ | ❌ | ❌ | ❌ | 仅读取预填充缓存(已废弃) |
| ngx_memc | ngx_memc_module | ✅ | ✅ | ✅ | ❌ | 传统Nginx、简单读写 |
| lua-resty-memcached | OpenResty | ✅ | ✅ | ✅ | ✅ | 生产首选、灵活逻辑 |
⚠️重要提醒:原生
memcached_module不支持写入和删除,且无连接池,生产环境严禁使用。本文聚焦lua-resty-memcached方案。
3.2 环境准备
# 安装OpenResty(内置lua-resty-memcached) wget https://openresty.org/package/openresty-1.27.1.tar.gz tar xzf openresty-1.27.1.tar.gz && cd openresty-1.27.1 ./configure --with-luajit --with-http_lua_module make && make install # 验证库可用 /usr/local/openresty/bin/resty -e 'print(require "resty.memcached")'四、lua-resty-memcached生产级实现
4.1 核心缓存模块
创建/usr/local/openresty/lualib/mcache.lua:
local memcached = require "resty.memcached" local cjson = require "cjson.safe" local _M = {} -- Memcached连接池配置 local MC_CONF = { host = "memcached.internal", port = 11211, pool_size = 200, -- 每worker连接池大小 backlog = 500, -- 等待队列 connect_timeout = 100, -- ms read_timeout = 200, -- ms } -- 获取连接(带连接池) local function get_mc() local mc, err = memcached:new() if not mc then ngx.log(ngx.ERR, "memcached new failed: ", err) return nil, err end mc:set_timeouts(MC_CONF.connect_timeout, MC_CONF.read_timeout, MC_CONF.read_timeout) local ok, err = mc:connect(MC_CONF.host, MC_CONF.port) if not ok then ngx.log(ngx.ERR, "memcached connect failed: ", err) return nil, err end return mc, nil end -- 释放连接到池中 local function release_mc(mc) local ok, err = mc:set_keepalive(10000, MC_CONF.pool_size) if not ok then ngx.log(ngx.ERR, "memcached keepalive failed: ", err) end end -- 读取缓存 function _M.get(key) local mc, err = get_mc() if not mc then return nil, err end local res, flags, err = mc:get(key) release_mc(mc) if not res then if err == "not found" then return nil, "MISS" end return nil, err end return res, nil -- Memcached返回原始字符串,自行解码 end -- 写入缓存(带TTL) function _M.set(key, value, ttl) local mc, err = get_mc() if not mc then return false, err end local ok, err = mc:set(key, value, ttl or 300) release_mc(mc) return ok, err end -- 删除缓存 function _M.delete(key) local mc, err = get_mc() if not mc then return false, err end local ok, err = mc:delete(key) release_mc(mc) return ok, err end -- 原子递增(计数器场景) function _M.incr(key, delta, init_ttl) local mc, err = get_mc() if not mc then return nil, err end -- 先尝试incr,若key不存在则set初始值 local val, err = mc:incr(key, delta) if not val and err == "not found" then local ok, serr = mc:set(key, tostring(delta), init_ttl or 60) if ok then release_mc(mc) return delta, nil end release_mc(mc) return nil, serr end release_mc(mc) return val, err end return _M4.2 Nginx配置集成
http { lua_shared_dict mc_local_cache 50m; -- L1本地缓存 init_by_lua_block { mcache = require "mcache" } server { listen 80; location /api/session/ { content_by_lua_block { local session_id = ngx.var.cookie_session_id if not session_id then ngx.status = 401 return ngx.say('{"error":"unauthorized"}') end local key = "sess:" .. session_id -- L1: 本地共享字典(微秒级) local local_cache = ngx.shared.mc_local_cache local val = local_cache:get(key) if val then ngx.header["X-Cache"] = "L1-HIT" ngx.say(val) return end -- L2: Memcached local data, err = mcache.get(key) if data then local_cache:set(key, data, 3) -- L1 TTL极短 ngx.header["X-Cache"] = "MC-HIT" ngx.say(data) return end -- MISS: 回源 local res = ngx.location.capture("/internal/session_backend") if res.status == 200 then mcache.set(key, res.body, 1800) -- 30分钟 local_cache:set(key, res.body, 3) ngx.header["X-Cache"] = "MISS" ngx.say(res.body) else ngx.status = res.status ngx.say(res.body) end } } # 计数器接口(利用Memcached原子INCR) location /api/counter/ { content_by_lua_block { local key = "cnt:" .. ngx.var.uri local val, err = mcache.incr(key, 1, 3600) if val then ngx.say(tostring(val)) else ngx.log(ngx.ERR, "counter incr failed: ", err) ngx.status = 500 ngx.say('{"error":"counter unavailable"}') end } } location /internal/session_backend { internal; proxy_pass http://session_service; } } }4.3 两层缓存架构解析
| 层级 | 存储 | TTL | 作用 | 延迟 |
|---|---|---|---|---|
| L1 | lua_shared_dict | 3s | 拦截热点Session,避免网络开销 | <10μs |
| L2 | Memcached | 30min | 集群共享Session存储 | 0.05~0.2ms |
📌设计要点:Session场景下L1 TTL设为3秒而非更长,因为Session可能被其他节点修改(如登出),过长的本地缓存会导致一致性问题。
五、关键生产调优要点
5.1 Memcached服务端优化
# /etc/sysconfig/memcached 或启动参数 OPTIONS="-m 8192 -c 4096 -t 16 -I 2m -R 100 -o modern"| 参数 | 含义 | 生产建议 |
|---|---|---|
-m | 最大内存(MB) | 物理内存的60%~70%,预留系统空间 |
-c | 最大连接数 | ≥ Nginx workers × pool_size × 1.5 |
-t | 工作线程数 | = CPU核数,不超过32 |
-I | 最大Value大小 | 默认1MB,按需调整(最大128MB) |
-R | 单连接最大请求数 | 防止慢客户端占用连接,建议100~500 |
-o modern | 启用现代优化 | 禁用旧协议兼容,提升性能 |
5.2 连接池 sizing 公式
总并发连接 = Nginx worker数 × pool_size 推荐值:worker=8, pool_size=200 → 总连接=1600 Memcached -c 应 ≥ 1600 × 1.5 = 2400⚠️避坑:pool_size过大导致Memcached连接耗尽;过小导致Nginx排队等待。通过
stats curr_connections监控实际连接数,动态调整。
5.3 Key设计规范
-- ✅ 推荐:命名空间 + 业务标识 + 版本 local key = "sess:v2:" .. session_id local key = "cnt:api:/users:list" -- ❌ 避免:过长Key(Memcached限制250字节) local key = "session:user:profile:data:" .. long_uuid -- 可能超限 -- ❌ 避免:特殊字符(空格、换行、控制符) local key = "key with space" -- 协议解析错误5.4 二进制安全与序列化
Memcached是二进制安全的,可直接存储任意字节序列,无需Base64编码:
-- ✅ 直接存储二进制数据(如图片缩略图、protobuf) mcache.set("thumb:" .. id, binary_data, 3600) -- ✅ JSON文本也可直接存储 mcache.set("api:" .. key, cjson.encode(data), 300) -- ⚠️ 注意:get返回的是原始字符串,需自行判断是否解码 local raw = mcache.get(key) local data = cjson.decode(raw) -- 若确定是JSON才解码📌优势:相比Redis的Lua脚本中处理二进制需额外编码,Memcached天然支持,减少CPU开销和数据膨胀。
六、一致性与故障处理
6.1 无持久化的应对策略
Memcached重启后数据全部丢失,这是特性而非Bug。应对方式:
| 策略 | 实现 | 适用场景 |
|---|---|---|
| 接受冷启动 | 预热脚本 + 渐进式回源 | Session、临时缓存 |
| 双写兜底 | 同时写MySQL/Redis,MC仅作加速层 | 配置项、元数据 |
| 本地备份 | lua_shared_dict保留最近N条 | 极端低延迟要求 |
6.2 故障降级
local data, err = mcache.get(key) if err and (err == "timeout" or err == "connection refused") then ngx.log(ngx.WARN, "memcached degraded: ", err) -- 降级:跳过缓存,直接回源 -- 或返回预设默认值 res = ngx.location.capture("/internal/backend") ngx.header["X-Cache-Degraded"] = "mc-unavailable" ngx.say(res.body) return end📌原则:Memcached是加速层,不是数据源。永远不要让缓存故障变成服务故障。
6.3 批量操作限制
Memcached协议不支持原子批量操作。mget可批量读取,但写入/删除必须逐个执行:
-- ✅ 批量读取 local keys = {"k1", "k2", "k3"} local results, err = mc:get(keys) -- 返回table -- ❌ 无批量写入 -- 只能循环set,或使用pipeline(lua-resty-memcached不原生支持)对于高频批量写入场景,考虑改用Redis或拆分请求。
七、监控体系
7.1 Memcached关键指标
| 指标 | 命令 | 健康阈值 | 说明 |
|---|---|---|---|
| 命中率 | stats→ get_hits/get_cmds | >80% | <60%需排查Key设计或容量 |
| 连接数 | stats→ curr_connections | < max_connections×80% | 接近上限需扩容或调pool |
| 内存使用 | stats→ bytes/limit_maxbytes | <90% | >90%触发LRU淘汰 |
| 驱逐率 | stats→ evictions | =0 | >0表示内存不足 |
| 线程繁忙 | stats→ busy_threads | < threads×50% | 过高需增加-t或扩容 |
7.2 Nginx侧指标
| 指标 | 采集方式 | 告警阈值 |
|---|---|---|
| MC操作P99延迟 | access_log histogram | >0.5ms |
| 连接池使用率 | lua_shared_dict stats | >80% |
| MC错误率 | error.log聚合 | >0.1% |
| L1 HIT率 | shared_dict hits/misses | 热点接口>30% |
7.3 Grafana面板建议
- 缓存漏斗:Request → L1 HIT → MC HIT → Backend
- Memcached命中率趋势:突降关联发布或流量变化
- 连接池水位:峰值是否触及pool_size上限
- 驱逐率曲线:非零即告警,内存规划失误的信号
八、常见踩坑速查表
| 现象 | 根因 | 解决方案 |
|---|---|---|
| set成功但get返回nil | Key含特殊字符或超长 | 校验Key长度≤250,过滤非法字符 |
| 连接超时频发 | pool_size过小或MC -c不足 | 增大两端配置,检查网络 |
| 命中率持续低迷 | TTL过短或Key设计不合理 | 分析get_misses日志,优化Key |
| 内存未满但频繁eviction | Slab分配不均(大/小对象混存) | 分离不同大小对象的MC实例 |
| incr返回not found | Key未初始化 | incr前先set初始值(见4.1代码) |
| 二进制数据损坏 | 误用JSON解码 | 区分文本/二进制,按需解码 |
| Lua代码修改不生效 | lua_code_cache未开启 | 确认lua_code_cache on; |
| 多节点数据不一致 | 期望Memcached提供一致性 | MC是无状态缓存,一致性靠应用层 |
| 重启后大量MISS | 未做预热 | 部署前执行预热脚本 |
| stats命令被拒绝 | 未开启统计或防火墙拦截 | 检查-u参数和网络策略 |
九、结语
感谢您的阅读!如果你有任何疑问或想要分享的经验,请在评论区留言交流!