搜索

[24020] 2015-06-24_深入NGINX我们如何设计性能和扩展

文档创建者：s7ckTeam
浏览次数：4
最后更新：2025-01-18
2015-06-24_深入NGINX我们如何设计性能和扩展 深 入   N G I N X :   我 们 如 何 设 计 性 能 和 扩 展 w y a n g s u n   L i n u x 中 国   2 0 1 5 - 0 6 - 2 4
N G I N X   能 在   w e b   性 能 中 取 得 领 先 地 位 ， 这 是 由 于 其 软 件 设 计 所 决 定 的 。 许 多   w e b   服 务 器 和 应 用 程 序 服 务 器 使 用 一 个 简 单 的 基 于 线 程 或 进 程 的 架 构 ， N G I N X   立 足 于 一 个 复 杂 的 事 件 驱 动 的 体 系 结 构 ， 使 它 能 够 在 现 代 硬 件 上 扩 展 到 成 千 上 万 的 并 发 连 接 。 这 张 深 入   N G I N X   的 信 息 图 从 高 层 次 的 进 程 架 构 上 深 度 挖 掘 说 明 了   N G I N X   如 何 在 单 一 进 程 里 保 持 多 个 连 接 。 这 篇 博 客 进 一 步 详 细 地 解 释 了 这 一 切 是 如 何 工 作 的 。 知 识   –   N G I N X   进 程 模 型
为 了 更 好 的 理 解 这 个 设 计 ， 你 需 要 理 解   N G I N X   如 何 运 行 的 。 N G I N X   有 一 个 主 进 程 （ 它 执 行 特 权 操 作 ， 如 读 取 配 置 和 绑 定 端 口 ） 和 一 些 工 作 进 程 与 辅 助 进 程 。 在 四 核 服 务 器 ， N G I N X   主 进 程 创 建 了 4 个 工 作 进 程 和 两 个 管 理 磁 盘 内 容 缓 存 的 缓 存 辅 助 进 程 。 为 什 么 架 构 很 重 要 ？ 任 何   U n i x   应 用 程 序 的 根 本 基 础 是 线 程 或 进 程 。 （ 从   L i n u x   操 作 系 统 的 角 度 来 看 ， 线 程 和 进 程 大 多 是 相 同 的 ， 主 要 的 区 别 是 他 们 共 享 内 存 的 程 度 。 ） 一 个 线 程 或 进 程 是 一 个 自 包 含 的 指 令 集 ， 操 作 系 统 可 以 在 一 个   C P U   核 心 上 调 度 运 行 它 们 。 大 多 数 复 杂 的 应 用 程 序 并 行 运 行 多 个 线 程 或 进 程 有 两 个 原 因 ： 它 们 可 以 同 时 使 用 更 多 的 计 算 核 心 。 线 程 或 进 程 可 以 轻 松 实 现 并 行 操 作 。 （ 例 如 ， 在 同 一 时 刻 保 持 多 连 接 ） 。 进 程 和 线 程 消 耗 资 源 。 他 们 每 个 都 使 用 内 存 和 其 他 系 统 资 源 ， 他 们 会 在   C P U   核 心 中 换 入 和 换 出 （ 这 个 操 作 叫 做 上 下 文 切 换 ） 。 大 多 数 现 代 服 务 器 可 以 并 行 保 持 上 百 个 小 型 的 、 活 动 的 线 程 或 进 程 ， 但 是 一 旦 内 存 耗 尽 或 高   I / O   压 力 引 起 大 量 的 上 下 文 切 换 会 导 致 性 能 严 重 下 降 。 1 .   #   s e r v i c e   n g i n x   r e s t a r t 2 .   *   R e s t a r t i n g   n g i n x 3 .   #   p s   - e f   - - f o r e s t   |   g r e p   n g i n x 4 .   r o o t           3 2 4 7 5           1     0   1 3 : 3 6   ?                 0 0 : 0 0 : 0 0   n g i n x :   m a s t e r   p r o c e s s   / u s r / s b i n / n g i n x   5 .                                                                                                   - c   / e t c / n g i n x / n g i n x . c o n f 6 .   n g i n x         3 2 4 7 6   3 2 4 7 5     0   1 3 : 3 6   ?                 0 0 : 0 0 : 0 0     _   n g i n x :   w o r k e r   p r o c e s s 7 .   n g i n x         3 2 4 7 7   3 2 4 7 5     0   1 3 : 3 6   ?                 0 0 : 0 0 : 0 0     _   n g i n x :   w o r k e r   p r o c e s s 8 .   n g i n x         3 2 4 7 9   3 2 4 7 5     0   1 3 : 3 6   ?                 0 0 : 0 0 : 0 0     _   n g i n x :   w o r k e r   p r o c e s s 9 .   n g i n x         3 2 4 8 0   3 2 4 7 5     0   1 3 : 3 6   ?                 0 0 : 0 0 : 0 0     _   n g i n x :   w o r k e r   p r o c e s s 1 0 .   n g i n x         3 2 4 8 1   3 2 4 7 5     0   1 3 : 3 6   ?                 0 0 : 0 0 : 0 0     _   n g i n x :   c a c h e   m a n a g e r   p r o c e s s 1 1 .   n g i n x         3 2 4 8 2   3 2 4 7 5     0   1 3 : 3 6   ?                 0 0 : 0 0 : 0 0     _   n g i n x :   c a c h e   l o a d e r   p r o c e s s
网 络 应 用 程 序 设 计 的 常 用 方 法 是 为 每 个 连 接 分 配 一 个 线 程 或 进 程 。 此 体 系 结 构 简 单 、 容 易 实 现 ， 但 是 当 应 用 程 序 需 要 处 理 成 千 上 万 的 并 发 连 接 时 这 种 结 构 就 不 具 备 扩 展 性 。 N G I N X   如 何 工 作 ？ N G I N X   使 用 一 种 可 预 测 的 进 程 模 式 来 分 配 可 使 用 的 硬 件 资 源 ： 主 进 程 （ m a s t e r ） 执 行 特 权 操 作 ， 如 读 取 配 置 和 绑 定 端 口 ， 然 后 创 建 少 量 的 子 进 程 （ 如 下 的 三 种 类 型 ） 。 缓 存 加 载 器 进 程 （ c a c h e   l o a d e r ） 在 加 载 磁 盘 缓 存 到 内 存 中 时 开 始 运 行 ， 然 后 退 出 。 适 当 的 调 度 ， 所 以 其 资 源 需 求 很 低 。 缓 存 管 理 器 进 程 （ c a c h e   m a n a g e r ） 定 期 裁 剪 磁 盘 缓 存 中 的 记 录 来 保 持 他 们 在 配 置 的 大 小 之 内 。 工 作 进 程 （ w o r k e r ） 做 所 有 的 工 作 ！ 他 们 保 持 网 络 连 接 、 读 写 内 容 到 磁 盘 ， 与 上 游 服 务 器 通 信 。 在 大 多 数 情 况 下   N G I N X   的 配 置 建 议 ： 每 个   C P U   核 心 运 行 一 个 工 作 进 程 ， 这 样 最 有 效 地 利 用 硬 件 资 源 。 你 可 以 在 配 置 中 包 含 w o r k e r _ p r o c e s s e s   a u t o 指 令 配 置 ： 当 一 个   N G I N X   服 务 处 于 活 动 状 态 ， 只 有 工 作 进 程 在 忙 碌 。 每 个 工 作 进 程 以 非 阻 塞 方 式 保 持 多 连 接 ， 以 减 少 上 下 文 交 换 。 每 个 工 作 进 程 是 一 个 单 一 线 程 并 且 独 立 运 行 ， 它 们 会 获 取 新 连 接 并 处 理 之 。 这 些 进 程 可 以 使 用 共 享 内 存 通 信 来 共 享 缓 存 数 据 、 会 话 持 久 性 数 据 及 其 它 共 享 资 源 。 （ 在   N G I N X   1 . 7 . 1 1   及 其 以 后 版 本 ， 还 有 一 个 可 选 的 线 程 池 ， 工 作 进 程 可 以 转 让 阻 塞 的 操 作 给 它 。 更 多 的 细 节 ， 参 见 “ N G I N X   线 程 池 可 以 爆 增 9 倍 性 能 ！ ” 。 对 于   N G I N X   P l u s   用 户 ， 该 功 能 计 划 在 今 年 晚 些 时 候 加 入 到   R 7   版 本 中 。 ） N G I N X   工 作 进 程 内 部 每 个   N G I N X   工 作 进 程 按 照   N G I N X   配 置 初 始 化 ， 并 由 主 进 程 提 供 一 组 监 听 端 口 。 N G I N X   工 作 进 程 首 先 在 监 听 套 接 字 上 等 待 事 件 （ a c c e p t _ m u t e x   和 内 核 套 接 字 分 片 ） 。 事 件 被 新 进 来 的 连 接 初 始 化 。 这 些 连 接 被 分 配 到 一 个 状 态 机   –   H T T P   状 态 机 是 最 常 用 的 ， 但   N G I N X   也 实 现 了 流 式 （ 原 始   T C P   ） 状 态 机 和 几 种 邮 件 协 议 （ S M T P 、 I M A P 和 P O P 3 ） 的 状 态 机 。 w o r k e r _ p r o c e s s e s   a u t o ;
状 态 机 本 质 上 是 一 组 指 令 ， 告 诉   N G I N X   如 何 处 理 一 个 请 求 。 大 多 数   w e b   服 务 器 像   N G I N X   一 样 使 用 类 似 的 状 态 机 来 实 现 相 同 的 功 能   -   区 别 在 于 实 现 。 调 度 状 态 机 把 状 态 机 想 象 成 国 际 象 棋 的 规 则 。 每 个   H T T P   事 务 是 一 个 象 棋 游 戏 。 一 方 面 棋 盘 是   w e b   服 务 器   — —   一 位 大 师 可 以 非 常 迅 速 地 做 出 决 定 。 另 一 方 面 是 远 程 客 户 端   — —   在 一 个 相 对 较 慢 的 网 络 下   w e b   浏 览 器 访 问 网 站 或 应 用 程 序 。 不 管 怎 样 ， 这 个 游 戏 规 则 很 复 杂 。 例 如 ， w e b   服 务 器 可 能 需 要 与 各 方 沟 通 （ 代 理 一 个 上 游 的 应 用 程 序 ） 或 与 身 份 验 证 服 务 器 对 话 。 w e b   服 务 器 的 第 三 方 模 块 甚 至 可 以 扩 展 游 戏 规 则 。 一 个 阻 塞 状 态 机 回 忆 我 们 之 前 的 描 述 ， 一 个 进 程 或 线 程 就 像 一 套 独 立 的 指 令 集 ， 操 作 系 统 可 以 在 一 个   C P U   核 心 上 调 度 运 行 它 。 大 多 数   w e b   服 务 器 和   w e b   应 用 使 用 每 个 连 接 一 个 进 程 或 者 每 个 连 接 一 个 线 程 的 模 式 来 玩 这 个 “ 象 棋 游 戏 ” 。 每 个 进 程 或 线 程 都 包 含 玩 完 “ 一 个 游 戏 ” 的 指 令 。 在 服 务 器 运 行 该 进 程 的 期 间 ， 其 大 部 分 的 时 间 都 是 “ 阻 塞 的 ”   — —   等 待 客 户 端 完 成 它 的 下 一 步 行 动 。
1 .   w e b   服 务 器 进 程 在 监 听 套 接 字 上 监 听 新 连 接 （ 客 户 端 发 起 新 “ 游 戏 ” ） 2 .   当 它 获 得 一 个 新 游 戏 ， 就 玩 这 个 游 戏 ， 每 走 一 步 去 等 待 客 户 端 响 应 时 就 阻 塞 了 。 3 .   游 戏 完 成 后 ， w e b   服 务 器 进 程 可 能 会 等 待 是 否 有 客 户 机 想 要 开 始 一 个 新 游 戏 （ 这 里 指 的 是 一 个 “ 保 持 的 ” 连 接 ） 。 如 果 这 个 连 接 关 闭 了 （ 客 户 端 断 开 或 者 发 生 超 时 ） ， w e b   服 务 器 进 程 会 返 回 并 监 听 一 个 新 “ 游 戏 ” 。 要 记 住 最 重 要 的 一 点 是 每 个 活 动 的   H T T P   连 接 （ 每 局 棋 ） 需 要 一 个 专 用 的 进 程 或 线 程 （ 象 棋 高 手 ） 。 这 个 结 构 简 单 容 并 且 易 扩 展 第 三 方 模 块 （ “ 新 规 则 ” ） 。 然 而 ， 还 是 有 巨 大 的 不 平 衡 ： 尤 其 是 轻 量 级   H T T P   连 接 其 实 就 是 一 个 文 件 描 述 符 和 小 块 内 存 ， 映 射 到 一 个 单 独 的 线 程 或 进 程 ， 这 是 一 个 非 常 重 量 级 的 系 统 对 象 。 这 种 方 式 易 于 编 程 ， 但 太 过 浪 费 。 N G I N X 是 一 个 真 正 的 象 棋 大 师 也 许 你 听 过 车 轮 表 演 赛 游 戏 ， 有 一 个 象 棋 大 师 同 时 对 战 许 多 对 手 ？ 列 夫 · 吉 奥 吉 夫 在 保 加 利 亚 的 索 非 亚 同 时 对 阵 3 6 0 人 。 他 的 最 终 成 绩 是 2 8 4 胜 7 0 平 6 负 。 这 就 是   N G I N X   工 作 进 程 如 何 “ 下 棋 ” 的 。 每 个 工 作 进 程 （ 记 住   -   通 常 每 个 C P U 核 心 上 有 一 个 工 作 进 程 ） 是 一 个 可 同 时 对 战 上 百 人 （ 事 实 是 ， 成 百 上 千 ） 的 象 棋 大 师 。
1 .   工 作 进 程 在 监 听 和 连 接 套 接 字 上 等 待 事 件 。 2 .   事 件 发 生 在 套 接 字 上 ， 并 且 由 工 作 进 程 处 理 它 们 ： 在 监 听 套 接 字 的 事 件 意 味 着 一 个 客 户 端 已 经 开 始 了 一 局 新 棋 局 。 工 作 进 程 创 建 了 一 个 新 连 接 套 接 字 。 在 连 接 套 接 字 的 事 件 意 味 着 客 户 端 已 经 下 了 一 步 棋 。 工 作 进 程 及 时 响 应 。 一 个 工 作 进 程 在 网 络 流 量 上 从 不 阻 塞 ， 等 待 它 的 “ 对 手 ” ( 客 户 端 ) 做 出 反 应 。 当 它 下 了 一 步 ， 工 作 进 程 立 即 继 续 其 他 的 游 戏 ， 在 那 里 工 作 进 程 正 在 处 理 下 一 步 ， 或 者 在 门 口 欢 迎 一 个 新 玩 家 。 为 什 么 这 个 比 阻 塞 式 多 进 程 架 构 更 快 ？ N G I N X   每 个 工 作 进 程 很 好 的 扩 展 支 撑 了 成 百 上 千 的 连 接 。 每 个 连 接 在 工 作 进 程 中 创 建 另 外 一 个 文 件 描 述 符 和 消 耗 一 小 部 分 额 外 内 存 。 每 个 连 接 有 很 少 的 额 外 开 销 。 N G I N X   进 程 可 以 固 定 在 某 个   C P U   上 。 上 下 文 交 换 非 常 罕 见 ， 一 般 只 发 生 在 没 有 工 作 要 做 时 。 在 阻 塞 方 式 ， 每 个 进 程 一 个 连 接 的 方 法 中 ， 每 个 连 接 需 要 大 量 额 外 的 资 源 和 开 销 ， 并 且 上 下 文 切 换 （ 从 一 个 进 程 切 换 到 另 一 个 ） 非 常 频 繁 。 更 详 细 的 解 释 ， 看 看 这 篇 关 于   N G I N X   架 构 的 文 章 ， 它 由 N G I N X 公 司 开 发 副 总 裁 及 共 同 创 始 人   A n d r e w   A l e x e e v   写 的 。 通 过 适 当 的 系 统 优 化 ， N G I N X   的 每 个 工 作 进 程 可 以 扩 展 来 处 理 成 千 上 万 的 并 发   H T T P   连 接 ， 并 能 脸 不 红 心 不 跳 的 承 受 峰 值 流 量 ( 大 量 涌 入 的 新 “ 游 戏 ” ) 。 更 新 配 置 和 升 级   N G I N X N G I N X   的 进 程 体 系 架 构 使 用 少 量 的 工 作 进 程 ， 有 助 于 有 效 的 更 新 配 置 文 件 甚 至   N G I N X   程 序 本 身 。 更 新   N G I N X   配 置 文 件 是 非 常 简 单 、 轻 量 、 可 靠 的 操 作 。 典 型 的 就 是 运 行 命 令 ， 所 做 的 就 是 检 查 磁 盘 上 的 配 置 并 发 送   S I G H U P   信 号 给 主 进 程 。 当 主 进 程 接 收 到 一 个   S I G H U P   信 号 ， 它 会 做 两 件 事 ： 重 载 配 置 文 件 和 分 支 出 一 组 新 的 工 作 进 程 。 这 些 新 的 工 作 进 程 立 即 开 始 接 受 连 接 和 处 理 流 量 （ 使 用 新 的 配 置 设 置 ） 通 知 旧 的 工 作 进 程 优 雅 的 退 出 。 工 作 进 程 停 止 接 受 新 的 连 接 。 当 前 的   h t t p   请 求 一 旦 完 成 ， 工 作 进 程 就 彻 底 关 闭 这 个 连 接 （ 那 就 是 ， 没 有 残 存 的 “ 保 持 ” 连 接 ） 。 一 旦 所 有 连 接 关 闭 ， 这 个 工 作 进 程 就 退 出 。 这 个 重 载 过 程 能 引 发 一 个   C P U   和 内 存 使 用 的 小 峰 值 ， 但 是 跟 活 动 连 接 加 载 的 资 源 相 比 它 一 般 不 易 察 觉 。 每 秒 钟 你 可 以 多 次 重 载 配 置 （ 很 多 n g i n x   – s   r e l o a d
N G I N X   用 户 都 这 么 做 ） 。 非 常 罕 见 的 情 况 下 ， 有 很 多 世 代 的 工 作 进 程 等 待 关 闭 连 接 时 会 发 生 问 题 ， 但 即 使 是 那 样 也 很 快 被 解 决 了 。 N G I N X   的 程 序 升 级 过 程 中 拿 到 了 高 可 用 性 圣 杯   — —   你 可 以 随 时 更 新 这 个 软 件 ， 不 会 丢 失 连 接 ， 停 机 ， 或 者 中 断 服 务 。 程 序 升 级 过 程 类 似 于 平 滑 重 载 配 置 的 方 法 。 一 个 新 的   N G I N X   主 进 程 与 原 主 进 程 并 行 运 行 ， 然 后 他 们 共 享 监 听 套 接 字 。 两 个 进 程 都 是 活 动 的 ， 并 且 各 自 的 工 作 进 程 处 理 流 量 。 然 后 你 可 以 通 知 旧 的 主 进 程 和 它 的 工 作 进 程 优 雅 的 退 出 。 整 个 过 程 的 详 细 描 述 在   N G I N X   管 理 。 结 论 深 入   N G I N X   信 息 图 提 供 一 个   N G I N X   功 能 实 现 的 高 层 面 概 览 ， 但 在 这 简 单 的 解 释 的 背 后 是 超 过 十 年 的 创 新 和 优 化 ， 使 得   N G I N X   在 广 泛 的 硬 件 上 提 供 尽 可 能 最 好 的 性 能 同 时 保 持 了 现 代   W e b   应 用 程 序 所 需 要 的 安 全 性 和 可 靠 性 。 如 果 你 想 阅 读 更 多 关 于 N G I N X 的 优 化 ， 查 看 这 些 优 秀 的 资 源 ： N G I N X   安 装 和 性 能 调 优   ( w e b i n a r ;   S p e a k e r   D e c k   上 的 讲 义 ) N G I N X   性 能 调 优 开 源 应 用 架 构 ：   N G I N X   篇 N G I N X   1 . 9 . 1   中 的 套 接 字 分 片   ( 使 用   S O _ R E U S E P O R T   套 接 字 选 项 ) v i a :   h t t p : / / n g i n x . c o m / b l o g / i n s i d e - n g i n x - h o w - w e - d e s i g n e d - f o r - p e r f o r m a n c e - s c a l e / 作 者 ： O w e n   G a r r e t t   译 者 ： w y a n g s u n   校 对 ： w x y 本 文 由   L C T T   原 创 翻 译 ， L i n u x 中 国   荣 誉 推 出 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理