搜索

[23883] 2015-05-13_MySQL高可用浅析

文档创建者：s7ckTeam
浏览次数：0
最后更新：2025-01-18
2015-05-13_MySQL高可用浅析 M y S Q L   高 可 用 浅 析 L i n u x 中 国   2 0 1 5 - 0 5 - 1 3 对 于 多 数 应 用 来 说 ， M y S Q L 都 是 作 为 最 关 键 的 数 据 存 储 中 心 的 ， 所 以 ， 如 何 让 M y S Q L 提 供 H A 服 务 ， 是 我 们 不 得 不 面 对 的 一 个 问 题 。 当 m a s t e r 当 机 的 时 候 ， 我 们 如 何 保 证 数 据 尽 可 能 的 不 丢 失 ， 如 何 保 证 快 速 的 获 知 m a s t e r 当 机 并 进 行 相 应 的 故 障 转 移 处 理 ， 都 是 需 要 我 们 好 好 思 考 的 。 这 里 ， 笔 者 将 结 合 这 段 时 间 做 的 M y S Q L   p r o x y 以 及 t o o l s e t s 相 关 工 作 ， 说 说 我 们 现 阶 段 以 及 后 续 会 在 项 目 中 采 用 的 M y S Q L   H A 方 案 。 （ 题 图 来 自 ： c o m p r e n d r e c h o i s i r . c o m ） R e p l i c a t i o n 要 保 证 M y S Q L 数 据 不 丢 失 ， r e p l i c a t i o n 是 一 个 很 好 的 解 决 方 案 ， 而 M y S Q L 也 提 供 了 一 套 强 大 的 r e p l i c a t i o n 机 制 。 只 是 我 们 需 要 知 道 ， 为 了 性 能 考 量 ， r e p l i c a t i o n 是 采 用 的 a s y n c h r o n o u s 模 式 ， 也 就 是 写 入 的 数 据 并 不 会 同 步 更 新 到 s l a v e 上 面 ， 如 果 这 时 候 m a s t e r 当 机 ， 我 们 仍 然 可 能 会 面 临 数 据 丢 失 的 风 险 。 为 了 解 决 这 个 问 题 ， 我 们 可 以 使 用 s e m i - s y n c h r o n o u s   r e p l i c a t i o n ， s e m i - s y n c h r o n o u s   r e p l i c a t i o n 的 原 理 很 简 单 ， 当 m a s t e r 处 理 完 一 个 事 务 ， 它 会 等 待 至 少 一 个 支 持 s e m i - s y n c h r o n o u s 的 s l a v e 确 认 收 到 了 该 事 件 并 将 其 写 入 r e l a y - l o g 之 后 ， 才 会 返 回 。 这 样 即 使 m a s t e r 当 机 ， 最 少 也 有 一 个 s l a v e 获 取 到 了 完 整 的 数 据 。 但 是 ， s e m i - s y n c h r o n o u s 并 不 是 1 0 0 % 的 保 证 数 据 不 会 丢 失 ， 如 果 m a s t e r 在 完 成 事 务 并 将 其 发 送 给 s l a v e 的 时 候 崩 溃 ， 仍 然 可 能 造 成 数 据 丢 失 。 只 是 相 比 于 传 统 的 异 步 复 制 ， s e m i - s y n c h r o n o u s   r e p l i c a t i o n 能 极 大 地 提 升 数 据 安 全 。 更 为 重 要 的 是 ， 它 并 不 慢 ， M H A 的 作 者 都 说 他 们 在 f a c e b o o k 的 生 产 环 境 中 使 用 了 s e m i - s y n c h r o n o u s （ 这 里 ） ， 所 以 我 觉 得 真 心 没 必 要 担 心 它 的 性 能 问 题 ， 除 非 你 的 业 务 量 级 已 经 完 全 超 越 了 f a c e b o o k 或 者 g o o g l e 。 在 这 篇 文 章 里 面 已 经 提 到 ， M y S Q L   5 . 7 之 后 已 经 使 用 了 L o s s - L e s s   S e m i - S y n c h r o n o u s   r e p l i c a t i o n ， 所 以 丢 数 据 的 概 率 已 经 很 小 了 。 如 果 真 的 想 完 全 保 证 数 据 不 会 丢 失 ， 现 阶 段 一 个 比 较 好 的 办 法 就 是 使 用 g e l e r a ， 一 个 M y S Q L 集 群 解 决 方 案 ， 它 通 过 同 时 写 三 份 的 策 略 来 保 证 数 据 不 会 丢 失 。 笔 者 没 有 任 何 使 用 g e l e r a 的 经 验 ， 只 是 知 道 业 界 已 经 有 公 司 将 其 用 于 生 产 环 境 中 ， 性 能 应 该 也 不 是 问 题 。 但 g e l e r a 对 M y S Q L 代 码 侵 入 性 较 强 ， 可 能 对 某 些 有 代 码 洁 癖 的 同 学 来 说 不 合 适 了 : - ) 我 们 还 可 以 使 用 d r b d 来 实 现 M y S Q L 数 据 复 制 ， M y S Q L 官 方 文 档 有 一 篇 文 档 有 详 细 介 绍 ， 但 笔 者 并 未 采 用 这 套 方 案 ， M H A 的 作 者 写 了 一 些 采 用 d r d b 的 问 题 ， 在 这 里 ， 仅 供 参 考 。 在 后 续 的 项 目 中 ， 笔 者 会 优 先 使 用 s e m i - s y n c h r o n o u s   r e p l i c a t i o n 的 解 决 方 案 ， 如 果 数 据 真 的 非 常 重 要 ， 则 会 考 虑 使 用 g e l e r a 。 M o n i t o r 前 面 我 们 说 了 使 用 r e p l i c a t i o n 机 制 来 保 证 m a s t e r 当 机 之 后 尽 可 能 的 数 据 不 丢 失 ， 但 是 我 们 不 能 等 到 m a s t e r 当 了 几 分 钟 才 知 道 出 现 问 题 了 。 所 以 一 套 好 的 监 控 工 具 是 必 不 可 少 的 。 当 m a s t e r 当 掉 之 后 ， m o n i t o r 能 快 速 的 检 测 到 并 做 后 续 处 理 ， 譬 如 邮 件 通 知 管 理 员 ， 或 者 通 知 守 护 程 序 快 速 进 行 f a i l o v e r 。 通 常 ， 对 于 一 个 服 务 的 监 控 ， 我 们 采 用 k e e p a l i v e d 或 者 h e a r t b e a t 的 方 式 ， 这 样 当 m a s t e r 当 机 之 后 ， 我 们 能 很 方 便 的 切 换 到 备 机 上 面 。 但 他 们 仍 然 不 能 很 即 时 的 检 测 到 服 务 不 可 用 。 笔 者 的 公 司 现 阶 段 使 用 的 是 k e e p a l i v e d 的 方 式 ， 但 后 续 笔 者 更 倾 向 于 使 用 z o o k e e p e r 来 解 决 整 个 M y S Q L 集 群 的 m o n i t o r 以 及 f a i l o v e r 。 对 于 任 何 一 个 M y S Q L 实 例 ， 我 们 都 有 一 个 对 应 的 a g e n t 程 序 ， a g e n t 跟 该 M y S Q L 实 例 放 到 同 一 台 机 器 上 面 ， 并 且 定 时 的 对 M y S Q L 实 例 发 送 p i n g 命 令 检 测 其 可 用 性 ， 同 时 该 a g e n t 通 过 e p h e m e r a l 的 方 式 挂 载 到 z o o k e e p e r 上 面 。 这 样 ， 我 们 可 以 就 能 知 道 M y S Q L 是 否 当 机 ， 主 要 有 以 下 几 种 情 况 ： 1 .   机 器 当 机 ， 这 样 M y S Q L 以 及 a g e n t 都 会 当 掉 ， a g e n t 与 z o o k e e p e r 连 接 自 然 断 开 2 .   M y S Q L 当 掉 ， a g e n t 发 现 p i n g 不 通 ， 主 动 断 开 与 z o o k e e p e r 的 连 接 3 .   A g e n t 当 掉 ， 但 M y S Q L 未 当 上 面 三 种 情 况 ， 我 们 都 可 以 认 为 M y S Q L 机 器 出 现 了 问 题 ， 并 且 z o o k e e p e r 能 够 立 即 感 知 。 a g e n t 与 z o o k e e p e r 断 开 了 连 接 ， z o o k e e p e r 触 发 相 应 的 c h i l d r e n   c h a n g e d 事 件 ， 监 控 到 该 事 件 的 管 控 服 务 就 可 以 做 相 应 的 处 理 。 譬 如 如 果 是 上 面 前 两 种 情 况 ， 管 控 服 务 就 能 自 动 进 行 f a i l o v e r ， 但 如 果 是 第 三 种 ， 则 可 能 不 做 处 理 ， 等 待 机 器 上 面 c r o n t a b 或 者 s u p e r s i v o r d 等 相 关 服 务 自 动 重 启 a g e n t 。 使 用 z o o k e e p e r 的 好 处 在 于 它 能 很 方 便 的 对 整 个 集 群 进 行 监 控 ， 并 能 即 时 的 获 取 整 个 集 群 的 变 化 信 息 并 触 发 相 应 的 事 件 通 知 感 兴 趣 的 服 务 ， 同 时 协 调 多 个 服 务 进 行 相 关 处 理 。 而 这 些 是 k e e p a l i v e d 或 者 h e a r t b e a t 做 不 到 或 者 做 起 来 太 麻 烦 的 。 使 用 z o o k e e p e r 的 问 题 在 于 部 署 起 来 较 为 复 杂 ， 同 时 如 果 进 行 了 f a i l o v e r ， 如 何 让 应 用 程 序 获 取 到 最 新 的 数 据 库 地 址 也 是 一 个 比 较 麻 烦 的 问 题 。
对 于 部 署 问 题 ， 我 们 要 保 证 一 个 M y S Q L 搭 配 一 个 a g e n t ， 幸 好 这 年 头 有 了 d o c k e r ， 所 以 真 心 很 简 单 。 而 对 于 第 二 个 数 据 库 地 址 更 改 的 问 题 ， 其 实 并 不 是 使 用 了 z o o k e e p e r 才 会 有 的 ， 我 们 可 以 通 知 应 用 动 态 更 新 配 置 信 息 ， V I P ， 或 者 使 用 p r o x y 来 解 决 。 虽 然 z o o k e e p e r 的 好 处 很 多 ， 但 如 果 你 的 业 务 不 复 杂 ， 譬 如 只 有 一 个 m a s t e r ， 一 个 s l a v e ， z o o k e e p e r 可 能 并 不 是 最 好 的 选 择 ， 没 准 k e e p a l i v e d 就 够 了 。 F a i l o v e r 通 过 m o n i t o r ， 我 们 可 以 很 方 便 的 进 行 M y S Q L 监 控 ， 同 时 在 M y S Q L 当 机 之 后 通 知 相 应 的 服 务 做 f a i l o v e r 处 理 ， 假 设 现 在 有 这 样 的 一 个 M y S Q L 集 群 ， a 为 m a s t e r ， b ， c 为 其 s l a v e ， 当 a 当 掉 之 后 ， 我 们 需 要 做 f a i l o v e r ， 那 么 我 们 选 择 b ， c 中 的 哪 一 个 作 为 新 的 m a s t e r 呢 ？ 原 则 很 简 单 ， 哪 一 个 s l a v e 拥 有 最 近 最 多 的 原 m a s t e r 数 据 ， 就 选 哪 一 个 作 为 新 的 m a s t e r 。 我 们 可 以 通 过 这 个 命 令 来 获 知 哪 一 个 s l a v e 拥 有 最 新 的 数 据 。 我 们 只 需 要 比 较 两 个 关 键 字 段 以 及 ， 这 两 个 值 代 表 了 s l a v e 读 取 到 m a s t e r 哪 一 个 b i n l o g 文 件 的 哪 一 个 位 置 ， b i n l o g 的 索 引 值 越 大 ， 同 时 p o s 越 大 ， 则 那 一 个 s l a v e 就 是 能 被 提 升 为 m a s t e r 。 这 里 我 们 不 讨 论 多 个 s l a v e 可 能 会 被 提 升 为 m a s t e r 的 情 况 。 在 前 面 的 例 子 中 ， 假 设 b 被 提 升 为 m a s t e r 了 ， 我 们 需 要 将 c 重 新 指 向 新 的 m a s t e r   b 来 开 始 复 制 。 我 们 通 过 来 重 新 设 置 c 的 m a s t e r ， 但 是 我 们 怎 么 知 道 要 从 b 的 b i n l o g 的 哪 一 个 文 件 ， 哪 一 个 p o s i t i o n 开 始 复 制 呢 ？ G T I D 为 了 解 决 这 一 个 问 题 ， M y S Q L   5 . 6 之 后 引 入 了 G T I D 的 概 念 ， 即 u u i d : g i d ， u u i d 为 M y S Q L   s e r v e r 的 u u i d ， 是 全 局 唯 一 的 ， 而 g i d 则 是 一 个 递 增 的 事 务 i d ， 通 过 这 两 个 东 西 ， 我 们 就 能 唯 一 标 示 一 个 记 录 到 b i n l o g 中 的 事 务 。 使 用 G T I D ， 我 们 就 能 非 常 方 便 的 进 行 f a i l o v e r 的 处 理 。 仍 然 是 前 面 的 例 子 ， 假 设 b 此 时 读 取 到 的 a 最 后 一 个 G T I D 为 ， 而 c 的 为 ， 当 c 指 向 新 的 m a s t e r   b 的 时 候 ， 我 们 通 过 G T I D 就 可 以 知 道 ， 只 要 在 b 中 的 b i n l o g 中 找 到 G T I D 为 这 个 e v e n t ， 那 么 c 就 可 以 从 它 的 下 一 个 e v e n t 的 位 置 开 始 复 制 了 。 虽 然 查 找 b i n l o g 的 方 式 仍 然 是 顺 序 查 找 ， 稍 显 低 效 暴 力 ， 但 比 起 我 们 自 己 去 猜 测 哪 一 个 f i l e n a m e 和 p o s i t i o n ， 要 方 便 太 多 了 。 g o o g l e 很 早 也 有 了 一 个 G l o b a l   T r a n s a c t i o n   I D 的 补 丁 ， 不 过 只 是 使 用 的 一 个 递 增 的 整 形 ， L e d i s D B 就 借 鉴 了 它 的 思 路 来 实 现 f a i l o v e r ， 只 不 过 g o o g l e 貌 似 现 在 也 开 始 逐 步 迁 移 到 M a r i a D B 上 面 去 了 。 M a r i a D B 的 G T I D 实 现 跟 M y S Q L   5 . 6 是 不 一 样 的 ， 这 点 其 实 比 较 麻 烦 ， 对 于 我 的 M y S Q L 工 具 集 g o - m y s q l 来 说 ， 意 味 着 要 写 两 套 不 同 的 代 码 来 处 理 G T I D 的 情 况 了 。 后 续 是 否 支 持 M a r i a D B 再 看 情 况 吧 。 P s e u d o   G T I D G T I D 虽 然 是 一 个 好 东 西 ， 但 是 仅 限 于 M y S Q L   5 . 6 + ， 当 前 仍 然 有 大 部 分 的 业 务 使 用 的 是 5 . 6 之 前 的 版 本 ， 笔 者 的 公 司 就 是 5 . 5 的 ， 而 这 些 数 据 库 至 少 长 时 间 也 不 会 升 级 到 5 . 6 的 。 所 以 我 们 仍 然 需 要 一 套 好 的 机 制 来 选 择 m a s t e r   b i n l o g 的 f i l e n a m e 以 及 p o s i t i o n 。 最 初 ， 笔 者 打 算 研 究 M H A 的 实 现 ， 它 采 用 的 是 首 先 复 制 r e l a y   l o g 来 补 足 缺 失 的 e v e n t 的 方 式 ， 但 笔 者 不 怎 么 信 任 r e l a y   l o g ， 同 时 加 之 M H A 采 用 的 是 p e r l ， 一 个 让 我 完 全 看 不 懂 的 语 言 ， 所 以 放 弃 了 继 续 研 究 。 幸 运 的 是 ， 笔 者 遇 到 了 o r c h e s t r a t o r 这 个 项 目 ， 这 真 的 是 一 个 非 常 神 奇 的 项 目 ， 它 采 用 了 一 种 P s e u d o   G T I D 的 方 式 ， 核 心 代 码 就 是 这 个 2 .   4 .   2 0 .   s h o w   s l a v e   s t a t u s M a s t e r _ L o g _ F i l e R e a d _ M a s t e r _ L o g _ P o s C H A N G E   M A S T E R   T O 3 E 1 1 F A 4 7 - 7 1 C A - 1 1 E 1 - 9 E 3 3 - C 8 0 A A 9 4 2 9 5 6 2 : 2 3 3 E 1 1 F A 4 7 - 7 1 C A - 1 1 E 1 - 9 E 3 3 - C 8 0 A A 9 4 2 9 5 6 2 : 1 5 3 E 1 1 F A 4 7 - 7 1 C A - 1 1 E 1 - 9 E 3 3 - C 8 0 A A 9 4 2 9 5 6 2 : 1 5 1 .   c r e a t e   d a t a b a s e   i f   n o t   e x i s t s   m e t a ; 3 .   d r o p   e v e n t   i f   e x i s t s   m e t a . c r e a t e _ p s e u d o _ g t i d _ v i e w _ e v e n t ; 5 .   d e l i m i t e r   ; ; 6 .   c r e a t e   e v e n t   i f   n o t   e x i s t s 7 .       m e t a . c r e a t e _ p s e u d o _ g t i d _ v i e w _ e v e n t 8 .       o n   s c h e d u l e   e v e r y   1 0   s e c o n d   s t a r t s   c u r r e n t _ t i m e s t a m p 9 .       o n   c o m p l e t i o n   p r e s e r v e 1 0 .       e n a b l e 1 1 .       d o 1 2 .           b e g i n 1 3 .               s e t   @ p s e u d o _ g t i d   : =   u u i d ( ) ; 1 4 .               s e t   @ _ c r e a t e _ s t a t e m e n t   : =   c o n c a t ( ' c r e a t e   o r   r e p l a c e   v i e w   m e t a . p s e u d o _ g t i d _ v i e w   a s   s e l e c t   ' ' ,   @ p s e u d o _ g t i d ,   ' '   a s   p s e u d o _ g t i d _ u n i q u e _ v a l   f r o m   d u a l ' ) ; 1 5 .               P R E P A R E   s t   F R O M   @ _ c r e a t e _ s t a t e m e n t ; 1 6 .               E X E C U T E   s t ; 1 7 .               D E A L L O C A T E   P R E P A R E   s t ; 1 8 .           e n d 1 9 .   ; ; 2 1 .   d e l i m i t e r   ;
原 文 ： h t t p : / / w w w . j i a n s h u . c o m / p / c c 6 7 4 6 a c 4 f c 2 作 者 ：   s i d d o n t a n g 2 2 .   它 在 M y S Q L 上 面 创 建 了 一 个 事 件 ， 每 隔 1 0 s ， 就 将 一 个 u u i d 写 入 到 一 个 v i e w 里 面 ， 而 这 个 是 会 记 录 到 b i n l o g 中 的 ， 虽 然 我 们 仍 然 不 能 像 G T I D 那 样 直 接 定 位 到 一 个 e v e n t ， 但 也 能 定 位 到 一 个 1 0 s 的 区 间 了 ， 这 样 我 们 就 能 在 很 小 的 一 个 区 间 里 面 对 比 两 个 M y S Q L 的 b i n l o g 了 。 继 续 上 面 的 例 子 ， 假 设 c 最 后 一 次 出 现 u u i d 的 位 置 为 s 1 ， 我 们 在 b 里 面 找 到 该 u u i d ， 位 置 为 s 2 ， 然 后 依 次 对 比 后 续 的 e v e n t ， 如 果 不 一 致 ， 则 可 能 出 现 了 问 题 ， 停 止 复 制 。 当 遍 历 到 c 最 后 一 个 b i n l o g   e v e n t 之 后 ， 我 们 就 能 得 到 此 时 b 下 一 个 e v e n t 对 应 的 f i l e n a m e 以 及 p o s i t i o n 了 ， 然 后 让 c 指 向 这 个 位 置 开 始 复 制 。 使 用 P s e u d o   G T I D 需 要 s l a v e 打 开 的 选 项 ， 考 虑 到 G T I D 也 必 须 打 开 该 选 项 ， 所 以 个 人 感 觉 完 全 可 以 接 受 。 后 续 ， 笔 者 自 己 实 现 的 f a i l o v e r 工 具 ， 将 会 采 用 这 种 P s e u d o   G T I D 的 方 式 实 现 。 在 《 M y S Q L   H i g h   A v a i l a b i l i t y 》 这 本 书 中 ， 作 者 使 用 了 另 一 种 G T I D 的 做 法 ， 每 次 c o m m i t 的 时 候 ， 需 要 在 一 个 表 里 面 记 录 g t i d ， 然 后 就 通 过 这 个 g t i d 来 找 到 对 应 的 位 置 信 息 ， 只 是 这 种 方 式 需 要 业 务 M y S Q L 客 户 端 的 支 持 ， 笔 者 不 很 喜 欢 ， 就 不 采 用 了 。 后 记 M y S Q L   H A 一 直 是 一 个 水 比 较 深 的 领 域 ， 笔 者 仅 仅 列 出 了 一 些 最 近 研 究 的 东 西 ， 有 些 相 关 工 具 会 尽 量 在 g o - m y s q l 中 实 现 。 更 新 经 过 一 段 时 间 的 思 考 与 研 究 ， 笔 者 又 有 了 很 多 心 得 与 收 获 ， 设 计 的 M y S Q L   H A 跟 先 前 有 了 很 多 不 一 样 的 地 方 。 后 来 发 现 ， 自 己 设 计 的 这 套 H A 方 案 ， 跟 f a c e b o o k 这 篇 文 章 几 乎 一 样 ， 加 之 最 近 跟 f a c e b o o k 的 人 聊 天 听 到 他 们 也 正 在 大 力 实 施 ， 所 以 感 觉 自 己 方 向 是 对 了 。 新 的 H A ， 我 会 完 全 拥 抱 G T I D ， 比 较 这 玩 意 的 出 现 就 是 为 了 解 决 原 先 r e p l i c a t i o n 那 一 堆 问 题 的 ， 所 以 我 不 会 考 虑 非 G T I D 的 低 版 本 M y S Q L 了 。 幸 运 的 是 ， 我 们 项 目 已 经 将 M y S Q L 全 部 升 级 到 5 . 6 ， 完 全 支 持 G T I D 了 。 不 同 于 f b 那 篇 文 章 将 m y s q l b i n l o g 改 造 支 持 s e m i - s y n c   r e p l i c a t i o n 协 议 ， 我 是 将 g o - m y s q l 的 r e p l i c a t i o n 库 支 持 s e m i - s y n c   r e p l i c a t i o n 协 议 ， 这 样 就 能 实 时 的 将 M y S Q L 的 b i n l o g 同 步 到 一 台 机 器 上 面 。 这 可 能 就 是 我 和 f b 方 案 的 唯 一 区 别 了 。 只 同 步 b i n l o g 速 度 铁 定 比 原 生 s l a v e 要 快 ， 毕 竟 少 了 执 行 b i n l o g 里 面 e v e n t 的 过 程 了 ， 而 另 外 真 正 的 s l a v e s ， 我 们 仍 然 使 用 最 原 始 的 同 步 方 式 ， 不 使 用 s e m i - s y n c   r e p l i c a t i o n 。 然 后 我 们 通 过 M H A 监 控 整 个 集 群 以 及 进 行 故 障 转 移 处 理 。 以 前 我 总 认 为 M H A 不 好 理 解 ， 但 其 实 这 是 一 个 非 常 强 大 的 工 具 ， 而 且 真 正 看 p e r l ， 发 现 也 还 是 看 的 懂 得 。 M H A 已 经 被 很 多 公 司 用 于 生 产 环 境 ， 经 受 了 检 验 ， 直 接 使 用 绝 对 比 自 己 写 一 个 要 划 算 。 所 以 后 续 我 也 不 会 考 虑 z o o k e e p e r ， 考 虑 自 己 写 a g e n t 了 。 阅 读 原 文 2 3 .   s e t   g l o b a l   e v e n t _ s c h e d u l e r   : =   1 ; l o g - s l a v e - u p d a t e
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理