搜索

[26297] 2020-11-04_10张图打开CPU缓存一致性的大门

文档创建者：s7ckTeam
浏览次数：2
最后更新：2025-01-19
2020-11-04_10张图打开CPU缓存一致性的大门 1 0   张 图 打 开   C P U   缓 存 一 致 性 的 大 门 L i n u x 学 习   2 0 2 0 - 1 1 - 0 4 以 下 文 章 来 源 于 小 林 c o d i n g   ， 作 者 小 林 c o d i n g 来 自 公 众 号 ： 来 自 公 众 号 ： 小 林 小 林 c o d i n g 前 言 前 言 直 接 上 ， 不 多   B B   了 。 正 文 正 文 小 林 小 林 c o d i n g   . 图 解 得 了 技 术 ， 谈 吐 得 了 烟 火 。
C P U   C a c h e   的 数 据 写 入 随 着 时 间 的 推 移 ， C P U   和 内 存 的 访 问 性 能 相 差 越 来 越 大 ， 于 是 就 在   C P U   内 部 嵌 入 了   C P U   C a c h e （ 高 速 缓 存 ） ， C P U   C a c h e   离   C P U   核 心 相 当 近 ， 因 此 它 的 访 问 速 度 是 很 快 的 ， 于 是 它 充 当 了   C P U   与 内 存 之 间 的 缓 存 角 色 。 C P U   C a c h e   通 常 分 为 三 级 缓 存 ： L 1   C a c h e 、 L 2   C a c h e 、 L 3   C a c h e ， 级 别 越 低 的 离   C P U   核 心 越 近 ， 访 问 速 度 也 快 ， 但 是 存 储 容 量 相 对 就 会 越 小 。 其 中 ， 在 多 核 心 的   C P U   里 ， 每 个 核 心 都 有 各 自 的   L 1 / L 2   C a c h e ， 而   L 3   C a c h e   是 所 有 核 心 共 享 使 用 的 。 我 们 先 简 单 了 解 下   C P U   C a c h e   的 结 构 ， C P U   C a c h e   是 由 很 多 个   C a c h e   L i n e   组 成 的 ， C P U   L i n e   是 C P U   从 内 存 读 取 数 据 的 基 本 单 位 ， 而   C P U   L i n e   是 由 各 种 标 志 （ T a g ） +   数 据 块 （ D a t a   B l o c k ） 组 成 ， 你 可 以 在 下 图 清 晰 的 看 到 ：
我 们 当 然 期 望   C P U   读 取 数 据 的 时 候 ， 都 是 尽 可 能 地 从   C P U   C a c h e   中 读 取 ， 而 不 是 每 一 次 都 要 从 内 存 中 获 取 数 据 。 所 以 ， 身 为 程 序 员 ， 我 们 要 尽 可 能 写 出 缓 存 命 中 率 高 的 代 码 ， 这 样 就 有 效 提 高 程 序 的 性 能 ， 具 体 的 做 法 ， 你 可 以 参 考 我 上 一 篇 文 章 「 如 何 写 出 让   C P U   跑 得 更 快 的 代 码 ？ 」 事 实 上 ， 数 据 不 光 是 只 有 读 操 作 ， 还 有 写 操 作 ， 那 么 如 果 数 据 写 入   C a c h e   之 后 ， 内 存 与   C a c h e   相 对 应 的 数 据 将 会 不 同 ， 这 种 情 况 下   C a c h e   和 内 存 数 据 都 不 一 致 了 ， 于 是 我 们 肯 定 是 要 把   C a c h e   中 的 数 据 同 步 到 内 存 里 的 。 问 题 来 了 ， 那 在 什 么 时 机 才 把   C a c h e   中 的 数 据 写 回 到 内 存 呢 ？ 为 了 应 对 这 个 问 题 ， 下 面 介 绍 两 种 针 对 写 入 数 据 的 方 法 ： 写 直 达 （ W r i t e   T h r o u g h ） 写 回 （ W r i t e   B a c k ） 写 直 达 写 直 达 保 持 内 存 与   C a c h e   一 致 性 最 简 单 的 方 式 是 ， 把 数 据 同 时 写 入 内 存 和 把 数 据 同 时 写 入 内 存 和   C a c h e   中 中 ， 这 种 方 法 称 为 写 直 达 写 直 达 （ （ W r i t e   T h r o u g h ） ） 。
在 这 个 方 法 里 ， 写 入 前 会 先 判 断 数 据 是 否 已 经 在   C P U   C a c h e   里 面 了 ： 如 果 数 据 已 经 在   C a c h e   里 面 ， 先 将 数 据 更 新 到   C a c h e   里 面 ， 再 写 入 到 内 存 里 面 ； 如 果 数 据 没 有 在   C a c h e   里 面 ， 就 直 接 把 数 据 更 新 到 内 存 里 面 。 写 直 达 法 很 直 观 ， 也 很 简 单 ， 但 是 问 题 明 显 ， 无 论 数 据 在 不 在   C a c h e   里 面 ， 每 次 写 操 作 都 会 写 回 到 内 存 ， 这 样 写 操 作 将 会 花 费 大 量 的 时 间 ， 无 疑 性 能 会 受 到 很 大 的 影 响 。 写 回 写 回 既 然 写 直 达 由 于 每 次 写 操 作 都 会 把 数 据 写 回 到 内 存 ， 而 导 致 影 响 性 能 ， 于 是 为 了 要 减 少 数 据 写 回 内 存 的 频 率 ， 就 出 现 了 写 回 （ 写 回 （ W r i t e   B a c k ） 的 方 法 ） 的 方 法 。 在 写 回 机 制 中 ， 当 发 生 写 操 作 时 ， 新 的 数 据 仅 仅 被 写 入 当 发 生 写 操 作 时 ， 新 的 数 据 仅 仅 被 写 入   C a c h e   B l o c k   里 ， 只 有 当 修 改 过 的 里 ， 只 有 当 修 改 过 的   C a c h e
B l o c k 「 被 替 换 」 时 才 需 要 写 到 内 存 中 「 被 替 换 」 时 才 需 要 写 到 内 存 中 ， 减 少 了 数 据 写 回 内 存 的 频 率 ， 这 样 便 可 以 提 高 系 统 的 性 能 。 那 具 体 如 何 做 到 的 呢 ？ 下 面 来 详 细 说 一 下 ：
如 果 当 发 生 写 操 作 时 ， 数 据 已 经 在   C P U   C a c h e   里 的 话 ， 则 把 数 据 更 新 到   C P U   C a c h e   里 ， 同 时 标 记 C P U   C a c h e   里 的 这 个   C a c h e   B l o c k   为 脏 （ D i r t y ） 的 ， 这 个 脏 的 标 记 代 表 这 个 时 候 ， 我 们   C P U   C a c h e 里 面 的 这 个   C a c h e   B l o c k   的 数 据 和 内 存 是 不 一 致 的 ， 这 种 情 况 是 不 用 把 数 据 写 到 内 存 里 的 ； 如 果 当 发 生 写 操 作 时 ， 数 据 所 对 应 的   C a c h e   B l o c k   里 存 放 的 是 「 别 的 内 存 地 址 的 数 据 」 的 话 ， 就 要 检 查 这 个   C a c h e   B l o c k   里 的 数 据 有 没 有 被 标 记 为 脏 的 ， 如 果 是 脏 的 话 ， 我 们 就 要 把 这 个   C a c h e   B l o c k   里 的 数 据 写 回 到 内 存 ， 然 后 再 把 当 前 要 写 入 的 数 据 ， 写 入 到 这 个   C a c h e   B l o c k   里 ， 同 时 也 把 它 标 记 为 脏 的 ； 如 果   C a c h e   B l o c k   里 面 的 数 据 没 有 被 标 记 为 脏 ， 则 就 直 接 将 数 据 写 入 到 这 个   C a c h e   B l o c k   里 ， 然 后 再 把 这 个   C a c h e   B l o c k   标 记 为 脏 的 就 好 了 。 可 以 发 现 写 回 这 个 方 法 ， 在 把 数 据 写 入 到   C a c h e   的 时 候 ， 只 有 在 缓 存 不 命 中 ， 同 时 数 据 对 应 的   C a c h e   中 的 C a c h e   B l o c k   为 脏 标 记 的 情 况 下 ， 才 会 将 数 据 写 到 内 存 中 ， 而 在 缓 存 命 中 的 情 况 下 ， 则 在 写 入 后   C a c h e 后 ， 只 需 把 该 数 据 对 应 的   C a c h e   B l o c k   标 记 为 脏 即 可 ， 而 不 用 写 到 内 存 里 。 这 样 的 好 处 是 ， 如 果 我 们 大 量 的 操 作 都 能 够 命 中 缓 存 ， 那 么 大 部 分 时 间 里   C P U   都 不 需 要 读 写 内 存 ， 自 然 性 能 相 比 写 直 达 会 高 很 多 。 缓 存 一 致 性 问 题 现 在   C P U   都 是 多 核 的 ， 由 于   L 1 / L 2   C a c h e   是 多 个 核 心 各 自 独 有 的 ， 那 么 会 带 来 多 核 心 的 缓 存 一 致 性 缓 存 一 致 性 （ （ C a c h e   C o h e r e n c e ） ）   的 问 题 ， 如 果 不 能 保 证 缓 存 一 致 性 的 问 题 ， 就 可 能 造 成 结 果 错 误 。 那 缓 存 一 致 性 的 问 题 具 体 是 怎 么 发 生 的 呢 ？ 我 们 以 一 个 含 有 两 个 核 心 的   C P U     作 为 例 子 看 一 看 。 假 设   A   号 核 心 和   B   号 核 心 同 时 运 行 两 个 线 程 ， 都 操 作 共 同 的 变 量   i （ 初 始 值 为   0   ） 。
这 时 如 果   A   号 核 心 执 行 了 语 句 的 时 候 ， 为 了 考 虑 性 能 ， 使 用 了 我 们 前 面 所 说 的 写 回 策 略 ， 先 把 值 为 的 执 行 结 果 写 入 到   L 1 / L 2   C a c h e   中 ， 然 后 把   L 1 / L 2   C a c h e   中 对 应 的   B l o c k   标 记 为 脏 的 ， 这 个 时 候 数 据 其 实 没 有 被 同 步 到 内 存 中 的 ， 因 为 写 回 策 略 ， 只 有 在   A   号 核 心 中 的 这 个   C a c h e   B l o c k   要 被 替 换 的 时 候 ， 数 据 才 会 写 入 到 内 存 里 。 如 果 这 时 旁 边 的   B   号 核 心 尝 试 从 内 存 读 取   i   变 量 的 值 ， 则 读 到 的 将 会 是 错 误 的 值 ， 因 为 刚 才   A   号 核 心 更 新 i   值 还 没 写 入 到 内 存 中 ， 内 存 中 的 值 还 依 然 是   0 。 这 个 就 是 所 谓 的 缓 存 一 致 性 问 题 ， 这 个 就 是 所 谓 的 缓 存 一 致 性 问 题 ， A   号 核 心 和 号 核 心 和   B   号 核 号 核 心 的 缓 存 ， 在 这 个 时 候 是 不 一 致 ， 从 而 会 导 致 执 行 结 果 的 错 误 。 心 的 缓 存 ， 在 这 个 时 候 是 不 一 致 ， 从 而 会 导 致 执 行 结 果 的 错 误 。 i + + 1
那 么 ， 要 解 决 这 一 问 题 ， 就 需 要 一 种 机 制 ， 来 同 步 两 个 不 同 核 心 里 面 的 缓 存 数 据 。 要 实 现 的 这 个 机 制 的 话 ， 要 保 证 做 到 下 面 这   2   点 ： 第 一 点 ， 某 个   C P U   核 心 里 的   C a c h e   数 据 更 新 时 ， 必 须 要 传 播 到 其 他 核 心 的   C a c h e ， 这 个 称 为 写 传 播 写 传 播 （ （ W r e i t e   P r o p a g a t i o n ） ） ； 第 二 点 ， 某 个   C P U   核 心 里 对 数 据 的 操 作 顺 序 ， 必 须 在 其 他 核 心 看 起 来 顺 序 是 一 样 的 ， 这 个 称 为 事 务 的 事 务 的 串 形 化 （ 串 形 化 （ T r a n s a c t i o n   S e r i a l i z a t i o n ） ） 。 第 一 点 写 传 播 很 容 易 就 理 解 ， 当 某 个 核 心 在   C a c h e   更 新 了 数 据 ， 就 需 要 同 步 到 其 他 核 心 的   C a c h e   里 。 而 对 于 第 二 点 事 务 的 串 形 化 ， 我 们 举 个 例 子 来 理 解 它 。 假 设 我 们 有 一 个 含 有   4   个 核 心 的   C P U ， 这   4   个 核 心 都 操 作 共 同 的 变 量   i （ 初 始 值 为   0   ） 。 A   号 核 心 先 把 i   值 变 为   1 0 0 ， 而 此 时 同 一 时 间 ， B   号 核 心 先 把   i   值 变 为   2 0 0 ， 这 里 两 个 修 改 ， 都 会 「 传 播 」 到   C   和   D 号 核 心 。
那 么 问 题 就 来 了 ， C   号 核 心 先 收 到 了   A   号 核 心 更 新 数 据 的 事 件 ， 再 收 到   B   号 核 心 更 新 数 据 的 事 件 ， 因 此 C   号 核 心 看 到 的 变 量   i   是 先 变 成   1 0 0 ， 后 变 成   2 0 0 。 而 如 果   D   号 核 心 收 到 的 事 件 是 反 过 来 的 ， 则   D   号 核 心 看 到 的 是 变 量   i   先 变 成   2 0 0 ， 再 变 成   1 0 0 ， 虽 然 是 做 到 了 写 传 播 ， 但 是 各 个   C a c h e   里 面 的 数 据 还 是 不 一 致 的 。 所 以 ， 我 们 要 保 证   C   号 核 心 和   D   号 核 心 都 能 看 到 相 同 顺 序 的 数 据 变 化 相 同 顺 序 的 数 据 变 化 ， 比 如 变 量   i   都 是 先 变 成   1 0 0 ， 再 变 成   2 0 0 ， 这 样 的 过 程 就 是 事 务 的 串 形 化 。 要 实 现 事 务 串 形 化 ， 要 做 到   2   点 ： C P U   核 心 对 于   C a c h e   中 数 据 的 操 作 ， 需 要 同 步 给 其 他   C P U   核 心 ；
要 引 入 「 锁 」 的 概 念 ， 如 果 两 个   C P U   核 心 里 有 相 同 数 据 的   C a c h e ， 那 么 对 于 这 个   C a c h e   数 据 的 更 新 ， 只 有 拿 到 了 「 锁 」 ， 才 能 进 行 对 应 的 数 据 更 新 。 那 接 下 来 我 们 看 看 ， 写 传 播 和 事 务 串 形 化 具 体 是 用 什 么 技 术 实 现 的 。 总 线 嗅 探 写 传 播 的 原 则 就 是 当 某 个   C P U   核 心 更 新 了   C a c h e   中 的 数 据 ， 要 把 该 事 件 广 播 通 知 到 其 他 核 心 。 最 常 见 实 现 的 方 式 是 总 线 嗅 探 （ 总 线 嗅 探 （ B u s   S n o o p i n g ） ） 。 我 还 是 以 前 面 的   i   变 量 例 子 来 说 明 总 线 嗅 探 的 工 作 机 制 ， 当   A   号   C P U   核 心 修 改 了   L 1   C a c h e   中   i   变 量 的 值 ， 通 过 总 线 把 这 个 事 件 广 播 通 知 给 其 他 所 有 的 核 心 ， 然 后 每 个   C P U   核 心 都 会 监 听 总 线 上 的 广 播 事 件 ， 并 检 查 是 否 有 相 同 的 数 据 在 自 己 的   L 1   C a c h e   里 面 ， 如 果   B   号   C P U   核 心 的   L 1   C a c h e   中 有 该 数 据 ， 那 么 也 需 要 把 该 数 据 更 新 到 自 己 的   L 1   C a c h e 。 可 以 发 现 ， 总 线 嗅 探 方 法 很 简 单 ，   C P U   需 要 每 时 每 刻 监 听 总 线 上 的 一 切 活 动 ， 但 是 不 管 别 的 核 心 的   C a c h e 是 否 缓 存 相 同 的 数 据 ， 都 需 要 发 出 一 个 广 播 事 件 ， 这 无 疑 会 加 重 总 线 的 负 载 。 另 外 ， 总 线 嗅 探 只 是 保 证 了 某 个   C P U   核 心 的   C a c h e   更 新 数 据 这 个 事 件 能 被 其 他   C P U   核 心 知 道 ， 但 是 并 不 能 保 证 事 务 串 形 化 。 于 是 ， 有 一 个 协 议 基 于 总 线 嗅 探 机 制 实 现 了 事 务 串 形 化 ， 也 用 状 态 机 机 制 降 低 了 总 线 带 宽 压 力 ， 这 个 协 议 就 是   M E S I   协 议 ， 这 个 协 议 就 做 到 了   C P U   缓 存 一 致 性 。 M E S I   协 议 M E S I   协 议 其 实 是   4   个 状 态 单 词 的 开 头 字 母 缩 写 ， 分 别 是 ： M o d i f i e d ， 已 修 改 E x c l u s i v e ， 独 占 S h a r e d ， 共 享 I n v a l i d a t e d ， 已 失 效 这 四 个 状 态 来 标 记   C a c h e   L i n e   四 个 不 同 的 状 态 。 「 已 修 改 」 状 态 就 是 我 们 前 面 提 到 的 脏 标 记 ， 代 表 该   C a c h e   B l o c k   上 的 数 据 已 经 被 更 新 过 ， 但 是 还 没 有 写 到 内 存 里 。 而 「 已 失 效 」 状 态 ， 表 示 的 是 这 个   C a c h e   B l o c k   里 的 数 据 已 经 失 效 了 ， 不 可 以 读 取 该 状 态 的 数 据 。 「 独 占 」 和 「 共 享 」 状 态 都 代 表   C a c h e   B l o c k   里 的 数 据 是 干 净 的 ， 也 就 是 说 ， 这 个 时 候   C a c h e   B l o c k   里 的
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理