搜索

[26354] 2021-01-21_Linux文件系统与持久性内存介绍

文档创建者：s7ckTeam
浏览次数：2
最后更新：2025-01-19
2021-01-21_Linux文件系统与持久性内存介绍 L i n u x 文 件 系 统 与 持 久 性 内 存 介 绍 阿 炯   L i n u x 学 习   2 0 2 1 - 0 1 - 2 1 来 自 ： 来 自 ： F r e e O A ， 作 者 ： 阿 炯 ， 作 者 ： 阿 炯 链 接 ： 链 接 ： h t t p : / / w w w . f r e e o a . n e t / o s u p o r t / s t o r a g e b a k / l i n u x f s - n v d i m m - i n t r o _ 1 8 9 8 . h t m l 1 、 、 L i n u x   虚 拟 文 件 系 统 介 绍 虚 拟 文 件 系 统 介 绍 在   L i n u x   系 统 中 一 切 皆 文 件 ， 除 了 通 常 所 说 的 狭 义 的 文 件 以 外 ， 目 录 、 设 备 、 套 接 字 和 管 道 等 都 是 文 件 。 文 件 系 统 在 不 同 的 上 下 文 中 有 不 同 的 含 义 ： 在 存 储 设 备 上 组 织 文 件 的 方 法 ， 包 括 数 据 结 构 和 访 问 方 法 ， 到 存 储 设 备 。 按 照 某 种 文 件 系 统 类 型 格 式 化 的 一 块 存 储 介 质 。 我 们 常 说 在 某 个 目 录 下 挂 载 或 卸 载 文 件 系 统 ，   这 里 的 文 件 系 统 就 是 这 种 意 思 。 内 核 中 负 责 管 理 和 存 储 文 件 的 模 块 ， 即 文 件 系 统 模 块 。 L i n u x 文 件 系 统 的 架 构 如 下 图 所 示 ， 分 为 用 户 空 间 、 内 核 空 间 和 硬 件 3 个 层 面 ：
注 意 ： 上 图 中 方 块 对 齐 关 系 ， 很 多 时 候 我 们 分 不 清 内 核 文 件 系 统 中   " c a c h e "   和   " b u f f e r "   的 区 别 ， 毕 竟 两 者 都 可 以 翻 译 为   " 缓 存 区 " ， 但 是 从 图 中 ， 就 可 以 很 清 晰 的 看 出 所 谓 的   " c a c h e "   其 实 指 的 就 是 图 中 的   " 页 缓 存 "   它 是 针 对 文 件 来 说 的 ， 除 了   " D A X " ( 直 接 访 问 方 式 的 设 备 ) 它 不 使 用   " 缓 存 " ， 其 他 的 闪 存 类 ， 块 设 备 类 设 备 都 会 使 用 到   " 页 缓 存 "   也 就 是   " c a c h e " ， 而   " b u f f e r "   其 实 指 的 就 是 图 中 的   " 块 缓 存 "   它 是 针 对 块 设 备 的 。
1 . 1 、 硬 件 层 面 、 硬 件 层 面 外 部 存 储 设 备 分 为 块 设 备 、 闪 存 和   N V D I M M   设 备   3   类 ， 块 设 备 主 要 有 以 下 两 种 ： 机 械 硬 盘 ： 机 械 硬 盘 的 读 写 单 位 是 扇 区 。 访 问 机 械 硬 盘 的 时 候 ， 需 要 首 先 沿 着 半 径   方 向 移 动 磁 头 寻 找 磁 道 ， 然 后 转 动 盘 片 找 到 扇 区 。 闪 存 类 块 设 备 ： 使 用 闪 存 作 为 存 储 介 质 ， 里 面 的 控 制 器 运 行 固 化 的 驱 动 程 序 ， 驱 动   程 序 的 功 能 之 一 是 闪 存 转 换 层 ( F l a s h   T r a n s l a t i o n   L a y e r ， F T L ) ， 把 闪 存 转 换 为 块 设 备 ，   外 表 现 为 块 设 备 。 常 见 的 闪 存 类 块 设 备 是 在 个 人 计 算 机 和 笔 记 本 电 脑 上 使 用 的 固 态 硬 盘   s p l i d   S t a t e   D r i v e s ， S S D ) ， 以 及 在 手 机 和 平 板 电 脑 上 使 用 的 嵌 入 式 多 媒 体 存 储 卡 ( e m b e d d e d   M u l t i   M e d i a   C a r d ， e M M c ) 和 通 用 闪 存 存 储 ( U n i v e r s a l   F l a s h   S t o r a g e ， U F S ) 。 闪 存 类 块 设 备 相 对 机 械 硬 盘 的 优 势 是 ： 访 问 速 度 快 ， 因 为 没 有 机 械 操 作 ： 抗 振 性 很 高 ，   便 于 携 带 。 闪 存 ( F l a s h   M e m o r y ) 的 主 要 特 点 如 下 ： 在 写 入 数 据 之 前 需 要 擦 除 一 个 擦 除 块 ， 因 为 向 闪 存 写 数 据 只 能 把 一 个 位 从   1   变 成   0 ， 不 能 从   0   变 成   1 ， 擦 除 的 目 的 是 把 擦 除 块 的 所 有 位 设 置 为   1 一 个 擦 除 块 的 最 大 擦 除 次 数 有 限 ， N O R 闪 存 的 擦 除 块 的 最 大 擦 除 次 数 是   1 0 ^ 4 ~ 1 0 ^ 3 ，   N A N D   闪 存 的 擦 除 块 的 最 大 擦 除 次 数 是   1 0 ^ 3 ~ 1 0 ^ 6 。 闪 存 按 存 储 结 构 分 为   N A N D   闪 存 和   N O R   闪 存 ， 两 者 的 区 别 如 下 ： N O R 闪 存 的 容 量 小 ， N A N D   闪 存 的 容 量 大 。 N O R   闪 存 支 持 按 字 节 寻 址 ， 支 持 芯 片 内 执 行 ( e X e c u t e   I n   P l a c e ， X I P ) ， 可 以 直 接   在 闪 存 内 执 行 程 序 ， 不 需 要 把 程 序 读 到 内 存 中 ;   N A N D   闪 存 的 最 小 读 写 单 位 是 页 或 子 页 ，   一 个 擦 除 块 分 为 多 个 页 ， 有 的   N A N D   闪 存 把 页 划 分 为 多 个 子 页 。 N O R   闪 存 读 的 速 度 比   N A N D   闪 存 块 ， 写 的 速 度 和 擦 除 的 速 度 都 比   N A N D   闪 存 慢 N O R   闪 存 没 有 坏 块 ； N A N D   闪 存 存 在 坏 块 ， 主 要 是 因 为 消 除 坏 块 的 成 本 太 高   N O R   闪 存 适 合 存 储 程 序 ， 一 般 用 来 存 储 引 导 程 序 比 如   u b o o t   程 序 ； N A N D   闪 存 适 合 存 储 数 据 。 为 什 么 要 针 对 闪 存 专 门 设 计 文 件 系 统 ？ 主 要 原 因 如 下 ： N A N D   闪 存 存 在 坏 块 ， 软 件 需 要 识 别 并 且 跳 过 坏 块 。 需 要 实 现 损 耗 均 衡 (   w e a r   l e v e l i n g ) ， 损 耗 均 衡 就 是 使 所 有 擦 除 块 的 擦 除 次 数 均 衡 ，   避 免 一 部 分 擦 除 块 先 损 坏 。 机 械 硬 盘 和   N A N D   闪 存 的 主 要 区 别 如 下 ：
机 械 硬 盘 的 最 小 读 写 单 位 是 扇 区 ， 扇 区 的 大 小 一 般 是   5 1 2   字 节 ： N A N D   闪 存 的 最   小 读 写 单 位 是 页 或 子 页 。 机 械 硬 盘 可 以 直 接 写 入 数 据 ： N A N D   闪 存 在 写 入 数 据 之 前 需 要 擦 除 一 个 擦 除 块 。 机 械 硬 盘 的 使 用 寿 命 比   N A N D   闪 存 长 ： 机 械 硬 盘 的 扇 区 的 写 入 次 数 没 有 限 制 ： N A N D   闪 存 的 擦 除 块 的 擦 除 次 数 有 限 。 机 械 硬 盘 隐 藏 坏 的 扇 区 ， 软 件 不 需 要 处 理 坏 的 扇 区 ： N A N D   闪 存 的 坏 块 对 软 件 可   见 ， 软 件 需 要 处 理 坏 块 。 N V D I M M ( N o n n - V o l a t i l e   D I M M ， 非 易 失 性 内 存 ： D I M M   是   D u a l - I n l i n e - M e m o r y - M o d u l e s   的 缩 写 ， 表 示 双 列 直 插 式 存 储 模 块 ， 是 内 存 的 一 种 规 格 ) 设 备 把   N A N D   闪 存 、 内 存 和 超 级 电 容 集 成 到 一 起 ， 访 问 速 度 和 内 存 一 样 快 ， 并 且 断 电 以 后 数 据 不 会 丢 失 。 在 断 电 的 瞬 间 ，   超 级 电 容 提 供 电 力 ， 把 内 存 中 的 数 据 转 移 到   N A N D   闪 存 。 1 . 2 、 内 核 空 间 层 面 、 内 核 空 间 层 面 在 内 核 的 目 录   f s   下 可 以 看 到 ， 内 核 支 持 多 种 文 件 系 统 类 型 。 为 了 对 用 户 程 序 提 供 统 一 的   文 件 操 作 接 口 ， 为 了 使 不 同 的 文 件 系 统 实 现 能 够 共 存 ， 内 核 实 现 了 一 个 抽 象 层 ， 称 为 虚 拟 文 件 系 统 ( V i r t u a l   F i l e   S y s t e m ， V F S ) ， 也 称 为 虚 拟 文 件 系 统 切 换 ( V i r t u a l   F i l e s y s t e m   S w i t c h ， V F S )   文 件 系 统 分 为 以 下 几 种 。 块 设 备 文 件 系 统 ， 存 储 设 备 是 机 械 硬 盘 和 固 态 硬 盘 等 块 设 备 ， 常 用 的 块 设 备 文 件   系 统 是   E X T   和   b t r f s 。 E X T   文 件 系 统 是   L i n u x   原 创 的 文 件 系 统 ， 目 前 有   3   个   成 版 本 ： E X T [ 2 - 4 ] 。 闪 存 文 件 系 统 ， 存 储 设 备 是   N A N D   闪 存 和   N O R   闪 存 ， 常 用 的 闪 存 文 件 系 统 是   J F F S 2   ， ( 日 志 型 闪 存 文 件 系 统 版 本 2 ，   J o u r n a l l i n g   F l a s h   F i l e   S y s t e m   v e r s i o n 2 ) 和 U B I F S ( 无 序 区 块 镜 像 文 件 系 统 ，   U n s o r t e d   B l o c k   I m a g e   F i l e   S y s t e m ) 。 内 存 文 件 系 统 的 文 件 在 内 存 中 ， 断 电 以 后 文 件 丢 失 ， 常 用 的 内 存 文 件 系 统 是   t m p f s ，   用 来 创 建 临 时 文 件 。 伪 文 件 系 统 ， 是 假 的 文 件 系 统 ， 只 是 为 了 使 用 虚 拟 文 件 系 统 的 编 程 接 口 ， 常 用 的   伪 文 件 系 统 如 下 所 示 ： s o c k f s ， 这 种 文 件 系 统 使 得 套 接 字 ( s o c k e t ) 可 以 使 用 读 文 件 的 接 口   r e a d   接 收 报 文 ，   使 用 写 文 件 的 接 口   w r i t e   发 送 报 文 。 p r o c   文 件 系 统 ， 最 初 开 发   p r o c   文 件 系 统 的 目 的 是 把 内 核 中 的 进 程 信 息 导 出 到 用 户 空 间 ，   后 来 扩 展 到 把 内 核 中 的 任 何 信 息 导 出 到 用 户 空 间 ， 通 常 把   p r o c   文 件 系 统 挂 载 在 目 录   " p r o c "   下 。 s y s f s ， 用 来 把 内 核 的 设 备 信 息 导 出 到 用 户 空 间 ， 通 常 把   s y s f s   文 件 系 统 挂 载 在 目 录   " / s y s " 下 。 h u g e t l b f s ， 用 来 实 现 标 准 巨 型 页 。 c g r o u p   文 件 系 统 ， 控 制 组 ( c o n t r o l   g r o u p   c g r o u p ) 用 来 控 制 一 组 进 程 的 资 源 ，   c g r o u p   文 件 系 统 使 管 理 员 可 以 使 用 写 文 件 的 方 式 配 置   c g r o u p 。 c g r o u p 2   文 件 系 统 ，   c g r o u p 2   是   c g r o u p   的 第 二 个 版 本 ，   c g r o u p 2   文 件 系 统 使 管 理 员 可   以 使 用 写 文 件 的 方 式 配 置   c g r o u p 2 。 这 些 文 件 系 统 又 各 自 有 着 相 关 的 特 性 ： 页 缓 存 ： 访 问 外 部 存 储 设 备 的 速 度 很 慢 ， 为 了 避 免 每 次 读 写 文 件 时 访 问 外 部 存 储 设 备 ， 文 件 系 统 模 块 为 每 个 文 件 在 内 存 中 创 建 了 一 个 缓 存 ， 因 为 缓 存 的 单 位 是 页 ， 所 以 称 为 页 缓 存 。 块 设 备 层 ： 块 设 备 的 访 问 单 位 是 块 ， 块 大 小 是 扇 区 大 小 的 整 数 倍 。 内 核 为 所 有 块 设 备 实 现 了 统 一   的 块 设 备 层 。 块 缓 存 ： 为 了 避 免 每 次 读 写 都 需 要 访 问 块 设 备 ， 内 核 实 现 了 块 缓 存 ， 为 每 个 块 设 备 在 内 存 中 创   建 一 个 块 缓 存 。 缓 存 的 单 位 是 块 ， 块 缓 存 是 基 于 页 缓 存 实 现 的 。 I O   调 度 器 ： 访 问 机 械 硬 盘 时 ， 移 动 磁 头 寻 找 磁 道 和 扇 区 很 耗 时 ， 如 果 把 读 写 请 求 按 照 扇 区 号 排 序 ，   可 以 减 少 磁 头 的 移 动 ， 提 高 吞 吐 量 。 I O   调 度 器 用 来 决 定 读 写 请 求 的 提 交 顺 序 ， 针 对 不 同 的   使 用 场 景 提 供 了 多 种 调 度 算 法 ： N O O P ( N o   O p e r a t i o n ) 、 C F Q ( 完 全 公 平 排 队 ，   C o m p l e t e   F a i r   Q u e u i n g ) 和   d e a d l i n e ( 限 期 ) 。 N O O P   调 度 算 法 适 合 闪 存 类 块 设 备 ， C F Q   和   d e a d l i n e 调 度 算   法 适 合 机 械 硬 盘 。 块 设 备 驱 动 程 序 ： 每 种 块 设 备 需 要 实 现 自 己 的 驱 动 程 序 。 内 核 把 闪 存 称 为 存 储 技 术 设 备 (   M e m o r y   T e c h n o l o g y   D e v i c e ， M T D ) ， 为 所 有 闪 存 实 现   了 统 一 的   M T D   层 ， 每 种 闪 存 需 要 实 现 自 己 的 驱 动 程 序 。 针 对   N V D I M M   设 备 ， 文 件 系 统 需 要 实 现   D A X ( D i r e c t   A c c e s s 直 接 访 问 ： X   代 表   e X c i t i n g ， 没 有 意 义 ， 只 是 为 了 让 名 字 看 起 来 酷 ) ， 绕 过 页 缓 存 和 块 设 备 层 ， 把   N V D I M M   设 备 里 面
的 内 存 直 接 映 射 到 进 程 或 内 核 的 虚 拟 地 址 空 间 。 l i b n v d i m m   子 系 统 提 供 对   3   种   N V D I M M   设 备 的 支 持 ： 持 久 内 存 ( p e r s i s t e n t   m e m o r y ， P M E M )   模 式 的   N V D I M M   设 备 ， 块 设 备 ( b l o c k ， B L K ) 模 式 的   N V D I M M   设 备 ， 以 及 同 时 支 持 P M E M   和   B L K   两 种 访 问 模 式 的   N V D I M M   设 备 。 P M E M   访 问 模 式 是 把   N V D I M M   设 备 当 作 内 存 ， B L K   访 问 模 式 是 把   N V D I M M   设 备 当 作 块 设 备 。 每 种   N V D I M M   设 备 需 要 实 现 自 己 的 驱 动 程 序 。 2 、 下 一 代 存 储 技 术 、 下 一 代 存 储 技 术 N V I D M M N V D I M M   ( N o n - V o l a t i l e   D u a l   I n - l i n e   M e m o r y   M o d u l e )   是 一 种 可 以 随 机 访 问 的 ,   非 易 失 性 内 存 。 非 易 失 性 内 存 指 的 是 即 使 在 不 通 电 的 情 况 下 ,   数 据 也 不 会 消 失 。 因 此 可 以 在 计 算 机 掉 电   ( u n e x p e c t e d   p o w e r   l o s s ) ,   系 统 崩 溃 和 正 常 关 机 的 情 况 下 ,   依 然 保 持 数 据 。 N V D I M M   同 时 表 明 它 使 用 的 是   D I M M   封 装 ,   与 标 准 D I M M   插 槽 兼 容 ,   并 且 通 过 标 准 的   D D R 总 线 进 行 通 信 。 考 虑 到 它 的 非 易 失 性 ,   并 且 兼 容 传 统 D R A M 接 口 ,   又 被 称 作 P e r s i s t e n t   M e m o r y 。 2 . 1 、 种 类 、 种 类 目 前 ,   根 据   J E D E C   标 准 化 组 织 的 定 义 ,   有 三 种 N V D I M M   的 实 现 。 分 别 是 ： N V D I M M - N 指 在 一 个 模 块 上 同 时 放 入 传 统   D R A M   和   f l a s h   闪 存 ， 计 算 机 可 以 直 接 访 问 传 统   D R A M 。 支 持 按 字 节 寻 址 ， 也 支 持 块 寻 址 。 通 过 使 用 一 个 小 的 后 备 电 源 ， 为 在 掉 电 时 数 据 从   D R A M   拷 贝 到 闪 存 中 提 供 足 够 的 电 能 ； 当 电 力 恢 复 时 再 重 新 加 载 到   D R A M   中 。 N V D I M M - N 示 意 图 N V D I M M - N   的 主 要 工 作 方 式 其 实 和 传 统   D R A M 是 一 样 的 。 因 此 它 的 延 迟 也 在 1 0 的 1 次 方 纳 秒 级 。 而 且 它 的 容 量 ， 受 限 于 体 积 ， 相 比 传 统 的   D R A M   也 不 会 有 什 么 提 升 。 同 时 它 的 工 作 方 式 决 定 了 它 的   f l a s h   部 分 是 不 可 寻 址 的 ， 而 且 同 时 使 用 两 种 介 质 的 作 法 使 成 本 急 剧 增 加 ， 但 是   N V D I M M - N   为 业 界 提 供 了 持 久 性 内 存 的 新 概 念 。 目 前 市 面 上 已 经 有 很 多 基 于 N V I M M - N 的 产 品 。 N V D I M M - F 指 使 用 了   D R A M   的 D D R 3 或 者   D D R 4   总 线 的 f l a s h 闪 存 。 我 们 知 道 由   N A N D   f l a s h   作 为 介 质 的   S S D ， 一 般 使 用 S A T A ， S A S   或 者 P C I e   总 线 。 使 用   D D R   总 线 可 以 提
高 最 大 带 宽 ， 一 定 程 度 上 减 少 协 议 带 来 的 延 迟 和 开 销 ， 不 过 只 支 持 块 寻 址 。 N V D I M M - F   的 主 要 工 作 方 式 本 质 上 和 S S D 是 一 样 的 ， 因 此 它 的 延 迟 在   1 0 的 1 次 方 微 秒 级 。 它 的 容 量 也 可 以 轻 松 达 到   T B   以 上 。 N V D I M M - P 这 是 一 个 目 前 还 没 有 发 布 的 标 准   ( U n d e r   D e v e l o p m e n t ) ， 预 计 将 与   D D R 5   标 准 一 同 发 布 。 按 照 计 划 ， D D R 5 将 比 D D R 4 提 供 双 倍 的 带 宽 ， 并 提 高 信 道 效 率 。 这 些 改 进 ， 以 及 服 务 器 和 客 户 端 平 台 的 用 户 友 好 界 面 ， 将 在 各 种 应 用 程 序 中 支 持 高 性 能 和 改 进 的 电 源 管 理 。 N V D I M M - P   实 际 上 是 真 正   D R A M   和   f l a s h   的 混 合 。 它 既 支 持 块 寻 址 ,   也 支 持 类 似 传 统   D R A M   的 按 字 节 寻 址 。 它 既 可 以 在 容 量 上 达 到 类 似   N A N D   f l a s h   的 T B 以 上 , 又 能 把 延 迟 保 持 在 1 0 的 2 次 方 纳 秒 级 。 通 过 将 数 据 介 质 直 接 连 接 至 内 存 总 线 ， C P U   可 以 直 接 访 问 数 据 ， 无 需 任 何 驱 动 程 序 或   P C I e   开 销 。 而 且 由 于 内 存 访 问 是 通 过 6 4   字 节 的   c a c h e   l i n e ， C P U   只 需 要 访 问 它 需 要 的 数 据 ， 而 不 是 像 普 通 块 设 备 那 样 每 次 要 按 块 访 问 。 I n t e l   公 司 在 2 0 1 8 年 5 月 发 布 了 基 于 3 D   X P o i n t ™   技 术 的 I n t e l ®   O p t a n e ™   D C   P e r s i s t e n t   M e m o r y 。 可 以 认 为 是 N V D I M M - P   的 一 种 实 现 。 I n t e l ®   O p t a n e ™   D C   P e r s i s t e n t   M e m o r y 2 . 2 、 硬 件 支 持 、 硬 件 支 持 应 用 程 序 可 以 直 接 访 问 N V D I M M - P ,   就 像 对 于 传 统   D R A M 那 样 。 这 也 消 除 了 在 传 统 块 设 备 和 内 存 之 间 页 交 换 的 需 要 。 但 是 向 持 久 性 内 存 里 写 数 据 是 和 向 普 通 D R A M 里 写 数 据 共 享 计 算 机 资 源 的 。 包 括 处 理 器 缓 冲 区 ,   L 1 / L 2 缓 存 等 。 需 要 注 意 的 是 ,   要 使 数 据 持 久 ,   一 定 要 保 证 数 据 写 入 了 持 久 性 内 存 设 备 ,   或 者 写 入 了 带 有 掉 电 保 护 的 b u f f e r 。 软 件 如 果 要 充 分 利 用 持 久 性 内 存 的 特 性 ,   指 令 集 架 构 上 至 少 需 要 以 下 支 持 ： 写 的 原 子 性 表 示 对 于 持 久 性 内 存 里 任 意 大 小 的 写 都 要 保 证 是 原 子 性 的 ,   以 防 系 统 崩 溃 或 者 突 然 掉 电 。 I A - 3 2   和   I A - 6 4   处 理 器 保 证 了 对 缓 存 数 据 最 大 6 4 位 的 数 据 访 问   ( 对 齐 或 者 非 对 齐 )   的 写 原 子 性 。 因 此 ,   软 件 可 以 安 全 地 在 持 久 性 内 存 上 更 新 数 据 。 这 样 也 带 来 了 性 能 上 的 提 升 ,   因 为 消 除 了 c o p y - o n - w r i t e   或 者   w r i t e - a h e a d - l o g g i n g   这 种 保 证 写 原 子 性 的 开 销 。 高 效 的 缓 存 刷 新 ( f l u s h i n g ) 出 于 性 能 的 考 虑 ,   持 久 性 内 存 的 数 据 也 要 先 放 入 处 理 器 的 缓 存 ( c a c h e ) 才 能 被 访 问 。 经 过 优 化 的 缓 存 刷 新 指 令 减 少 了 由 于 刷 新   ( C L F L U S H )   造 成 的 性 能 影 响 。 a .   C L F L U S H O P T   提 供 了 更 加 高 效 的 缓 存 刷 新 指 令
b .   C L W B   ( C a c h e   L i n e   W r i t e   B a c k )   指 令 把 c a c h e   l i n e 上 改 变 的 数 据 写 回 内 存   ( 类 似 C L F L U S H O P T ) ， 但 是 无 需 让 这 条   c a c h e   l i n e   转 变 成 无 效 状 态 ( i n v a l i d ,   M E S I p r o t o c o l ) ， 而 是 转 换 成 未 改 变 的 独 占 状 态 ( E x c l u s i v e ) 。 C L W B   指 令 实 际 上 是 在 试 图 减 少 由 于 某 条 c a c h e   l i n e 刷 新 所 造 成 的 下 次 访 问 必 然 的 c a c h e   m i s s 。 提 交 至 持 久 性 内 存 ( C o m m i t t i n g   t o   P e r s i s t e n c e ) 在 现 代 计 算 机 架 构 下 ， 缓 存 刷 新 的 完 成 表 明 修 改 的 数 据 已 经 被 回 写 至 内 存 子 系 统 的 写 缓 冲 区 。 但 是 此 时 数 据 并 不 具 有 持 久 性 。 为 了 确 保 数 据 写 入 持 久 性 内 存 ， 软 件 需 要 刷 新 易 失 性 的 写 缓 冲 区 或 者 在 内 存 子 系 统 的 其 他 缓 存 。 新 的 用 于 持 久 性 写 的 提 交 指 令   P C O M M I T   可 以 把 内 存 子 系 统 写 队 列 中 的 数 据 提 交 至 持 久 性 内 存 。 非 暂 时 s t o r e 操 作 的 优 化 ( N o n - t e m p o r a l   S t o r e   O p t i m i z a t i o n ) 当 软 件 需 要 拷 贝 大 量 数 据 从 普 通 内 存 到 持 久 性 内 存 中 时 ( 或 在 持 久 性 内 存 之 间 拷 贝 ) ,   可 以 使 用 弱 顺 序 ,   非 暂 时 的 s t o r e 操 作   ( 比 如 使 用 M O V N T I   指 令 ) 。 因 为 N o n - t e m p o r a l   s t o r e 指 令 可 以 隐 式 地 使 要 回 写 的 那 条 c a c h e   l i n e   失 效 ,   软 件 就 不 需 要 明 确 地 f l u s h   c a c h e   l i n e 了 ( s e e   S e c t i o n   1 0 . 4 . 6 . 2 .   o f   I n t e l ®   6 4   a n d   I A - 3 2   A r c h i t e c t u r e s   S o f t w a r e D e v e l o p e r ' s   M a n u a l ,   V o l u m e   1 ) 。 小 结 小 结 上 面 介 绍 了 N V D I M M   的 几 种 实 现 方 式 ， 以 及 为 了 发 挥 N V D I M M - P   的 性 能 所 做 的 硬 件 上 的 优 化 和 支 持 。 下 面 会 继 续 介 绍 软 件 方 面 的 支 持 ， 包 括 编 程 模 型 、 编 程 库 、 S P D K 方 面 的 支 持 等 。 在 上 篇 的   N V D I M M 介 绍 中 ， 我 们 讲 解 了 N V D I M M 几 种 硬 件 上 的 实 现 方 式 ， 以 及 为 了 支 持 和 优 化 性 能 所 做 的 硬 件 上 的 改 变 。 接 下 来 让 我 们 来 讨 论 一 下 为 了 充 分 发 挥 N V D I M M 的 性 能 ， 软 件 方 面 做 了 哪 些 支 持 。 有 些 人 可 能 会 有 疑 问 ，   为 什 么 用 起 来 这 么 麻 烦 ？ 既 然 是 持 久 性 内 存 ， 不 是 应 该 关 机 什 么 样 ，   开 机 什 么 样 ，   就 可 以 了 吗 ？ 其 实 目 前 来 看 ，   这 种 想 法 还 不 会 变 为 现 实 。 因 为 除 了 D R A M 是 易 失 性 的 ， 比 如   c a c h e ， 寄 存 器 这 种 也 是 易 失 性 的 。 仅 仅 把 内 存 做 成 持 久 性 的 也 不 能 达 成 这 样 的 目 的 。 另 一 个 问 题 是 ，   m e m o r y   l e a k 。 如 果 发 生 了 内 存 泄 漏 ， 重 启 一 下 就 好 了 。 那 如 果 是 持 久 性 内 存 的 泄 漏 呢 ？ 这 也 是 一 个 很 棘 手 的 问 题 。 P m e m 有 些 方 面 类 似 于 内 存 ， 也 有 些 方 面 类 似 于 存 储 。 但 是 ， 通 常 上 我 们 不 会 认 为 P m e m 能 够 替 代 内 存 或 存 储 。 其 实 ， 可 以 把 它 看 作 是 一 种 补 充 ， 填 补 了 内 存 和 存 储 之 间 巨 大 的 差 异 。 S P D K   在   1 7 . 1 0   中 开 始 引 入 对 于 P m e m 的 支 持 。 P m e m 在 S P D K 的 b d e v 层 暴 露 为 一 个 块 设 备 ， 使 用 快 设 备 接 口 和 上 层 进 行 通 信 。 如 下 图 所 示 。
从 图 中 我 们 可 以 看 到 l i b p m e m b l k   把 块 操 作 转 换 成 了 字 节 操 作 。 它 是 怎 么 做 到 的 呢 ？ 在 介 绍 l i b p m e m b l k   和   它 背 后 的 P M D K 之 前 ，   我 们 了 解 一 下 基 础 知 识 。 m m a p 和 和 D A X 首 先 ， 我 们 来 看 传 统 的 I / O 方 式 ，   即 缓 存 I / O   ( B u f f e r e d   I / O ) .   大 多 数 操 作 系 统 默 认 的 I O 操 作 方 式 都 是 缓 存 I O 。 该 机 制 使 I O 数 据 缓 存 在 操 作 系 统 的 p a g e   c a c h e   中 ，   也 就 是 说 ，   数 据 会 被 先 拷 贝 到 操 作 系 统 的 内 核 空 间 的 缓 冲 区 中 ， 然 后 才 会 从 内 核 空 间 的 缓 冲 区 拷 贝 到 指 定 的 用 户 地 址 空 间 。 在 L i n u x   中 ，   这 种 访 问 文 件 的 方 式 就 是 通 过 r e a d / w r i t e   系 统 调 用 来 实 现 ， 如 上 图 。 接 下 来 ，   我 们 比 较 一 下 内 存 映 射 I O   m m a p ( ) 。 接 下 来 ，   我 们 比 较 一 下 内 存 映 射 I O   m m a p ( ) 。
通 过 m m a p 获 得 了 对 应 文 件 的 一 个 指 针 ， 然 后 就 像 操 作 内 存 一 样 进 行 赋 值 或 者 做 m e m c p y / s t r c p y .   这 种 我 们 称 之 为 l o a d / s t o r e 操 作 ( 这 种 操 作 一 般 需 要 m s y n c 、 f s y n c 来 落 盘 ) 。 m m a p 因 为 建 立 了 文 件 到 用 户 空 间 的 映 射 关 系 ， 可 以 看 作 是 把 文 件 直 接 拷 贝 到 用 户 空 间 ， 减 少 了 一 次 数 据 拷 贝 。 但 是 m m a p 依 然 需 要 依 靠 p a g e   c a c h e 。 讲 完 了 m m a p ， 那 么 D A X 是 什 么 呢 ？ D A X 即 d i r e c t   a c c e s s ， 这 个 特 性 是 基 于 m m a p 的 。 而 D A X 的 区 别 在 于 完 全 不 需 要 p a g e   c a c h e ， 直 接 对 存 储 设 备 访 问 ， 所 以 它 就 是 为 了 N V D I M M 而 生 的 。 应 用 对 于 m m a p 的 文 件 操 作 ， 是 直 接 同 步 到 N V D I M M 上 的 。 D A X 目 前 在 X F S ,   E X T 4 ,   W i n d o w s 的   N T F S   上 都 已 经 支 持 。 需 要 注 意 的 是 ， 使 用 这 个 模 式 ， 要 对 应 用 程 序 或 者 文 件 系 统 进 行 修 改 。 2 . 3 、 、 N V M   P r o g r a m m i n g   M o d e l N V M   P r o g r a m m i n g   M o d e l   大 致 定 义 了 三 种 使 用 方 式 。 2 . 3 . 1   最 左 边 M a n a g e m e n t   主 要 是 通 过 d r i v e r 提 供 的 A P I 对 N V D I M M 进 行 管 理 ，   比 如 查 看 容 量 信 息 、 健 康 状 态 、 固 件 版 本 、 固 件 升 级 、 模 式 配 置 等 等 。 2 . 3 . 2   中 间 ，   作 为 存 储 快 设 备 使 用 ，   使 用 支 持 N V D I M M   d r i v e r   的 文 件 系 统 和 内 核 ，   应 用 程 序 不 用 做 任 何 修 改 ， 通 过 标 准 文 件 接 口 访 问 N V D I M M 。
2 . 3 . 3   第 三 种 ，   基 于 文 件 系 统 的 D A X 特 性 ， 通 过 l o a d / s t o r e 操 作 ， 不 需 要 p a g e   c a c h e ， 同 步 落 盘 ， 没 有 系 统 调 用 ，   没 有 中 断 。 这 也 是 N V M   P r o g r a m m i n g   M o d e l   的 核 心 ，   能 够 充 分 释 放 N V D I M M 的 性 能 优 势 。 但 它 的 缺 点 在 于 ， 应 用 程 序 可 能 需 要 做 一 下 改 变 。 P M D K l i b p m e m b l k   实 现 了 一 个 驻 留 在 p m e m 中 的 同 样 大 小 的 块 的 数 组 。 里 面 每 个 块 对 于 突 然 掉 电 ， 程 序 崩 溃 等 情 况 依 然 保 持 原 子 事 务 性 。 l i b p m e m b l k 是 基 于 l i b p m e m 库 的 ， l i b p m e m 是 P M D K 中 提 供 的 一 个 更 底 层 的 库 ,   尤 其 是 对 于 f l u s h 的 支 持 。 它 能 够 追 踪 每 次 对 p m e m 的 s t o r e 操 作 ， 并 保 证 数 据 落 盘 为 持 久 性 数 据 。 除 此 以 外 ，   P M D K   还 提 供 了 其 他 编 程 库 ，   比 如   l i b p m e m o b j , l i b p m e m l o g , l i b v m m a l l o c   等 。 感 兴 趣 可 以 访 问 其 主 页 获 取 更 多 信 息 。 结 语 结 语 至 此 ， 对 于 N V D I M M 硬 件 和 软 件 上 的 不 同 ，   大 家 都 有 了 一 个 大 致 的 认 识 。 I n t e l   在 2 0 1 8 年 5 月 发 布 了 基 于 3 D   X P o i n t ™   技 术 的 I n t e l ®   O p t a n e ™   D C   P e r s i s t e n t M e m o r y ， 引 发 了 N V D I M M 爆 点 。 2 . 4 、 上 述 内 容 可 做 如 下 的 概 述 、 上 述 内 容 可 做 如 下 的 概 述 N V I D M M 分 类 N V I D M M - N ： m e m o r y   m a p p e d   D R A M ， 提 供 字 符 访 问 接 口 ， 在 三 种 产 品 中 性 能 最 好 ， 容 量 最 小 N V D I M M - F ： m e m o r y   m a p p e d   F l u s h ， 只 提 供 块 设 备 接 口 。 N a n d   F l u s h 直 接 链 接 到 M e m o r y   c o n t r o l l e r   c h a n n e l 。 N V I D M M - P ： U n d e r   D e v e l o p m e n t ， 提 供 块 设 备 和 字 符 设 备 访 问 接 口 。 特 性 N V D I M M - N ： N V D I M M - N 既 可 以 用 作 缓 存 ， 又 可 以 作 为 块 存 储 设 备 来 用 。 典 型 代 表 是 类 似 i n t e l   的 A E P 。 N V I D M M - F ： 不 同 于 N V I D M M - N 主 要 用 作 缓 存 ， N V I D M M - F 主 要 用 作 存 储 。 可 以 用 来 快 速 构 建 高 密 度 的 内 存 池 存 储 池 。 2 . 4 . 1   构 建 基 于 构 建 基 于 N V D M M 的 文 件 系 统 的 文 件 系 统 门 为 P M E M 设 计 的 文 件 系 统 是 N O V A   F i l e s y s t e m ， 感 兴 趣 的 读 者 可 以 参 考 N O V A 的 g i t h u b 。 Z U F S 作 为 来 自 于 N e t A p p 的 一 个 项 目 ， Z U F S 的 全 称 是 Z e r o - c o p y   U s e r   F i l e s y s t e m 。 声 称 是 实 现 了 完 全 的 z e r o - c o p y ， 甚 至 文 件 系 统 的 m e t a d a t a 都 是 z e r o - c o p y 的 。 Z U F S 主 要 是 为 了 P M E M 设 计 ， 但 是 也 可 以 支 持 传 统 的 磁 盘 设 备 ， 相 当 于 是 F U S E 的 z e r o - c o p y 版 本 ， 是 对 F U S E 的 性 能 的 提 升 。 在 用 作 D R A M 的 模 式 下 ： 2 . 4 . 2 . 1   支 持 全 系 统 掉 电 保 护 ，   不 少 场 景 下 为 了 防 止 异 常 掉 电 丢 数 据 的 c o m m i t   a n d   f l u s h   的 两 阶 段 提 交 方 法 ， 可 以 省 略 成 一 阶 段 的 c o m m i t   o n   w r i t e   的 方 法 2 . 4 . 2 . 2   为 D R A M 和 S S D 物 理 之 间 提 供 了 一 个 新 的 存 储 层 2 . 4 . 2 . 3   由 于 用 作 D R A M 的 时 候 ， 其 访 问 速 度 比 S S D 可 能 有 1 ~ 3 个 数 量 级 的 提 升 ， 在 一 些 文 件 系 统 中 可 以 去 掉 对 p a g e   c a c h 的 依 赖 ， 这 样 反 而 更 能 控 制 上 层 业 务 的 平 均 延 时 和 服 务 稳 定 性 。 D A X ： 顾 名 思 义 ， D A X 就 是 D i r e c t   A c c e s s ,   b y p a s s   p a g e   c a c h e 。 读 写 直 接 操 作 P M E M 上 的 数 据 ， 文 件 系 统 需 要 在 m o u n t   的 时 候 ， 加 入   " - o   d a x " 参 数 。 D A X 极 大 地 提 高 了 文 件 系 统 在 P M E M 设 备 上 的 性 能 ， 但 是 还 有 一 些 问 题 没 有 解 决 ， 比 如 ： 文 件 系 统 的 m e t a d a t a 还 是 需 要 使 用 p a g e   c a c h e 或 b u f f e r   c a c h e 。 " - o   d a x "   m o u n t   o p t i o n 是 对 整 个 文 件 系 统 的 ， 不 能 做 更 细 粒 度 的 控 制 。
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理