搜索

[13168] 2018-09-10_差分隐私保护：从入门到脱坑

文档创建者：s7ckTeam
浏览次数：7
最后更新：2025-01-18
2018-09-10_差分隐私保护：从入门到脱坑 差 分 隐 私 保 护 ： 从 入 门 到 脱 坑 p i n g c h   F r e e B u f   2 0 1 8 - 0 9 - 1 0 差 分 隐 私 （ 差 分 隐 私 （ D i f f e r e n t i a l   P r i v a c y ） 是 密 码 学 中 的 一 种 手 段 ， 旨 在 提 供 一 种 当 从 统 计 数 据 库 查 询 时 ， 最 大 化 数 据 ） 是 密 码 学 中 的 一 种 手 段 ， 旨 在 提 供 一 种 当 从 统 计 数 据 库 查 询 时 ， 最 大 化 数 据 查 询 的 准 确 性 ， 同 时 最 大 限 度 减 少 识 别 其 记 录 的 机 会 。 简 单 地 说 ， 就 是 在 保 留 统 计 学 特 征 的 前 提 下 去 除 个 体 特 查 询 的 准 确 性 ， 同 时 最 大 限 度 减 少 识 别 其 记 录 的 机 会 。 简 单 地 说 ， 就 是 在 保 留 统 计 学 特 征 的 前 提 下 去 除 个 体 特 征 以 保 护 用 户 隐 私 。 征 以 保 护 用 户 隐 私 。 0 x 0 0   背 景 背 景 随 着 数 据 挖 掘 技 术 的 普 遍 应 用 ， 一 些 厂 商 通 过 发 布 用 户 数 据 集 的 方 式 鼓 励 研 究 人 员 进 一 步 深 入 挖 掘 数 据 的 内 在 价 值 ， 在 数 据 集 发 布 的 过 程 中 ， 就 存 在 安 全 隐 患 ， 可 能 导 致 用 户 隐 私 的 泄 露 。 2 0 1 6 年 欧 盟 通 过 《 一 般 数 据 法 案 》 （ G e n e r a l D a t a   P r o t e c t i o n   R e g u l a t i o n ,   G D P R ） ， 规 定 了 个 人 数 据 保 护 跨 越 国 界 ， 明 确 了 用 户 对 个 人 数 据 的 知 情 权 和 被 遗 忘 权 。 数 据 集 中 通 常 包 含 着 许 多 个 人 的 隐 私 数 据 ， 例 如 医 疗 诊 断 记 录 、 个 人 消 费 习 惯 和 使 用 偏 好 等 ， 这 些 信 息 会 由 于 数 据 集 的 发 布 而 泄 露 。 尽 管 删 除 数 据 的 身 份 标 识 符 （ 例 如 姓 名 、 I D 号 等 ） 能 够 在 一 定 程 度 上 保 护 个 人 隐 私 ， 但 是 以 下 案 例 表 明 ， 这 种 操 作 并 不 能 保 证 隐 私 信 息 的 安 全 性 。 2 0 0 6 年 1 0 月 ， N e t f l i x 提 出 一 笔 1 0 0 万 美 元 的 奖 金 ， 作 为 将 其 推 荐 系 统 改 进 达 1 0 % 的 奖 励 。 N e t f l i x 还 发 布 了 一 个 训 练 数 据 集 供 竞 选 开 发 者 训 练 其 系 统 。 在 发 布 此 数 据 集 时 ， N e t f l i x 提 供 了 免 责 声 明 ： 为 保 护 客 户 的 隐 私 ， 可 识 别 单 个 客 户 的 所 有 个 人 信 息 已 被 删 除 ， 并 且 所 有 客 户 I D 已 用 随 机 分 配 的 I D [ s i c ] 替 代 。 由 于 N e t f l i x 不 是 网 络 上 唯 一 的 电 影 评 级 门 户 网 站 ， 其 他 网 站 还 有 很 多 ， 包 括 I M D b 。 个 人 可 以 在 I M D b 上 注 册 和 评 价 电 影 ， 并 且 可 以 选 择 匿 名 化 自 己 的 详 情 。 德 克 萨 斯 州 大 学 奥 斯 汀 分 校 的 研 究 员 A r v i n d   N a r a y a n a n 和 V i t a l y   S h m a t i k o v 将 N e t f l i x 匿 名 化 的 训 练 数 据 库 与 I M D b 数 据 库 （ 根 据 用 户 评 价 日 期 ） 相 连 ， 能 够 部 分 反 匿 名 化 N e t f l i x 的 训 练 数 据 库 ， 危 及 到 部 分 用 户 的 身 份 信 息 。 [ 1 ] 此 外 ， 卡 内 基 梅 隆 大 学 的 L a t a n y a   S w e e n e y 的 将 匿 名 化 的 G I C 数 据 库 （ 包 含 每 位 患 者 的 出 生 日 期 、 性 别 和 邮 政 编 码 ） 与 选 民 登 记 记 录 相 连 后 ， 可 以 找 出 马 萨 诸 塞 州 州 长 的 病 历 。 [ 2 ] 差 分 隐 私 是 D w o r k 在 2 0 0 6 年 针 对 统 计 数 据 库 的 隐 私 泄 露 问 题 提 出 的 一 种 新 的 隐 私 定 义 。 在 此 定 义 下 ， 对 数 据 库 的 计 算 处 理 结 果 对 于 具 体 某 个 记 录 的 变 化 是 不 敏 感 的 ， 单 个 记 录 在 数 据 集 中 或 者 不 在 数 据 集 中 ， 对 计 算 结 果 的 影 响 微 乎 其 微 。 所 以 ， 一 个 记 录 因 其 加 入 到 数 据 集 中 所 产 生 的 隐 私 泄 露 风 险 被 控 制 在 极 小 的 、 可 接 受 的 范 围 内 ， 攻 击 者 无 法 通 过 观 察 计 算 结 果 而 获 取 准 确 的 个 体 信 息 。 [ 3 , 4 ] 目 前 ， 一 些 企 业 已 经 开 展 了 相 关 的 工 程 实 践 。 G o o g l e 利 用 本 地 化 差 分 隐 私 保 护 技 术 从 C h r o m e 浏 览 器 每 天 采 集 超 过 1 4 0 0 万 用 户 行 为 统 计 数 据 。 [ 5 ] 在 2 0 1 6 年 W W D C 主 题 演 讲 中 ， 苹 果 工 程 副 总 裁 C r a i g   F e d e r i g h i 宣 布 苹 果 使 用 本 地 化 差 分 隐 私 技 术 来 保 护 i O S / M a c O S 用 户 隐 私 。 根 据 其 官 网 披 露 的 消 息 ， 苹 果 将 该 技 术 应 用 于 E m o j i 、 Q u i c k T y p e 输 入 建 议 、 查 找 提 示 等 领 域 。 例 如 ， C o u n t   M e a n   S k e t c h 算 法 （ C M S ） 帮 助 苹 果 获 得 最 受 欢 迎 的 E m o j i 表 情 用 来 进 一 步 提 升 E m o j i 使 用 的 用 户 体 验 ， 图 1 展 示 了 利 用 该 技 术 获 得 的 U S   E n g l i s h 使 用 者 的 表 情 使 用 倾 向 。 图 2 展 示 了 该 技 术 的 具 体 流 程 。 图 1
图 2 0 x 0 1   形 式 化 定 义 形 式 化 定 义 基 本 定 义 基 本 定 义 对 于 一 个 有 限 域 Z ， z ∈ Z 为 Z 中 的 元 素 ， 从 Z 中 抽 样 所 得 z 的 集 合 组 成 数 据 集 D ， 其 样 本 量 为 n ，   属 性 的 个 数 为 维 度 d 。 对 数 据 集 D 的 各 种 映 射 函 数 被 定 义 为 查 询 （ Q u e r y ） ， 用 F = { f 1 ,   f 2 ,   · · · · · · } 来 表 示 一 组 查 询 ， 算 法 M 对 查 询 F 的 结 果 进 行 处 理 ， 使 之 满 足 隐 私 保 护 的 条 件 ， 此 过 程 成 为 隐 私 保 护 机 制 。 设 数 据 集 D 与 D ’ ， 具 有 相 同 的 属 性 结 构 ， 两 者 的 对 称 差 记 作 D Δ D ’ ， | D Δ D ’ | 表 示 D Δ D ’ 中 记 录 的 数 量 。 若 | D Δ D ’ | = 1 ， 则 称 D 和 D ’ 为 邻 近 数 据 集 邻 近 数 据 集 。 差 分 隐 私 差 分 隐 私 设 有 随 机 算 法 M ， P M 为 M 所 有 可 能 的 输 出 构 成 的 集 合 。 对 于 任 意 两 个 邻 近 数 据 集 D 和 D ’ 以 及 P M 的 任 何 子 集 S M ， 若 算 法 M 满 足 ： P r [ M ( D ) ∈ ∈ S M ] < = e x p ( ε ) * P r [ M ( D ’ ) ∈ ∈ S M ] ， 则 称 算 法 M 提 供 ε - 差 分 隐 私 保 护 ， 其 中 参 数 ε 称 为 隐 私 保 护 预 算 。 其 中 ， P r [ ] 表 示 发 生 某 一 事 件 的 概 率 。 如 图 1 所 示 ， 算 法 M 通 过 对 输 出 结 果 的 随 机 化 来 提 供 隐 私 保 护 ， 同 时 通 过 参 数 ε 来 保 证 在 数 据 集 中 删 除 任 一 记 录 时 ， 算 法 输 出 统 一 结 果 的 概 率 不 发 生 显 著 变 化 。 算 法 输 出 统 一 结 果 的 概 率 不 发 生 显 著 变 化 。 图 3 相 关 概 念 相 关 概 念
隐 私 保 护 预 算 隐 私 保 护 预 算 从 差 分 隐 私 保 护 差 分 隐 私 保 护 的 定 义 可 知 ， 隐 私 保 护 预 算 ε 用 于 控 制 算 法 M 在 邻 近 数 据 集 上 获 得 相 同 输 出 的 概 率 比 值 ， 反 映 了 算 法 M 所 的 隐 私 保 护 水 平 ， ε 越 小 ， 隐 私 保 护 水 平 越 高 。 在 极 端 情 况 下 ， 当 ε 取 值 为 0 时 ， 即 表 示 算 法 M 针 对 D 与 D ’ 的 输 出 的 概 率 分 布 完 全 相 同 ， 由 于 D 与 D ’ 为 邻 近 数 据 集 ， 根 据 数 学 归 纳 法 可 以 很 显 然 地 得 出 结 论 ， 即 当 ε = 0 时 ， 算 法 M 的 输 出 结 果 不 能 反 映 任 何 关 于 数 据 集 的 有 用 的 信 息 。 因 此 ， 从 另 一 方 面 ， ε 的 取 值 同 时 也 反 映 了 数 据 的 可 用 性 ， 在 相 同 情 况 下 ， ε 越 小 ， 数 据 可 用 性 越 低 。 敏 感 度 敏 感 度 差 分 隐 私 保 护 可 以 通 过 在 查 询 函 数 的 返 回 值 中 加 入 噪 声 来 实 现 ， 但 是 噪 声 的 大 小 同 样 会 影 响 数 据 的 安 全 性 和 可 用 性 。 通 常 使 用 敏 感 性 作 为 噪 声 量 大 小 的 参 数 ， 表 示 删 除 数 据 集 中 某 一 记 录 对 查 询 结 果 造 成 的 影 响 。 在 此 ， 我 们 不 再 介 绍 敏 感 度 的 详 细 定 义 ， 感 兴 趣 的 读 者 可 以 参 考 相 关 文 献 。 实 现 机 制 实 现 机 制 在 实 践 中 ， 通 常 使 用 拉 普 拉 斯 机 制 （ L a p l a c e   M a c h a n i s m ） 和 指 数 机 制 （ E x p o n e n t i a l   M e c h a n i s m ） 来 实 现 差 分 隐 私 保 护 。 其 中 ， 拉 普 拉 斯 机 制 用 于 数 值 型 结 果 的 保 护 ， 指 数 机 制 用 于 离 散 型 结 果 的 保 护 。 拉 普 拉 斯 机 制 拉 普 拉 斯 机 制 拉 普 拉 斯 机 制 通 过 向 确 切 的 查 询 结 果 中 加 入 服 从 拉 普 拉 斯 分 布 的 随 机 噪 声 来 实 现 ε - 差 分 隐 私 保 护 。 记 位 置 参 数 为 0 、 尺 度 参 数 为 b 的 拉 普 拉 斯 分 布 为 L a p ( b ) ， 那 么 其 概 率 密 度 函 数 为 : p ( x ) = e x p ( - | x | / b ) / 2 b ， 对 于 拉 普 拉 斯 机 制 ， 我 们 进 行 以 下 定 义 ： 给 定 数 据 集 D ， 设 有 函 数 f ： D - > R d ， 其 敏 感 度 为 Δ f ， 那 么 随 机 算 法 M ( D ) = f ( D ) + Y 提 供 ε - 差 分 隐 私 保 护 ， 其 中 Y ~ L a p ( Δ f / ε ) 为 随 机 噪 声 ， 服 从 尺 度 参 数 为 Δ f / ε 的 拉 普 拉 斯 分 布 。 指 数 机 制 指 数 机 制 由 于 拉 普 拉 斯 机 制 仅 适 用 于 数 值 型 结 果 ， 在 一 些 特 定 场 景 中 ， 往 往 需 要 返 回 离 散 型 结 果 ， 例 如 某 一 方 案 或 某 一 实 体 等 。 对 此 ， M c S h e r r y 等 人 提 出 了 指 数 机 制 。 设 查 询 函 数 的 输 出 域 为 R a n g e ， 域 中 的 每 个 值 r ∈ R a n g e 为 一 实 体 对 象 。 在 指 数 机 制 下 ， 函 数 q ( D , r ) - > R 成 为 输 出 值 r 的 可 用 性 函 数 ， 用 来 评 估 输 出 值 r 的 优 劣 程 度 。 对 于 指 数 机 制 ， 我 们 进 行 以 下 定 义 ： 设 随 机 算 法 M 输 入 为 数 据 集 D ， 输 出 为 一 实 体 对 象 r ∈ R a n g e ， q ( D , r ) - > R 为 可 用 性 函 数 ， Δ q 为 函 数 q ( D , r ) - > R 的 敏 感 度 。 若 算 法 M 以 正 比 于 e x p ( ε q ( D , r ) / 2 Δ q ) 的 概 率 从 R a n g e 中 选 择 并 输 出 r ， 那 么 算 法 M 提 供 ε - 差 分 隐 私 保 护 。 组 合 性 质 组 合 性 质 性 质 性 质 1 假 设 有 n 个 随 机 算 法 K ， 其 中 K i 满 足 ε i - 差 分 隐 私 ， 则 { K i } （ 1 < = i < = n ） 组 合 后 的 算 法 满 足 s u m ( ε i ) - 差 分 隐 私 。 性 质 性 质 2 设 有 n 个 随 机 算 法 K ， 其 中 K i 满 足 ε i - 差 分 隐 私 ， 且 任 意 两 个 算 法 的 操 作 数 没 有 交 集 ， 则 { K i } （ 1 < = i < = n ） 组 合 后 的 算 法 满 足 m a x ( ε i ) - 差 分 隐 私 。 0 x 0 2   实 例 实 例
拉 普 拉 斯 机 制 拉 普 拉 斯 机 制 I D h a s C a n c e r 0 1 Y e s 0 2 N o 0 3 Y e s 0 4 N o · · · · · · 我 们 设 上 述 数 据 集 为 D ， 用 于 统 计 个 体 是 否 患 有 癌 症 。 以 计 数 函 数 为 例 ， 即 c o u n t ( D ) 函 数 ， 用 于 表 示 数 据 集 D 中 共 有 n 条 h a s C a n c e r 属 性 值 为 Y e s 的 数 据 ， 即 该 数 据 集 中 共 有 n 人 患 有 癌 症 ， 该 函 数 的 敏 感 度 为 1 ， 具 体 计 算 方 法 可 参 考 相 关 论 文 。 为 了 方 便 计 算 ， 我 们 假 设 此 时 的 隐 私 预 算 ε 为 1 ， 则 Δ f / ε = 1 ， 即 返 回 结 果 为 c o u n t ( D ) + L a p ( 0 , 1 ) 。 假 设 在 上 述 数 据 集 中 ， c o u n t ( D ) 的 真 实 结 果 为 5 0 ， 图 4 展 示 了 重 复 1 0 0 0 次 后 的 结 果 分 布 ， 基 本 符 合 拉 普 拉 斯 分 布 。 图 4 指 数 机 制 指 数 机 制 I D d i s e a s e i m p o r t   n u m p y   a s   n p l o c ,   s c a l e   =   0 . ,   1 . s   =   n p . r a n d o m . l a p l a c e ( l o c ,   s c a l e ,   1 ) r e s u l t =   r e a l R e s u l t   +   s [ 0 ] p r i n t   r e s u l t i m p o r t   n u m p t   a s   n p i m p o r t   m a t p l o t l i b . p y p l o t   a s   p l t l o c ,   s c a l e   =   0 . ,   1 . s   =   n p . r a n d o m . l a p l a c e ( l o c ,   s c a l e ,   1 0 0 0 ) r e s u l t _ l i s t   =   l i s t ( m a p ( l a m b d a   x   :   x + 5 0 , s ) ) p l t . h i s t ( r e s u l t _ l i s t ,   3 0 ,   d e n s i t y = T r u e ) p l t . s h o w ( )
0 1 C a n c e r 0 2 H I V 0 3 H I V 0 4 H P V · · · · · · I D d i s e a s e 我 们 设 上 述 数 据 集 为 D ， 用 于 统 计 个 体 所 患 疾 病 的 种 类 ， 为 了 方 便 计 算 ， 我 们 假 定 上 述 数 据 集 中 d i s e a s e 属 性 仅 有 三 种 类 型 ， 即 C a n c e r 、 H I V 和 H P V 。 现 在 希 望 能 够 获 得 患 者 最 多 的 疾 病 类 型 。 在 该 场 景 下 ， 可 用 性 函 数 q ( D ,   r ) 为 数 据 集 D 中 疾 病 r 的 患 者 数 目 ， 显 然 该 函 数 Δ q = 1 。 d i s e a s e 可 用 性 可 用 性 C a n c e r 5 0 H I V 2 0 H P V 3 0 为 了 方 便 计 算 ， 我 们 假 设 此 时 的 隐 私 预 算 ε 为 1 。 d i s e a s e e x p ( ε q ( D , r ) / 2 Δ q ) 概 率 概 率 C a n c e r e x p ( 2 5 ) 0 . 9 9 9 9 H I V e x p ( 1 0 ) 3 * 1 0 ^ - 7 H P V e x p ( 1 5 ) 0 . 0 0 0 0 4 为 了 比 较 不 同 隐 私 预 算 ε 的 影 响 ， 我 们 进 一 步 比 较 隐 私 预 算 ε 分 别 取 值 为 0 ， 0 . 1 和 0 . 5 时 的 情 况 。 d i s e a s e ε = 0 ε = 0 . 1 ε = 0 . 5 C a n c e r 0 . 3 3 3 0 . 6 2 8 0 . 9 9 3 H I V 0 . 3 3 3 0 . 1 2 4 0 . 0 0 6 H P V 0 . 3 3 3 0 . 2 3 1 0 . 0 0 1 上 述 结 果 也 验 证 了 我 们 的 结 论 ， 即 隐 私 预 算 ε 越 大 ， 数 据 可 用 性 越 高 ， 安 全 性 越 低 ， 当 隐 私 预 算 ε = 0 时 ， 数 据 失 去 意 义 。 0 x 0 3   总 结 总 结 上 面 只 是 差 分 隐 私 保 护 的 简 单 应 用 ， 要 想 应 用 在 生 产 环 境 中 ， 还 需 要 针 对 具 体 场 景 对 算 法 进 一 步 改 造 ， 但 差 分 隐 私 保 护 的 思 想 是 不 变 的 。 差 分 隐 私 提 供 针 对 隐 私 保 护 的 方 法 提 供 了 形 式 化 的 定 义 ， 让 信 息 安 全 人 员 和 数 据 管 理 员 对 当 前 环 境 中 的 隐 私 保 护 情 况 有 一 个 可 量 化 的 指 标 。 另 外 ， 差 分 隐 私 提 供 了 一 种 无 关 攻 击 者 背 景 知 识 的 数 据 保 护 方 案 ， 相 比 k - a n o n y m i t y 、 l - d i v e r s i t y 和 t - c l o s e n e s s 等 方 法 更 具 优 势 。 在 早 期 ， 人 们 很 难 证 明 我 的 方 法 保 护 了 隐 私 ， 更 无 法 证 明 究 竟 保 护 了 多 少 隐 私 。 现 在 差 分 隐 私 用 严 格 的 数 学 证 明 告 诉 人 们 ， 只 要 你 按 照 我 的 做 ， 我 就 保 证 你 的 隐 私 不 会 泄 露 。 [ 6 ] 在 这 个 意 义 上 ， 差 分 隐 私 的 出 现 可 以 说 是 具 有 重 大 意 义 的 ， 它 将 隐 私 保 护 这 一 工 程 问 题 进 行 抽 象 ， 变 为 数 学 问 题 ， 本 文 介 绍 了 中 心 化 的 差 分 隐 私 方 法 ， 引 出 了 主 流 的 拉 普 拉 斯 机 制 和 指 数 机 制 ， 关 于 机 制 实 现 ε - 差 分 隐 私 保 护 的 数 学 证 明 ， 可 以 在 文 章 差 分 隐 私 若 干 基 本 知 识 点 介 绍 （ 一 ） 和 差 分 隐 私 若 干 基 本 知 识 点 介 绍 （ 二 ） 中 获 得 ， 其 中 的 数 学 知 识 基 本 在 高 中 范 围 。 而 背 景 介 绍 中 G o o g l e 、 苹 果 等 公 司 采 用 的 本 地 化 差 分 隐 私 方 法 ， 是 差 分 隐 私 保 护 的 另 一 分 支 ， 在 本 地 化 差 分 隐 私 中 ， 由 于 没 有 全 局 敏 感 度 的 概 念 ， 因 此 本 文 介 绍 的 拉 普 拉 斯 机 制 和 指 数 机 制 不 再 适 用 ， 大 多 数 方 案 采 用 随 机 响 应 机 制 ， 如
果 可 能 将 在 后 期 的 文 章 中 介 绍 。 参 考 文 献 参 考 文 献 [ 1 ]   N a r a y a n a n ,   A r v i n d ,   a n d   V i t a l y   S h m a t i k o v .   “ R o b u s t   d e - a n o n y m i z a t i o n   o f   l a r g e   s p a r s e   d a t a s e t s . ”   S e c u r i t y   a n d P r i v a c y ,   2 0 0 8 .   S P   2 0 0 8 .   I E E E   S y m p o s i u m   o n .   I E E E ,   2 0 0 8 . [ 2 ]   D e   M o n t j o y e ,   Y v e s - A l e x a n d r e ,   e t   a l .   “ U n i q u e   i n   t h e   c r o w d :   T h e   p r i v a c y   b o u n d s   o f   h u m a n   m o b i l i t y . ”   S c i e n t i f i c r e p o r t s   3   ( 2 0 1 3 ) :   1 3 7 6 . [ 3 ]   D w o r k ,   C y n t h i a .   “ D i f f e r e n t i a l   p r i v a c y :   A   s u r v e y   o f   r e s u l t s . ”   I n t e r n a t i o n a l   C o n f e r e n c e   o n   T h e o r y   a n d   A p p l i c a t i o n s o f   M o d e l s   o f   C o m p u t a t i o n .   S p r i n g e r ,   B e r l i n ,   H e i d e l b e r g ,   2 0 0 8 . [ 4 ]   熊 平 ,   朱 天 清 ,   a n d   王 晓 峰 .   “ 差 分 隐 私 保 护 及 其 应 用 . ”   计 算 机 学 报   3 7 . 1   ( 2 0 1 4 ) :   1 0 1 - 1 2 2 . [ 5 ]   E r l i n g s s o n ,   Ú l f a r ,   V a s y l   P i h u r ,   a n d   A l e k s a n d r a   K o r o l o v a .   “ R a p p o r :   R a n d o m i z e d   a g g r e g a t a b l e   p r i v a c y - p r e s e r v i n g o r d i n a l   r e s p o n s e . ”   P r o c e e d i n g s   o f   t h e   2 0 1 4   A C M   S I G S A C   c o n f e r e n c e   o n   c o m p u t e r   a n d   c o m m u n i c a t i o n s   s e c u r i t y . A C M ,   2 0 1 4 . [ 6 ]   N e m o   “ 苹 果 的   D i f f e r e n t i a l   P r i v a c y   差 分 隐 私 技 术 是 什 么 原 理 ？ ” * 本 文 原 创 作 者 ： 本 文 原 创 作 者 ： p i n g c h ， 本 文 属 ， 本 文 属 F r e e B u f 原 创 奖 励 计 划 ， 未 经 许 可 禁 止 转 载 原 创 奖 励 计 划 ， 未 经 许 可 禁 止 转 载 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理