搜索

[15915] 2020-10-01_隐私保护之殇：数据匿名也有“bug”？

文档创建者：s7ckTeam
浏览次数：1
最后更新：2025-01-18
2020-10-01_隐私保护之殇：数据匿名也有“bug”？ 隐 私 保 护 之 殇 ： 数 据 匿 名 也 有 “ b u g ” ？ 原 创   M e g a n n a i n a i   F r e e B u f   2 0 2 0 - 1 0 - 0 1 曾 经 ， “ 在 互 联 网 上 ， 没 人 知 道 你 是 一 条 狗 。 ” 现 在 ， “ 你 站 在 桥 上 看 风 景 ， 看 风 景 的 人 在 楼 上 看 着 你 。 ” 我 们 无 处 藏 身 。 因 一 场 不 可 思 议 的 隐 私 泄 露 ， N e t f l i x 曾 被 一 位 同 性 恋 用 户 起 诉 。 2 0 0 6 年 ， 该 公 司 公 布 了 大 约 来 自 5 0 万 用 户 的 一 亿 条 租 赁 记 录 ， 其 中 包 括 用 户 的 评 分 和 评 分 日 期 ， 并 悬 赏 百 万 美 金 ， 希 望 吸 引 工 程 师 通 过 软 件 设 计 来 提 高 其 电 影 推 荐 系 统 的 精 准 度 。 虽 然 N e t f l i x 做 出 此 举 前 ， 已 经 对 数 据 进 行 了 匿 名 化 处 理 ， 但 是 这 名 “ 匿 名 ” 同 性 恋 用 户 还 是 被 认 出 。 匿 名 化 也 保 护 不 了 隐 私 数 据 ？ 在 数 据 容 易 裸 奔 的 科 技 时 代 ， 匿 名 化 刚 给 大 家 吃 了 定 心 丸 ， “ 打 脸 ” 来 得 这 么 快 ？ 事 实 上 ， 匿 名 与 隐 私 从 理 论 概 念 上 来 讲 完 美 融 合 ， 但 是 从 技 术 及 应 对 方 案 上 来 看 ， 融 合 之 路 并 非 想 象 中 那 样 简 单 。
匿 名 化 的 前 世 今 生 匿 名 化 的 前 世 今 生 数 据 匿 名 的 社 会 意 识 应 该 是 近 几 年 才 日 渐 扩 散 的 ， 但 其 实 来 自 技 术 层 面 的 畅 想 与 实 践 早 就 开 始 了 。 实 验 室 总 是 先 走 一 步 ， 1 9 9 7 年 ， 美 国 学 者 S a m a r a t i 和 S w e e n e y 提 出 了 k - a n o n y m i t y 匿 名 模 型 ， 为 后 续 各 种 技 术 解 决 方 案 的 涌 现 开 了 先 河 。 当 然 ， 届 时 ， 数 据 匿 名 这 个 话 题 更 多 是 停 留 在 技 术 圈 内 的 狂 欢 。 随 着 大 数 据 、 智 能 技 术 近 年 的 发 展 与 渗 透 ， 数 据 泄 露 、 隐 私 侵 犯 等 问 题 日 渐 凸 显 ， 并 且 受 影 响 的 群 体 日 渐 几 何 级 增 长 。 一 方 面 数 据 作 为 智 能 时 代 的 基 石 ， 不 可 能 因 噎 废 食 ， 完 全 放 弃 ， 另 一 方 面 ， 政 府 、 企 业 、 个 人 都 因 该 问 题 而 持 续 困 扰 ， 市 场 格 局 也 容 易 产 生 波 动 ， 这 于 长 远 发 展 不 利 。 此 时 ， 匿 名 化 技 术 成 为 可 以 折 中 的 方 案 。 不 过 ， 数 据 匿 名 化 需 要 技 术 投 入 ， 如 果 仅 靠 企 业 主 观 驱 动 ， 效 果 有 限 。 所 以 ， 整 个 匿 名 数 据 的 发 展 中 ， 真 正 打 破 僵 局 的 是 法 律 领 域 的 关 注 。 最 为 代 表 的 则 是 令 互 联 网 企 业 心 有 余 悸 的 G D P R 。 2 0 1 8 年 正 式 实 行 的 G D P R ， 将 个 人 数 据 的 保 护 力 度 提 至 前 所 未 有 的 高 度 ， 亦 对 数 据 处 理 企 业 等 主 体 施 加 了 甚 为 严 苛 的 保 护 义 务 和 法 律 责 任 。 其 中 ， 有 一 条 ， G D P R 提 到 ： 控 制 者 在 确 定 处 理 方 式 和 处 理 过 程 中 ， 应 当 采 取 适 当 技 术 和 组 织 措 施 ， 诸 如 假 名 化 （ p s e u d o n y m i s a t i o n ） 处 理 ， 将 额 外 数 据 与 个 人 数 据 分 别 保 存 ， 除 非 使 用 额 外 数 据 ， 否 则 个 人 数 据 无 法 指 向 特 定 数 据 主 体 。 显 然 ， G D P R 白 纸 黑 字 地 将 个 人 数 据 的 保 护 上 升 到 法 律 层 面 ， 这 已 经 将 此 前 数 据 使 用 过 程 中 涉 及 的 大 部 分 暧 昧 地 带 清 晰 化 。 此 外 ， 真 正 具 有 威 慑 力 的 是 其 “ 残 忍 ” 的 惩 罚 力 度 。 众 所 周 知 ， 如 果 科 技 巨 头 越 雷 池 一 步 ，   G D P R 是 真 的 会 开 出 开 天 价 罚 单 。 最 有 意 思 的 案 例 即 是 ， G D P R 开 始 生 效 的 第 一 天 就 “ 开 门 红 ” ， 一 下 起 诉 了 两 大 科 技 巨 头 ： F a c e b o o k 和 谷 歌 。 两 家 公 司 被 指 控 强 迫 用 户 同 意 共 享 个 人 数 据 ， 且 分 别 面 临 3 9 亿 欧 元 和 3 7 亿 欧 元 （ 共 计 约 8 8 亿 美 元 ） 的 罚 款 风 险 。 当 然 除 了 G D P R ， 各 政 府 都 相 继 出 台 了 相 关 严 厉 的 个 人 数 据 保 护 法 。 如 英 国 更 新 了 数 据 保 护 法 案 ， 加 上 了 个 人 数 据 的 重 视 力 度 ， 中 国 也 出 台 了 数 据 安 全 法 草 案 ， 明 确 了 保 护 责 任 。 , F T C 在 2 0 1 2 年 发 布 的 隐 私 保 护 指 南 中 更 是 扩 大 了 个 人 数 据 的 边 界 ， 突 破 了 传 统 定 义 中 的 与 具 体 的 自 然 人 相 关 联 ， 扩 展 到 了 用 户 所 使 用 设 备 标 识 等 。 在 这 样 的 背 景 下 ， 对 于 企 业 来 说 ， 天 价 罚 单 是 割 肉 之 痛 ， 政 府 的 监 管 是 不 可 逾 越 的 红 线 ， 此 外 ， 用 户 隐 私 保 护 意 识 的 觉 醒 也 是 不 可 推 辞 的 需 求 。 G D P R 在 对 匿 名 化 的 界 定 中 也 提 到 ： “ 匿 名 化 是 指 将 个 人 数 据 移 除 可 识 别 个 人 信 息 的 部 分 ， 并 且 通 过 这 一 方 法 ， 数 据 主 体 不 会 再 被 识 别 。 匿 名 化 数 据 不 属 于 个 人 数 据 ， 因 此 无 须 适 用 条 例 的 相 关 要 求 ， 机 构 可 以 自 由 的 处 理 匿 名 化 数 据 ” 。 数 据 匿 名 则 成 为 了 许 多 企 业 或 者 数 据 应 用 主 体 的 重 点 投 入 方 向 。 有 业 内 专 家 表 示 ， 匿 名 数 据 的 收 集 主 要 用 于 帮 助 公 司 发 现 产 品 错 误 ， 这 是 互 联 网 通 过 分 析 非 个 人 可 识 别 信 息 来 改 善 整 体 产 品 体 验 最 常 见 的 解 决 方 案 之 一 。
数 据 匿 名 的 数 据 匿 名 的 “ b u g ” 那 么 ， 常 见 的 数 据 匿 名 方 式 有 哪 些 ？ 广 义 上 可 以 分 为 两 类 ： 一 是 扰 动 方 式 ， 即 让 原 始 数 据 值 失 真 ， 如 数 据 屏 蔽 脱 敏 、 噪 声 添 加 等 ， 二 是 非 扰 动 方 式 ， 即 使 数 据 集 不 完 整 ， 通 过 按 照 在 记 录 个 体 层 面 维 持 数 据 真 实 性 的 方 式 改 变 在 净 化 数 据 集 中 报 告 数 据 值 的 粒 度 来 工 作 ， 如 数 据 抑 制 和 数 据 泛 化 。 前 文 提 到 的 k - a n o n y m i t y 匿 名 模 型 则 是 非 扰 动 的 一 种 重 要 方 法 。 它 要 求 发 布 的 数 据 中 存 在 一 定 数 量 ( 至 少 为 k )   的 在 准 标 识 符 上 不 可 区 分 的 记 录 , 使 攻 击 者 不 能 判 别 出 隐 私 信 息 所 属 的 具 体 个 体 , 从 而 保 护 了 个 人 隐 私 。 数 据 匿 名 一 直 在 发 展 ， 问 题 也 逐 渐 显 露 。 所 谓 ， “ 道 高 一 尺 魔 高 一 丈 ” ， 匿 名 化 一 定 程 度 上 保 护 了 隐 私 ， 但 “ 有 心 人 ” 依 旧 可 以 从 匿 名 数 据 中 进 行 身 份 确 认 。 2 0 1 6 年 ， 一 位 德 国 研 究 员 在 曾 第 3 3 届 C h a o s   C o m p u t e r   C l u b 会 议 上 公 布 了 自 己 的 研 究 成 果 ： 尽 管 是 已 经 匿 名 化 的 点 击 流 ， 也 可 以 顺 藤 摸 瓜 找 到 用 户 清 晰 画 像 ， 数 量 少 于 十 个 的 不 同 域 名 就 足 以 让 你 暴 露 。 披 着 匿 名 的 外 衣 ， 这 些 数 据 被 称 为 “ D a r k   D a t a ” ， 是 非 常 容 易 滋 生 邪 恶 的 新 孕 育 地 。 此 外 ， 去 年 ， 英 国 N a t u r e   C o m m u n i c a t i o n s 杂 志 发 表 的 一 项 研 究 表 示 ， 英 国 科 学 家 利 用 一 种 新 开 发 的 统 计 方 法 发 现 ， 一 个 人 的 身 份 可 以 从 一 个 不 完 整 的 匿 名 化 数 据 库 中 被 识 别 出 来 。 研 究 人 员 开 发 了 一 个 机 器 学 习 模 型 ， 使 用 邮 编 、 性 别 、 出 生 日 期 三 个 信 息 ， 有 8 1 % 的 概 率 可 以 在 “ 匿 名 ” 数 据 集 中 准 确 地 追 踪 到 某 一 个 人 。 事 实 证 明 ， 数 据 匿 名 方 法 不 仅 面 临 自 身 技 术 迭 代 更 新 的 压 力 ， 也 有 新 技 术 不 断 带 来 的 冲 击 ， 如 人 工 智 能 相 关 算 法 可 能 利 用 零 星 数 据 可 以 训 练 出 较 为 精 准 的 用 户 画 像 。 基 于 差 分 隐 私 的 方 案 基 于 差 分 隐 私 的 方 案 道 阻 且 长 ， 行 之 将 至 。 目 前 法 律 、 市 场 、 技 术 各 方 面 都 为 数 据 匿 名 做 好 了 一 定 的 基 础 建 设 ， 接 下 来 则 是 需 要 更 多 的 投 入 与 更 新 。 首 先 ， 从 此 那 个 参 与 角 色 的 角 度 来 看 ， 依 旧 需 要 政 府 组 织 牵 头 ， 从 法 律 层 面 为 整 个 业 态 施 加 强 行 规 范 化 的 压 力 ， 企 业 则 需 要 更 多 资 源 投 入 匿 名 化 建 设 ， 而 个 人 则 需 从 日 常 细 节 上 提 升 网 络 隐 私 意 识 ， 如 有 意 识 地 使 用 匿 名 化 浏 览 器 、 及 时 清 理 清 除 c o o k i e 和 W e b 数 据 等 ， 另 外 ， 则 是 来 自 技 术 角 度 的 迭 代 更 新 ， 针 对 安 全 性 不 足 的 数 据 匿 名 现 状 ， 已 经 出 现 了 基 于 差 分 隐 私 的 数 据 匿 名 化 隐 私 保 护 模 型 研 究 。 差 分 隐 私 （ d i f f e r e n t i a l   p r i v a c y ） 是 密 码 学 中 的 一 种 手 段 ， 旨 在 提 供 一 种 当 从 统 计 数 据 库 查 询 时 ， 最 大 化 数 据 查 询 的 准 确 性 ， 同 时 最 大 限 度 减 少 识 别 其 记 录 的 机 会 。
实 际 上 ， 差 分 隐 私 也 利 用 了 统 计 学 。 该 技 术 可 以 实 现 ： 向 一 个 人 的 使 用 习 惯 样 本 中 增 加 噪 声 ， 保 证 数 据 相 对 模 糊 与 匿 名 ， 随 着 越 来 越 多 人 呈 现 出 相 同 的 使 用 习 惯 ， 开 始 识 别 总 结 出 共 性 。 一 个 人 的 数 据 可 能 不 准 确 ， 但 是 大 量 用 户 的 数 据 可 以 得 出 相 对 准 确 的 结 论 。 这 种 情 况 下 ， 即 使 有 人 攻 击 了 数 据 库 ， 也 只 能 看 到 系 统 化 的 共 性 信 息 ， 不 能 精 确 识 别 具 体 的 个 人 信 息 。 苹 果 、 F a c e b o o k 、 华 为 都 在 用 该 技 术 来 来 帮 助 发 掘 其 大 量 用 户 的 使 用 习 惯 。 值 得 一 提 的 是 ， 《 M I T 科 技 评 论 》 评 选 的 2 0 2 0 年 十 大 突 破 技 术 中 ， 差 分 隐 私 榜 上 有 名 。 不 过 ， 由 于 差 分 隐 私 是 一 项 仍 在 探 索 中 的 技 术 。 门 槛 较 高 ， 所 以 投 入 成 本 也 想 要 较 高 。 其 处 理 过 程 对 于 人 才 资 源 的 需 求 较 大 ， 同 时 也 带 来 新 的 问 题 ， 多 人 的 介 入 与 隐 私 保 护 也 会 出 现 一 定 的 冲 突 。 为 解 决 此 问 题 ， 市 面 上 一 些 企 业 注 入 了 自 动 化 机 器 学 习 的 方 法 。 显 然 ， 隐 私 保 护 问 题 的 解 决 一 定 是 多 学 科 、 多 技 术 流 派 融 合 的 。 唯 一 不 变 的 就 是 变 化 ， “ 安 全 是 动 态 话 题 ” 已 经 是 老 生 常 谈 ， 数 据 隐 私 的 安 全 也 是 一 样 。 匿 名 数 据 只 是 为 目 前 的 数 据 裸 奔 问 题 提 供 了 一 个 相 对 明 朗 可 行 的 解 决 方 法 ， 并 不 是 绝 对 安 全 的 保 护 屏 障 。 我 们 能 做 的 只 有 随 变 化 而 变 化 ， 甚 至 是 走 在 变 化 的 前 面 。 精 彩 推 荐 精 彩 推 荐
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理