搜索

[12576] 2018-04-11_我们可以教机器学习隐私吗？

文档创建者：s7ckTeam
浏览次数：8
最后更新：2025-01-18
2018-04-11_我们可以教机器学习隐私吗？ 我 们 可 以 教 机 器 学 习 隐 私 吗 ？ A l p h a _ h 4 c k   F r e e B u f   2 0 1 8 - 0 4 - 1 1 机 器 学 习 需 要 使 用 大 量 数 据 来 对 模 型 进 行 训 练 ， 而 我 们 一 般 都 会 将 这 些 训 练 数 据 上 传 到 亚 马 逊 和 机 器 学 习 需 要 使 用 大 量 数 据 来 对 模 型 进 行 训 练 ， 而 我 们 一 般 都 会 将 这 些 训 练 数 据 上 传 到 亚 马 逊 和 G o o g l e 等 运 营 等 运 营 商 所 托 管 的 机 器 学 习 云 服 务 上 ， 但 这 样 将 有 可 能 把 数 据 暴 露 给 恶 意 攻 击 者 。 那 我 们 是 否 能 够 把 机 器 学 习 当 作 一 商 所 托 管 的 机 器 学 习 云 服 务 上 ， 但 这 样 将 有 可 能 把 数 据 暴 露 给 恶 意 攻 击 者 。 那 我 们 是 否 能 够 把 机 器 学 习 当 作 一 种 服 务 （ 机 器 学 习 即 服 务 种 服 务 （ 机 器 学 习 即 服 务 - M L a a S ） 来 使 用 并 保 护 我 们 的 隐 私 呢 ？ ） 来 使 用 并 保 护 我 们 的 隐 私 呢 ？ 机 器 学 习 可 以 算 得 上 是 当 今 计 算 机 科 学 领 域 中 最 热 门 的 学 科 之 一 了 ， 而 且 很 多 云 服 务 提 供 商 也 开 始 迅 速 扩 展 他 们 的 机 器 学 习 服 务 （ M L a a S ） 。 但 是 这 些 M L a a S 都 附 带 了 一 条 警 告 信 息 ： 所 有 的 模 型 训 练 数 据 都 将 暴 露 给 服 务 操 作 人 员 。 即 使 服 务 操 作 人 员 不 会 专 门 访 问 这 些 数 据 ， 某 些 带 有 其 他 动 机 的 人 也 有 可 能 访 问 到 这 些 数 据 。 注 ： 德 克 萨 斯 大 学 的 T y l e r   H u n t 以 及 其 他 研 究 人 员 近 期 发 布 了 一 篇 标 题 为 《 C h i r o n ： 机 器 学 习 即 服 务 与 隐 私 保 护 》 的 研 究 论 文 ， 并 在 论 文 中 阐 述 了 一 种 能 够 在 使 用 云 M L a a S 时 保 护 隐 私 的 系 统 架 构 ， 感 兴 趣 的 同 学 可 以 阅 读 了 解 一 下 。 隐 私 是 双 向 的 隐 私 是 双 向 的 虽 然 用 户 可 能 并 不 希 望 透 露 他 们 的 模 型 训 练 数 据 ， 但 服 务 提 供 商 那 边 也 有 他 们 自 己 需 要 考 虑 的 隐 私 问 题 。 一 般 来 说 ， 他 们 并 不 会 允 许 用 户 去 查 看 他 们 M L a a S 技 术 的 底 层 实 现 算 法 。 而 C h i r o n 这 种 系 统 模 型 可 以 防 止 服 务 操 作 人 员 查 看 训 练 数 据 ， 无 论 现 有 的 机 器 学 习 即 服 务 平 台 是 以 怎 样 的 模 式 运 行 的 ， C h i r o n 都 不 会 将 训 练 算 法 和 模 型 架 构 暴 露 给 用 户 ， 并 且 只 会 给 用 户 提 供 一 种 黑 盒 访 问 模 式 来 访 问 训 练 模 型 。 C h i r o n 使 用 的 是 因 特 尔 的 软 件 保 护 扩 展 （ S G X ） ， 这 是 一 种 用 来 增 强 应 用 程 序 代 码 安 全 性 的 架 构 设 计 ， 但 仅 仅 使 用 S G X 还 是 不 够 的 ， C h i r o n 还 在 R y o a n 沙 盒 中 使 用 了 S G X 平 台 ， 而 这 是 一 种 分 布 式 的 安 全 保 护 沙 盒 ， 它 可 以 防 止 不 受 信 任 的 用 户 代 码 在 恶 意 架 构 中 运 行 。 威 胁 模 型 威 胁 模 型 C h i r o n 的 目 标 是 保 护 云 环 境 中 用 户 的 训 练 数 据 和 训 练 模 型 （ 包 括 查 询 和 输 出 数 据 ） ， 因 此 ， 我 们 首 先 假 设 整 个 平 台 都 是 不 受 信 任 的 ， 包 括 其 中 的 操 作 系 统 和 相 应 的 管 理 程 序 。 攻 击 者 可 以 是 设 备 的 管 理 员 或 者 服 务 操 作 人 员 ， 也 可 以 是 已 经 成 功 入 侵 服 务 平 台 的 恶 意 攻 击 者 。 当 然 了 ， 攻 击 者 还 可 以 是 恶 意 O S 开 发 人 员 ， 因 为 他 们 可 以 直 接 记 录 下 用 户 的 输 入 / 输 出 信 息 。
由 于 训 练 模 型 会 通 过 特 定 的 查 询 语 句 泄 露 训 练 数 据 ， C h i r o n 可 以 确 保 只 有 提 供 训 练 数 据 的 用 户 才 能 访 问 训 练 完 成 后 的 模 型 。 即 使 攻 击 者 能 够 获 取 到 云 基 础 设 施 的 完 整 访 问 权 ， 他 们 也 无 法 查 询 到 模 型 并 访 问 训 练 数 据 。 虽 然 现 在 从 表 面 上 看 C h i r o n 似 乎 已 经 覆 盖 的 足 够 全 面 了 ， 但 M L a a S 的 底 层 硬 件 还 是 存 在 一 些 安 全 问 题 的 。 限 制 因 素 限 制 因 素 S G X 本 身 并 不 是 无 懈 可 击 的 ， 因 为 英 特 尔 的 性 能 监 控 单 元 （ P M U ） 允 许 不 受 信 任 的 平 台 深 入 了 解 目 标 系 统 底 层 的 运 行 机 制 以 及 正 在 进 行 的 任 务 。 当 前 的 S G X 允 许 拥 有 高 级 权 限 的 软 件 修 改 内 存 页 表 ， 并 查 看 相 关 代 码 以 及 页 数 据 踪 迹 ， 而 这 将 导 致 非 常 严 重 的 后 果 。 由 于 C h i r o n 的 实 现 基 于 的 是 英 特 尔 的 S G X ， 所 以 它 不 能 使 用 G P U 配 合 工 作 ， 因 为 G P U 暂 时 还 不 能 很 好 地 支 持 S G X 的 相 关 功 能 。 因 此 ， 目 前 的 C h i r o n 实 现 得 还 不 够 完 美 ， 可 能 只 有 G P U 供 应 商 开 始 认 真 考 虑 安 全 问 题 时 我 们 才 能 够 更 进 一 步 。 性 能 性 能 除 了 限 制 因 素 之 外 ， H u n t 等 人 还 对 C h i r o n 的 性 能 进 行 了 测 试 ， 并 且 证 明 了 C h i r o n 可 以 在 保 护 标 准 机 器 学 习 基 础 设 施 的 情 况 下 维 持 设 备 的 正 常 性 能 。 总 结 总 结 在 我 们 这 个 现 代 化 的 海 量 数 据 世 界 里 ， 存 在 着 千 千 万 万 个 安 全 漏 洞 ， 而 攻 击 者 可 以 用 各 种 各 样 的 方 法 来 利 用 这 些 漏 洞 。 没 有 任 何 一 个 系 统 是 绝 对 安 全 的 ， 但 我 们 可 以 通 过 努 力 来 尽 量 做 得 更 好 。 毫 无 疑 问 ， 机 器 学 习 绝 对 会 在 我 们 将 来 的 生 活 中 扮 演 重 要 角 色 ， 如 果 机 器 学 习 能 够 保 护 好 我 们 的 隐 私 ， 那 得 多 安 逸 ？ *   参 考 来 源 ： 参 考 来 源 ： z d n e t ， ， F B 小 编 小 编 A l p h a _ h 4 c k 编 译 ， 转 载 请 注 明 来 自 编 译 ， 转 载 请 注 明 来 自 F r e e B u f . C O M
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理