搜索

[3635] 2017-03-17_NSA研究主管：机器学习固然很美，但也能成为黑客的保护色

文档创建者：s7ckTeam
浏览次数：0
最后更新：2025-01-16
2017-03-17_NSA研究主管：机器学习固然很美，但也能成为黑客的保护色 N S A 研 究 主 管 ： 机 器 学 习 固 然 很 美 ， 但 也 能 成 为 黑 客 的 保 护 色 原 创   E 安 全   E 安 全   2 0 1 7 - 0 3 - 1 7 E 安 全 3 月 1 7 日 讯   2 0 1 7 年 ， 机 器 学 习 是 网 络 安 全 最 热 门 的 领 域 之 一 。 机 器 学 习 的 潜 力 巨 大 ， 但 其 算 法 如 果 被 聪 明 绝 顶 的 对 手 加 以 利 用 ， 同 样 也 会 降 低 决 策 的 质 量 。 美 国 美 国 N S A / C S S 研 究 部 门 责 人 黛 博 拉 研 究 部 门 责 人 黛 博 拉 · 弗 林 克 弗 林 克 对 机 器 学 习 的 部 分 见 解 对 机 器 学 习 的 部 分 见 解 美 国 国 家 安 全 局 / 中 央 安 全 局 （ N S A / C S S ） 的 研 究 部 门 负 责 人 黛 博 拉 · 弗 林 克 表 示 ， 或 许 是 考 虑 到 有 人 发 现 对 手 能 在 大 数 据 环 境 控 制 足 够 多 的 数 据 进 行 误 导 性 干 扰 。 弗 林 克 将 这 种 做 法 称 之 为 “ 对 抗 性 机 器 学 习 ” 。 她 担 心 尽 管 目 前 刚 开 始 出 现 这 样 的 苗 头 ， 但 合 理 推 测 之 后 认 为 这 样 的 趋 势 还 将 继 续 。 例 如 ， 组 织 机 构 可 以 利 用 机 器 学 习 形 成 网 络 的 “ 自 我 意 识 ” ， 并 构 建 自 我 修 复 能 力 。 然 而 ， 如 果 攻 击 者 进 入 网 络 ， 或 甚 至 在 机 器 学 习 进 程 开 始 之 前 就 已 潜 入 网 络 ， 又 当 如 何 ？ 组 织 机 构 的 行 为 就 是 规 范 的 一 部 分 ， 这 种 情 况 下 从 某 种 意 义 上 讲 存 在 一 个 问 题 ， 正 在 做 的 事 情 相 当 于 是 在 保 护 攻 击 者 。 数 字 科 学 之 所 以 有 趣 还 在 于 ： 如 果 你 正 使 用 数 据 驱 动 的 算 法 ， 而 该 算 法 恰 好 就 是 你 宣 传 机 器 学 习 算 法 技 术 的 根 据 。 除 非 保 留 原 始 数 据 ， 否 则 你 不 会 知 道 你 在 机 器 学 习 方 法 中 构 建 了 怎 样 的 偏 置 。 她 认 为 “ 不 可 能 在 大 海 里 捞 到 针 ， 因 为 你 抛 弃 了 整 片 大 海 ， 剩 下 的 就 是 权 重 和 神 经 网 络 等 等 。 ” 机 器 学 习 还 有 其 他 局 限 机 器 学 习 还 有 其 他 局 限 例 如 ， 2 0 1 6 年 澳 大 利 亚 莫 纳 什 大 学 的 教 授 汤 姆 · 德 拉 蒙 德 指 出 ， 神 经 网 络 是 机 器 学 习 的 基 本 方 法 之 一 ， 如 果 不 被 告 知 出 错 的 原 因 ， 神 经 网 络 会 被 引 入 歧 途 。
追 溯 到 2 0 世 纪 8 0 年 代 。 尼 尔 · 弗 雷 泽 在 他 的 文 章 “ 神 经 网 络 弊 端 ” （ N e u r a l   N e t w o r k   F o l l i e s ） 讲 述 了 这 样 的 故 事 。 美 国 国 防 部 试 图 培 训 神 经 网 络 来 发 现 潜 在 威 胁 ， 例 如 躲 在 树 后 的 敌 方 坦 克 。 他 们 通 过 一 系 列 图 片 （ 树 后 隐 藏 有 坦 克 和 树 后 无 坦 克 的 图 片 ） 训 练 神 经 网 络 。 但 当 被 要 求 运 用 这 类 知 识 时 ， 系 统 失 败 了 。 弗 雷 泽 写 到 ， “ 最 终 有 人 注 意 到 ， 所 有 2 0 0 张 图 片 中 ， 有 关 坦 克 的 图 片 都 是 在 阴 天 拍 摄 的 ， 但 不 带 坦 克 的 图 片 确 是 在 晴 天 拍 摄 的 。 因 此 ， 目 前 令 美 国 军 方 引 以 为 豪 的 是 ， 自 己 拥 有 数 百 万 可 以 识 别 天 气 是 否 晴 朗 的 大 型 计 算 机 。 ” 欺 骗 技 术 或 隐 瞒 欺 骗 技 术 或 隐 瞒 手 段 可 用 来 手 段 可 用 来 打 破 网 络 安 全 的 权 力 平 衡 打 破 网 络 安 全 的 权 力 平 衡 黛 博 拉 · 弗 林 克 当 地 时 间 周 三 在 堪 培 拉 举 办 的 澳 大 利 亚 网 络 安 全 中 心 （ A C S C ） 大 会 上 发 言 。 虽 然 她 并 未 指 出 机 器 学 习 的 局 限 在 哪 里 ， 但 她 概 括 了 N S A 真 实 有 效 的 一 些 防 御 策 略 。 例 如 ， 组 织 机 构 可 以 学 习 欺 骗 技 术 或 隐 瞒 对 手 ， 以 此 打 破 网 络 安 全 的 权 力 平 衡 。 网 络 防 御 在 本 质 上 就 是 不 对 称 的 。 这 种 不 平 衡 通 常 表 现 为 ： 防 御 者 必 须 隔 离 每 个 安 全 漏 洞 ， 而 攻 击 者 只 需 正 确 部 署 一 次 就 够 了 。 弗 林 克 表 示 : “ 从 表 面 判 断 你 会 认 为 自 己 占 有 优 先 主 导 权 ， 应 该 能 运 用 欺 骗 技 术 或 隐 瞒 手 段 从 而 打 破 这 种 权 利 平 衡 。 ” 从 传 统 意 义 上 讲 ， 组 织 机 构 设 法 让 数 据 系 统 更 高 效 ， 这 就 使 得 网 络 更 易 于 管 理 。 然 而 这 种 情 况 下 ， 从 攻 击 者 的 观 点 出 发 ， 在 给 定 时 间 预 测 给 定 系 统 的 现 状 就 变 得 相 当 容 易 。 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 门 户 网 站 w w w . e a s y a q . c o m 但 采 取 防 御 性 欺 骗 方 法 意 味 着 构 建 过 剩 能 力 ， 之 后 再 想 尽 办 法 利 用 这 种 过 剩 能 力 通 过 欺 骗 或 多 变 的 方 法 进 行 设 计 。 这 样 一 来 ， 攻 击 者 就 无 法 真 正 了 解 数 据 的 具 体 位 置 。 如 果 在 云 端 处 理 数 据 ， 简 单 的 做 法 就 是 ： 在 更 多 节 点 （ 超 出 正 常 使 用 ） 上 复 制 数 据 ， 并 交 换 数 据 。 弗 林 克 称 ， “ 如 果 你 试 图 执 行 完 整 性 攻 击 ， 更 改 我 使 用 的 数 据 ， 但 不 知 道 我 在 使 用 哪 一 个 节 点 ， 因 为 我 正 在 使 用 上 百 个 节 点 。 或 者 ， 我 可 能 正 在 查 看
这 些 节 点 的 子 集 ， 你 不 知 道 我 正 在 使 用 哪 三 个 节 点 。 或 许 你 可 以 尝 试 一 次 更 改 所 有 数 据 ， 但 是 难 度 不 言 而 喻 。 ” R D 的 研 究 证 明 这 种 方 法 增 强 了 攻 击 者 的 认 知 负 荷 ， 并 影 响 他 们 的 认 知 偏 差 。 弗 林 克 表 示 ， “ 我 们 可 以 试 图 引 导 攻 击 者 得 出 错 误 的 结 论 。 换 句 话 讲 ， 我 们 要 试 图 增 加 攻 击 者 的 工 作 难 度 ， 误 导 他 们 做 无 用 功 ， 以 此 来 挫 败 他 们 。 这 样 一 来 ， 我 们 就 能 更 容 易 找 到 攻 击 者 。 ” 这 与 蜜 罐 技 术 （ H o n e y p o t ） 有 些 类 似 ， 但 不 是 作 为 附 加 功 能 添 加 到 系 统 上 ， 得 将 奏 效 的 方 法 设 计 到 系 统 中 去 。 防 御 欺 骗 的 弊 端 在 于 ： 很 难 管 理 。 防 御 欺 骗 的 弊 端 在 于 ： 很 难 管 理 。 弗 林 克 还 指 出 ， 防 御 欺 骗 需 要 系 统 管 理 员 执 行 更 多 工 作 。 此 外 ， 作 为 设 计 者 ， 尤 其 为 对 手 部 署 某 种 误 导 性 变 化 时 ， 必 须 十 分 确 定 应 该 使 用 哪 几 个 节 点 ， 否 则 可 能 会 搬 起 石 头 砸 自 己 的 脚 。 E 安 全 注 ： 本 文 系 本 文 系 E 安 全 独 家 编 译 报 道 ， 转 载 请 联 系 授 权 ， 并 保 留 出 处 与 链 接 ， 不 得 删 减 内 容 。 安 全 独 家 编 译 报 道 ， 转 载 请 联 系 授 权 ， 并 保 留 出 处 与 链 接 ， 不 得 删 减 内 容 。 联 系 方 式 ： ①   微 信 号 z h u - g e l i a n g   ② 邮 箱 e a p p @ e a s y a q . c o m @ E 安 全 ， 最 专 业 的 前 沿 网 络 安 全 媒 体 和 产 业 服 务 平 台 ， 每 日 提 供 优 质 全 球 网 络 安 全 资 讯 与 深 度 思 考 ， 欢 迎 关 注 微 信 公 众 号 「 E 安 全 」 （ E A Q a p p ） ， 或 登 E 安 全 门 户 网 站 w w w . e a s y a q . c o m   ,   查 看 更 多 精 彩 内 容 。 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理