搜索

[4849] 2018-02-19_不管你信不信，人工智能将成为黑客神器

文档创建者：s7ckTeam
浏览次数：3
最后更新：2025-01-16
2018-02-19_不管你信不信，人工智能将成为黑客神器 不 管 你 信 不 信 ， 人 工 智 能 将 成 为 黑 客 神 器 I T 1 6 8   E 安 全   2 0 1 8 - 0 2 - 1 9 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 官 网 w w w . e a s y a q . c o m 机 器 学 习 被 定 义 为 “ ( 计 算 机 ) 在 不 被 明 确 编 程 的 情 况 下 进 行 学 习 的 能 力 ” ， 它 对 于 信 息 安 全 行 业 来 说 也 会 有 巨 大 影 响 。 这 是 一 种 潜 在 的 技 术 ， 它 可 以 帮 助 安 全 分 析 师 ， 从 恶 意 软 件 和 日 志 分 析 到 更 早 的 识 别 和 修 复 漏 洞 。 也 许 ， 它 还 可 以 改 进 终 端 安 全 性 、 自 动 化 重 复 的 任 务 ， 甚 至 减 少 由 数 据 过 滤 导 致 攻 击 的 可 能 性 。 但 问 题 是 ， 黑 客 们 也 知 道 这 一 点 ， 并 期 望 建 立 自 己 的 人 工 智 能 和 机 器 学 习 工 具 来 发 动 攻 击 。 黑 客 们 会 如 何 使 用 机 器 学 习 黑 客 们 会 如 何 使 用 机 器 学 习 ? 这 些 犯 罪 分 子 — — 组 织 越 来 越 多 和 网 络 上 提 供 的 服 务 越 来 越 广 泛 — — 最 终 的 创 新 速 度 可 能 将 超 过 安 全 防 御 的 速 度 。 这 是 考 虑 到 机 器 学 习 和 深 度 学 习 等 技 术 尚 未 开 发 的 潜 力 。 “ 我 们 必 须 认 识 到 ， 尽 管 像 机 器 学 习 、 深 度 学 习 和 人 工 智 能 这 样 的 技 术 将 是 未 来 网 络 防 御 的 基 石 ， 但 我 们 的 对 手 也 正 努 力 地 借 助 这 些 技 术 实 施 创 新 。 ” M c A f e e 首 席 技 术 官 史 蒂 夫 · 格 罗 布 曼 ( S t e v e   G r o b m a n ) 在 对 媒 体 的 评 论 中 说 。 “ 就 像 网 络 安 全 领 域 经 常 发 生 的 那 样 ， 科 技 增 强 的 人 工 智 能 将 成 为 攻 击 者 和 捍 卫 者 之 间 军 备 竞 赛 中 获 胜 的 因 素 。 ”
基 于 机 器 学 习 的 攻 击 在 当 前 可 能 仍 然 是 甚 少 听 闻 的 ， 但 其 实 一 些 技 术 已 经 开 始 被 犯 罪 集 团 利 用 了 。 1 、 恶 意 软 件 逃 避 检 测 、 恶 意 软 件 逃 避 检 测 恶 意 软 件 的 创 建 在 很 大 程 度 上 是 网 络 罪 犯 人 工 完 成 的 。 他 们 编 写 脚 本 以 组 成 计 算 机 病 毒 和 木 马 ， 并 利 用 r o o t k i t 、 密 码 抓 取 器 和 其 他 工 具 帮 助 分 发 和 执 行 。 但 如 果 他 们 能 加 快 这 一 进 程 呢 ? 机 器 学 习 是 否 可 以 帮 助 创 建 恶 意 软 件 ? 第 一 个 使 用 机 器 学 习 恶 意 软 件 创 建 的 例 子 是 在 2 0 1 7 年 发 表 的 一 篇 题 为 “ 生 成 基 于 G A N 的 黑 盒 攻 击 的 恶 意 软 件 示 例 ” 的 论 文 。 在 报 告 中 ， 作 者 揭 示 了 他 们 是 如 何 建 立 一 个 生 成 式 对 抗 网 络 ( G A N ) 的 算 法 来 产 生 对 抗 的 恶 意 软 件 样 本 ， 关 键 是 ， 能 够 绕 过 机 器 学 习 的 检 测 系 统 。 在 另 一 个 例 子 中 ， 在 2 0 1 7 年 的 D E F C O N 大 会 上 ， 安 全 公 司 E n d g a m e 披 露 了 它 如 何 使 用 E l o n   M u s k 的 O p e n A I 框 架 创 建 了 定 制 恶 意 软 件 ， 以 创 建 安 全 引 擎 无 法 检 测 到 的 恶 意 软 件 。 E n d g a m e 的 研 究 是 基 于 似 乎 是 恶 意 的 二 进 制 文 件 ， 并 且 通 过 改 变 一 些 部 分 ， 这 些 代 码 在 反 病 毒 引 擎 中 看 起 来 是 良 性 和 值 得 信 赖 的 。 与 此 同 时 ， 其 他 研 究 人 员 预 测 ， 机 器 学 习 最 终 将 被 用 来 “ 根 据 实 验 室 中 的 检 测 方 法 修 改 代 码 ” ， 这 是 多 态 恶 意 软 件 的 一 个 扩 展 。 2 、 用 于 可 扩 展 攻 击 的 智 能 僵 尸 网 络 。 、 用 于 可 扩 展 攻 击 的 智 能 僵 尸 网 络 。 安 全 公 司 F o r t i n e t 认 为 2 0 1 8 年 将 是 “ 蜂 巢 网 络 ( H i v e n e t s ) ” 和 “ 机 器 人 集 群 ( S w a r m b o t s ) ” 的 一 年 ， 这 在 本 质 上 标 志 着 “ 智 能 ” I o T 设 备 可 以 被 命 令 对 脆 弱 的 系 统 进 行 规 模 化 攻 击 。 “ 它 们 将 有 能 力 相 互 交 流 ， 并 根 据 共 享 的 本 地 信 息 采 取 行 动 。 ” F o r t i n e t 全 球 安 全 策 略 师 德 里 克 ? 曼 基 ( D e r e k   M a n k y ) 表 示 。 “ 此 外 ， ‘ 僵 尸 ’ 也 会 变 得 聪 明 ， 能 够 在 没 有 ‘ 僵 尸 网 络 牧 人 ’ 的 指 导 下 行 动 。 其 结 果 是 ，
蜂 巢 网 络 将 能 够 以 成 倍 的 速 度 增 长 ， 扩 大 自 身 同 时 对 受 害 者 进 行 攻 击 的 能 力 ， 并 显 著 阻 碍 缓 解 和 应 对 。 ” 有 趣 的 是 ， M a n k y 说 这 些 攻 击 还 没 有 使 用 集 群 技 术 ， 该 技 术 可 能 使 这 些 蜂 巢 网 络 能 够 从 过 去 的 行 为 中 学 习 。 人 工 智 能 的 一 个 分 支 ， 集 群 技 术 被 定 义 为 “ 分 散 的 、 自 组 织 的 系 统 的 集 体 行 为 ， 自 然 的 或 人 工 的 ” ， 现 在 已 经 被 用 于 无 人 机 和 新 兴 的 机 器 人 设 备 。 3 、 先 进 的 鱼 叉 式 网 络 钓 鱼 变 得 更 智 能 、 先 进 的 鱼 叉 式 网 络 钓 鱼 变 得 更 智 能 对 抗 性 机 器 学 习 的 一 个 更 明 显 的 应 用 是 ， 使 用 如 文 本 转 换 为 语 音 、 语 音 识 别 和 自 然 语 言 处 理 ( N L P ) 这 样 的 算 法 来 进 行 更 智 能 的 社 会 工 程 。 毕 竟 ， 通 过 反 复 使 用 的 神 经 网 络 ， 你 已 经 可 以 让 这 种 软 件 具 备 一 定 的 写 作 风 格 ， 所 以 在 理 论 上 ， 钓 鱼 电 子 邮 件 可 能 变 得 更 加 复 杂 和 可 信 。 特 别 是 ， 机 器 学 习 可 以 使 先 进 的 鱼 叉 式 网 络 钓 鱼 成 为 针 对 知 名 人 物 的 目 标 ， 同 时 使 整 个 过 程 自 动 化 。 系 统 可 以 在 真 正 的 电 子 邮 件 上 进 行 训 练 ， 并 学 会 做 一 些 看 起 来 有 说 服 力 的 东 西 。 在 M c A f e e 实 验 室 对 2 0 1 7 年 的 预 测 中 ， 该 公 司 表 示 ， 犯 罪 分 子 将 越 来 越 多 地 利 用 机 器 学 习 来 分 析 大 量 隐 私 记 录 ， 以 识 别 潜 在 的 受 害 者 ， 并 建 立 能 有 效 针 对 这 些 人 的 背 景 细 节 的 电 子 邮 件 。 此 外 ， 在 2 0 1 6 年 的 《 美 国 黑 帽 》 ( B l a c k   H a t   U S A ) 中 ， 约 翰 · 西 摩 ( J o h n   S e y m o u r ) 和 菲 利 普 · 塔 利 ( P h i l i p   T u l l y ) 提 出 了 一 篇 名 为 “ 社 会 工 程 的 武 器 数 据 科 学 :   在 推 特 上 实 现 自 动 E 2 E 鱼 叉 式 网 络 钓 鱼 ” 的 论 文 ， 该 论 文 提 出 了 一 种 递 归 神 经 网 络 学 习 ， 在 推 特 上 推 送 钓 鱼 贴 ， 以 针 对 特 定 的 用 户 。 在 这 篇 论 文 中 ， 他 们 提 出 了 S N A P _ R 神 经 网 络 ， 它 是 针 对 鱼 叉 式 网 络 钓 鱼 测 试 数 据 进 行 训 练 的 ， 它 被 动 态 地 从 目 标 用 户 ( 以 及 他 们 的 推 文 或 跟 踪 用 户 ) 的 时 间 轴 上 的 帖 子 中 提 取 出 来 ， 从 而 更 有 可 能 进 行 点 击 。 随 后 ， 该 系 统 非 常 有 效 。 在 涉 及 9 0 个 用 户 的 测 试 中 ， 该 框 架 的 成 功 率 在 3 0 % 到 6 0 % 之 间 ， 对 手 动 鱼 叉 式 网 络 钓 鱼 和 批 量 钓 鱼 的 结 果 有 相 当 大 的 改 进 。 4 、 威 胁 情 报 不 受 控 制 、 威 胁 情 报 不 受 控 制
在 机 器 学 习 方 面 ， 威 胁 情 报 可 以 说 是 好 坏 参 半 。 一 方 面 ， 人 们 普 遍 认 为 ， 机 器 学 习 系 统 将 帮 助 分 析 师 识 别 来 自 多 个 系 统 的 真 正 威 胁 。 然 而 ， 也 有 一 种 观 点 认 为 ， 网 络 罪 犯 将 会 适 应 如 何 简 单 地 让 这 些 警 报 再 次 过 载 。 M c A f e e 的 G r o b m a n 先 前 指 出 了 一 种 被 称 为 “ 提 高 噪 声 基 底 ( n o i s e   f l o o r ) ” 的 技 术 。 “ 黑 客 会 利 用 这 种 技 术 对 一 个 环 境 进 行 ‘ 轰 炸 ’ ， 从 而 为 普 通 的 机 器 学 习 模 型 制 造 大 量 的 主 动 错 误 信 息 。 ” 一 旦 目 标 重 新 校 准 它 的 系 统 ， 以 过 滤 掉 假 警 报 ， 攻 击 者 就 可 以 发 起 一 个 通 过 机 器 学 习 系 统 获 得 的 真 正 的 攻 击 。 5 、 未 经 授 权 的 访 问 、 未 经 授 权 的 访 问 早 期 有 一 个 例 子 是 2 0 1 2 年 研 究 人 员 克 劳 迪 娅 ? 克 鲁 兹 ( C l a u d i a   C r u z ) 、 费 尔 南 多 ? 乌 西 达 ( F e r n a n d o   U c e d a ) 和 莱 奥 巴 多 ? 雷 耶 斯 ( L e o b a r d o   R e y e s ) 所 发 表 的 关 于 用 于 安 全 攻 击 的 机 器 学 习 。 他 们 使 用 支 持 向 量 机 ( S V M ) 来 破 坏 一 个 系 统 — — 该 系 统 运 行 在 重 新 验 证 的 图 像 上 ， 准 确 率 高 达 8 2 % 。 所 有 的 验 证 码 机 制 后 来 都 得 到 了 改 进 ， 然 而 研 究 人 员 再 次 使 用 深 度 学 习 来 破 解 了 验 证 码 。 在 2 0 1 6 年 发 表 的 一 篇 文 章 中 ， 详 细 介 绍 了 如 何 使 用 深 度 学 习 ， 以 9 2 % 的 精 确 度 破 解 简 单 验 证 码 。 另 外 ， 去 年 B l a c k H a t 的 “ 我 是 机 器 人 ” 研 究 揭 示 了 研 究 人 员 如 何 破 解 最 新 的 语 义 图 像 验 证 码 ， 并 比 较 了 各 种 机 器 学 习 算 法 。 这 篇 论 文 中 提 到 在 谷 歌 的 验 证 码 系 统 中 有 9 8 % 的 准 确 率 。 6 、 毒 化 机 器 学 习 引 擎 、 毒 化 机 器 学 习 引 擎 一 种 更 简 单 、 更 有 效 的 技 术 是 ， 毒 化 用 于 检 测 恶 意 软 件 的 机 器 学 习 引 擎 ， 使 其 无 效 ， 就 像 网 络 罪 犯 过 去 使 用 的 反 病 毒 引 擎 一 样 。 这 听 上 去 很 简 单 ， 机 器 学 习 模 型 从 输 入 数 据 中 学 习 ， 如 果 数 据 池 中 毒 ， 那 么 输 出 也 会 中 毒 。 来 自 纽 约 大 学 的 研 究 人 员 演 示 了 卷 积 神 经 网 络 ( C N N ) 如 何 通 过 像 谷 歌 、 微 软 和 A W S 这 样 的 C N N 产 生 这 些 虚 假 ( 但 受 控 ) 的 结 果 。 h t t p s : / / w w w . e a s y a q . c o m / n e w s / 1 5 4 5 6 2 7 9 3 2 . s h t m l 推 荐 阅 读 ： 2 0 1 8 年 安 全 态 势 展 望 ： 网 络 犯 罪 分 子 V S 金 融 机 构 彭 博 ： 中 国 金 融 交 易 都 在 微 信 上 进 行 ， 安 全 程 度 遭 质 疑 有 多 少 人 信 赖 生 物 识 别 身 份 验 证 ？ 生 物 识 别 身 份 验 证 新 元 素 ： 心 脏 扫 描 识 别 身 份 D A R P A 教 A I 修 复 网 络 ， 学 坏 了 怎 么 办 ？ 2 0 1 8 年 的 网 络 攻 防 战 必 有 A I 助 阵 美 国 网 络 司 令 部 换 老 大   头 号 人 选 是 他 ！
▼ 点 击 “ 阅 读 原 文 ”   查 看 更 多 精 彩 内 容 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理