搜索

[4685] 2017-12-28_DARPA教AI修复网络，学坏了怎么办？

文档创建者：s7ckTeam
浏览次数：29
最后更新：2025-01-16
2017-12-28_DARPA教AI修复网络，学坏了怎么办？ D A R P A 教 A I 修 复 网 络 ， 学 坏 了 怎 么 办 ？ 原 创   E 安 全   E 安 全   2 0 1 7 - 1 2 - 2 8 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 官 网 w w w . e a s y a q . c o m E 安 全 1 2 月 2 8 日 讯   2 0 1 6 年 8 月 ， 美 国 国 防 部 高 级 研 究 计 划 局 （ 简 称 D A R P A ） 主 办 了 网 络 超 级 挑 战 赛 （ C G C ） ， 以 证 明 人 工 智 能 （ A I ） 能 够 凭 借 机 器 速 度 发 现 并 修 复 软 件 中 的 缺 陷 。 多 位 计 算 机 安 全 大 师 前 往 美 国 拉 斯 维 加 斯 参 加 此 次 比 赛 。 一 年 之 后 ， D A R P A 官 员 与 竞 赛 获 奖 者 们 达 成 共 识 ： 在 网 络 保 护 这 一 猫 鼠 游 戏 当 中 ， A I 正 在 迅 速 成 为 能 够 为 国 防 部 方 面 带 来 对 抗 优 势 的 重 要 因 素 。 回 顾 ： 回 顾 ： C G C 超 级 挑 战 赛 中 ， 各 支 队 伍 进 行 了 近 1 2 个 小 时 的 奋 战 ， 旨 在 比 拼 谁 的 自 动 化 系 统 能 够 更 好 地 识 别 并 修 复 软 件 中 的 漏 洞 ， 其 中 冠 军 的 奖 金 甚 至 高 达 2 0 0 万 美 元 （ 约 合 人 民 币 1 3 1 1 万 元 ） 。 一 年 时 间 ， 一 年 时 间 ， A I 技 术 有 效 缩 短 反 应 速 度 技 术 有 效 缩 短 反 应 速 度 匹 兹 堡 初 创 企 业 F o r A l l S e c u r e 公 司 C E O 、 竞 赛 胜 方 领 队 大 卫 - 布 拉 姆 雷 指 出 ， “ 目 前 的 计 算 机 安 全 性 问 题 太 过 复 杂 ， 涉 及 多 个 流 程 。 下 载 补 丁 、 决 定 是 否 安 装 并 确 保 其 不 会 对 其 它 任 务 造 成 影 响 。 我 们 需 要 缩 短 人 为 参 与 度 ， 让 这 些 操 作 能 够 在 数 分 钟 内 完 成 ， 不 再 像 过 去 那 样 耗 费 数 小 时 甚 至 数 天 。 ” 在 发 起 这 次 网 络 竞 赛 时 ， D A R P A 方 面 要 求 各 位 研 究 人 员 设 想 通 过 机 器 学 习 技 术 实 现 网 络 安 全 的 增 强 与 赋 能 。 实 际 上 美 国 国 防 以 外 的 行 业 也 一 直 存 在 着 相 关 呼 吁 之 声 。
哥 伦 比 亚 大 学 国 际 与 公 共 事 务 学 院 研 究 员 杰 森 - 希 利 在 2 0 1 6 年 美 国 春 季 众 议 院 军 事 委 员 会 听 证 会 中 强 调 ， “ 股 票 交 易 已 经 由 算 法 负 责 控 制 ， 人 力 交 易 员 在 很 大 程 度 上 已 经 显 得 多 余 。 希 望 这 样 的 作 法 被 引 入 到 未 来 网 络 冲 突 的 处 理 当 中 ？ 如 果 能 够 实 现 ， 将 会 对 美 国 网 络 司 令 部 的 人 员 配 置 、 项 目 以 及 美 国 网 络 防 御 的 整 个 体 系 带 来 巨 大 的 影 响 ” 。 在 D A R P A 的 这 次 网 络 竞 赛 当 中 ， 各 获 胜 团 队 纷 纷 拿 出 了 立 足 A I 实 现 的 攻 击 与 防 御 工 具 。 他 们 教 导 机 器 如 何 快 速 准 确 地 攻 克 其 它 团 队 系 统 当 中 的 已 知 防 御 措 施 ， 并 利 用 机 器 智 能 快 速 将 适 当 补 丁 部 署 至 自 己 的 系 统 当 中 。 D A R P A 信 息 创 新 办 公 室 项 目 经 理 达 斯 汀 - 弗 雷 泽 表 示 ， A I 在 网 络 场 景 中 作 用 的 可 能 性 在 本 次 竞 赛 开 始 之 前 一 直 是 个 “ 悬 而 未 决 的 难 题 ” 。 此 次 竞 赛 的 结 果 表 明 ， 人 类 正 一 步 步 迈 向 利 用 自 动 化 手 段 发 现 漏 洞 并 找 到 补 救 措 施 的 光 明 彼 岸 。 如 果 情 况 真 是 如 此 ， 那 么 这 一 切 可 能 会 给 军 事 网 络 运 营 机 构 产 生 深 远 的 思 路 性 影 响 。 必 须 强 调 的 是 ， 面 对 目 前 迅 速 演 变 的 威 胁 形 势 ， 军 事 网 络 运 营 机 构 往 往 疲 于 追 赶 而 无 法 占 得 先 机 。 军 事 领 导 者 希 望 构 建 起 具 备 自 我 修 复 能 力 的 网 络 体 系 。 A I 技 术 目 前 存 在 的 难 题 技 术 目 前 存 在 的 难 题 弗 雷 泽 描 述 了 2 0 1 6 年 这 次 竞 赛 当 中 各 参 赛 队 伍 所 面 对 的 典 型 场 景 。 在 这 一 场 景 当 中 ， 运 营 人 员 检 测 到 软 件 漏 洞 ， 并 利 用 其 攻 击 对 手 的 系 统 。 对 方 部 署 一 款 补 丁 ， 而 攻 击 方 则 在 下 一 轮 行 动 中 识 别 此 补 丁 并 设 计 出 对 应 的 后 续 利 用 手 段 。 弗 雷 泽 表 示 ， “ 在 2 0 分 钟 之 内 ， 我 们 就 观 察 到 发 现 漏 洞 、 部 署 补 丁 、 攻 克 补 丁 、 反 攻 克 等 一 系 列 行 动 。 ” 就 当 前 安 全 形 势 来 讲 ， “ 如 果 手 动 操 作 ， 这 种 交 互 可 能 需 要 数 天 、 数 周 甚 至 数 个 月 时 间 才 可 能 完 成 。 ” 但 这 并 不 是 说 A I 很 快 就 将 重 塑 整 个 军 事 网 络 。 研 究 人 员 们 指 出 ， 尽 管 D A R P A 挑 战 赛 已 经 过 去 了 一 年 多 ， 但 他 们 仍 然 需 要 取 得 进 一 步 重 大 进 展 才 有 可 能 将 机 器 学 习 技 术 作 为 一 类 大 规 模 网 络 资 产 加 以 运 营 。
考 虑 考 虑 A I 被 反 利 用 的 可 能 性 被 反 利 用 的 可 能 性 布 拉 姆 利 警 告 称 ， 任 何 在 网 络 环 境 中 使 用 A I 作 为 军 事 用 途 的 机 构 都 必 须 考 虑 到 敌 对 方 使 用 反 A I 方 法 的 可 能 性 ： 如 果 我 们 的 计 算 机 能 够 学 习 ， 那 么 敌 对 方 可 能 会 以 此 为 突 破 口 对 其 进 行 误 导 。 他 进 一 步 补 充 称 ， “ 如 果 网 络 安 全 开 始 转 向 A I 驱 动 ， 恶 意 分 子 就 会 转 而 攻 击 A I 并 向 其 教 授 一 些 邪 恶 的 技 能 。 如 果 将 控 制 权 交 给 A I ， 在 其 学 习 到 邪 恶 技 能 之 后 ， 很 容 易 引 发 无 法 控 制 的 糟 糕 局 面 。 A I 在 特 定 领 域 并 不 能 发 挥 优 势 在 特 定 领 域 并 不 能 发 挥 优 势 除 此 之 外 ， A I 在 某 些 领 域 也 很 难 真 正 发 挥 自 己 的 学 习 能 力 。 举 例 来 说 ， 计 算 机 能 够 通 过 学 习 了 解 如 何 发 现 遭 到 破 坏 的 事 物 ， 但 其 很 难 发 现 面 临 潜 在 破 坏 风 险 的 事 物 。 弗 雷 泽 表 示 ， “ 一 旦 其 中 存 在 某 些 类 似 于 逻 辑 错 误 的 状 况 （ 特 别 是 那 些 难 以 量 化 的 、 非 破 坏 性 状 况 ） ， 自 动 化 方 案 往 往 就 无 法 准 确 发 现 威 胁 。 另 外 ， 在 某 一 应 用 程 序 当 中 可 以 接 受 的 行 为 ， 在 另 一 应 用 程 序 当 中 有 可 能 代 表 着 非 常 严 重 的 缺 陷 ， 这 具 体 取 决 于 实 际 情 境 。 人 类 直 觉 能 够 很 好 地 解 决 这 些 问 题 ， 但 机 器 则 不 行 。 尽 管 存 在 上 述 障 碍 ， 但 研 究 人 员 确 实 看 到 了 以 自 动 化 方 式 解 决 网 络 安 全 领 域 内 一 些 日 常 工 作 的 可 能 性 与 发 展 潜 力 。 D A R P A 目 前 还 没 有 公 布 关 于 A I 网 络 保 护 应 用 的 正 式 计 划 ， 不 过 随 着 人 们 对 于 商 业 化 A I 方 案 接 受 程 度 的 日 益 提 升 ， 相 信 D A R P A 以 及 来 自 其 它 部 门 与 领 域 的 研 究 人 员 们 将 继 续 探 索 这 种 值 得 关 注 的 可 能 性 。 注 ： 本 文 由 E 安 全 编 译 报 道 , 转 载 请 注 明 原 文 地 址 h t t p s : / / w w w . e a s y a q . c o m / n e w s / 1 1 6 3 2 8 9 9 4 8 . s h t m l 推 荐 阅 读 ：
被 大 数 据 淹 没 的 美 国 情 报 机 构 ， 寄 希 望 于 人 工 智 能 简 讯 ： 物 联 网 、 云 计 算 、 大 数 据 、 人 工 智 能 怎 么 区 分 与 彼 此 关 系 ？ 等 9 月 1 9 日 简 讯 ： 人 工 智 能 竟 然 能 猜 密 码 了 ， 准 确 率 居 然 达 到 2 5 % ； 等 人 工 智 能 如 何 阻 止 勒 索 软 件 ？ 黑 客 将 在 A I 时 代 先 发 制 人 预 测 ： 2 0 2 3 年 网 络 安 全 市 场 的 A I 规 模 将 达 1 2 0 7 亿 从 A I 到 智 障 只 有 一 个 像 素 的 距 离 ▼ 点 击 “ 阅 读 原 文 ”   查 看 更 多 精 彩 内 容 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理