搜索

[11640] 2017-08-08_当AI遇到网络安全：四层智能化革命蓄势待发

文档创建者：s7ckTeam
浏览次数：5
最后更新：2025-01-18
2017-08-08_当AI遇到网络安全：四层智能化革命蓄势待发 当 A I 遇 到 网 络 安 全 ： 四 层 智 能 化 革 命 蓄 势 待 发 百 度 云 安 全   F r e e B u f   2 0 1 7 - 0 8 - 0 8 在 刚 刚 落 幕 的 第 在 刚 刚 落 幕 的 第 2 0 届 届 B l a c k h a t 大 会 上 ， 大 会 上 ， “ 机 器 学 习 机 器 学 习 ” 被 反 复 提 及 ， 人 工 智 能 在 网 络 安 全 各 个 领 域 得 到 广 泛 探 索 和 被 反 复 提 及 ， 人 工 智 能 在 网 络 安 全 各 个 领 域 得 到 广 泛 探 索 和 应 用 尝 试 。 人 工 智 能 在 网 络 安 全 领 域 已 经 从 早 期 的 概 念 炒 作 ， 向 方 案 落 地 转 变 。 应 用 尝 试 。 人 工 智 能 在 网 络 安 全 领 域 已 经 从 早 期 的 概 念 炒 作 ， 向 方 案 落 地 转 变 。 当 人 工 智 能 遇 上 网 络 安 全 ， 在 纷 繁 复 杂 的 技 术 与 应 用 方 案 背 后 ， 可 以 归 纳 成 执 行 层 、 感 知 层 、 任 务 层 和 战 略 层 四 大 层 面 的 智 能 化 ， 不 仅 帮 助 解 决 现 有 的 一 些 安 全 难 题 ， 未 来 的 发 展 也 非 常 有 想 象 空 间 。 网 络 安 全 新 战 场 需 要 网 络 安 全 新 战 场 需 要 A I 填 补 人 才 紧 缺 填 补 人 才 紧 缺 目 前 网 络 安 全 已 经 进 入 了 一 个 崭 新 的 时 代 ， 面 向 各 种 新 战 场 ， 需 要 新 的 架 构 、 新 的 方 法 、 新 的 编 程 语 言 来 支 撑 我 们 新 的 方 法 、 新 的 编 程 语 言 来 支 撑 我 们 应 对 越 来 越 艰 巨 的 战 斗 。 新 战 场 以 黑 产 对 抗 、 反 勒 索 软 件 、 反 应 对 越 来 越 艰 巨 的 战 斗 。 新 战 场 以 黑 产 对 抗 、 反 勒 索 软 件 、 反 I n s i d e r - b a s e d A P T 、 物 联 网 、 物 联 网 / 车 联 网 这 些 新 方 向 为 车 联 网 这 些 新 方 向 为 代 表 。 代 表 。 比 如 很 多 摄 像 头 、 智 能 门 锁 、 儿 童 手 表 ， 都 是 成 批 次 的 被 攻 破 ， 车 联 网 与 智 能 车 的 安 全 问 题 也 引 起 业 界 的 严 重 关 注 和 顾 虑 。 众 所 周 知 ， 在 移 动 互 联 网 时 代 ， 安 卓 的 碎 片 化 生 态 几 乎 已 经 失 控 了 。 不 少 手 机 厂 商 对 某 些 低 版 本 的 手 机 系 统 都 不 再 进 行 升 级 ， 尽 管 还 有 很 多 用 户 在 用 ， 这 就 带 来 了 严 重 的 安 全 隐 患 ， 恶 意 代 码 可 以 轻 易 通 过 攻 击 几 年 前 的 安 卓 漏 洞 来 获 利 。 进 入 物 联 网 时 代 ， 这 种 情 况 会 更 加 严 重 。 很 多 硬 件 厂 商 在 开 发 产 品 的 时 候 完 全 没 有 考 虑 引 入 专 业 安 全 服 务 ， 最 终 面 临 严 峻 的 安 全 漏 洞 时 却 难 以 应 对 。 一 方 面 是 新 的 攻 击 不 断 涌 现 ， 另 一 方 面 防 守 方 却 显 得 捉 襟 见 肘 了 。 安 全 的 核 心 是 对 抗 ， 而 对 抗 是 多 维 度 的 、 持 一 方 面 是 新 的 攻 击 不 断 涌 现 ， 另 一 方 面 防 守 方 却 显 得 捉 襟 见 肘 了 。 安 全 的 核 心 是 对 抗 ， 而 对 抗 是 多 维 度 的 、 持 续 的 。 为 了 进 行 有 威 慑 力 的 对 抗 ， 最 大 的 挑 战 还 是 缺 少 高 素 质 安 全 专 业 人 才 。 在 这 种 情 况 下 ， 我 们 只 能 靠 续 的 。 为 了 进 行 有 威 慑 力 的 对 抗 ， 最 大 的 挑 战 还 是 缺 少 高 素 质 安 全 专 业 人 才 。 在 这 种 情 况 下 ， 我 们 只 能 靠 A I ， ， 也 就 是 靠 人 工 智 能 来 填 补 人 才 空 缺 。 也 就 是 靠 人 工 智 能 来 填 补 人 才 空 缺 。 对 于 人 工 智 能 的 看 法 业 界 出 现 两 极 分 化 ： 一 种 观 点 认 为 A I 可 以 帮 人 类 完 成 一 切 工 作 ， 另 一 种 认 为 A I 会 毁 灭 人 类 。 事 实 事 实 上 没 有 绝 对 的 黑 白 ， 上 没 有 绝 对 的 黑 白 ， A I 的 作 用 也 远 远 没 有 这 么 极 端 。 的 作 用 也 远 远 没 有 这 么 极 端 。 A I 能 做 什 么 ？ 吴 恩 达 教 授 给 出 了 很 好 的 解 释 ： 一 方 面 ， 正 常 人 类 1 秒 内 能 做 出 的 判 断 ， A I 也 能 做 的 很 好 。 比 如 无 人 驾 驶 时 代 已 经 悄 然 来 临 , 人 脸 识 别 、 语 音 识 别 ， 现 在 机 器 也 能 够 做 到 很 高 的 准 确 率 。 另 一 方 面 ， 通 过 大 量 已 经 发 生 过 的 具 体 重 复 事 件 ， A I 能 很 好 的 预 测 即 将 发 生 的 事 情 。 当 当 A I 遇 到 网 络 安 全 遇 到 网 络 安 全 当 A I 遇 到 网 络 安 全 时 ， 又 会 发 生 什 么 样 的 化 学 反 应 呢 ？ 网 络 安 全 是 一 个 非 常 复 杂 的 体 系 ， 可 以 分 为 执 行 层 、 感 知 层 、 任 务 层 和 战 略 层 。 现 在 网 络 安 全 是 一 个 非 常 复 杂 的 体 系 ， 可 以 分 为 执 行 层 、 感 知 层 、 任 务 层 和 战 略 层 。 现 在 A I 已 经 可 以 在 执 行 层 和 感 已 经 可 以 在 执 行 层 和 感 知 层 有 不 错 的 应 用 ， 同 时 在 任 务 层 和 战 略 层 已 经 开 始 摸 索 ， 但 还 处 于 比 较 初 期 的 阶 段 。 知 层 有 不 错 的 应 用 ， 同 时 在 任 务 层 和 战 略 层 已 经 开 始 摸 索 ， 但 还 处 于 比 较 初 期 的 阶 段 。 （ 一 ） 执 行 层 ： 显 著 提 高 安 全 运 维 效 率 （ 一 ） 执 行 层 ： 显 著 提 高 安 全 运 维 效 率 在 执 行 层 ， 在 执 行 层 ， A I 可 以 显 著 提 升 安 全 工 具 的 规 则 运 维 效 率 。 可 以 显 著 提 升 安 全 工 具 的 规 则 运 维 效 率 。 规 则 体 系 的 触 角 在 整 个 安 全 网 络 体 系 里 面 的 延 伸 非 常 广 泛 ， 包 括 像 杀 毒 、 W A F 、 反 S P A M 、 反 欺 诈 等 。 这 些 领 域 在 传 统 模 式 中 需 要 大 量 的 人 力 来 维 护 ， 比 如 像 反 欺 诈 系 统 里 面 可 能 有 上 千 条 规 则 ， 这 些 规 则 之 间 存 在 着 很 多 的 冲 突 ， 某 些 规 则 组 合 甚 至 超 出 了 人 的 理 解 能 力 ， 人 在 维 护 这 些 规 则 的 时 候 也 常 常 会 出 现 问 题 。 而 依 靠 A I ， 就 可 以 很 好 的 解 决 这 些 情 况 ， 机 器 学 习 已 经 展 示 出 非 常 强 大 的 价 值 。 它 可 以 自 动 生 成 规 则 ， 不 用 依 靠 庞 大 的 人 力 资 源 来 维 护 。 而 且 安 全 事 件 通 常 是 大 量 发 生 的 ， 所 以 A I 能 够 比 较 好 的 识 别 判 断 下 一 次 事 件 。 A I 是 如 何 做 到 的 呢 ？ 机 器 学 习 能 自 动 生 成 规 则 ， 但 是 其 中 的 学 习 深 度 还 是 有 一 定 的 区 分 。 “ 浅 学 习 ” 以 S V M 、 R a n d o m F o r r e s t 、 G B D T 等 算 法 为 代 表 ， 它 还 需 要 很 多 的 人 工 特 征 工 程 来 准 备 特 征 向 量 ， 然 后 由 算 法 自 动 完 成 分 类 识 别 。 在 风 控 领 域 ， 运 用 最 广 泛 的 是 G B D T （ 很 多 比 赛 的 冠 军 都 是 用 G B D T ） ， 但 是 当 特 征 维 度 上 升 到 数 千 维 后 ， 深 度 学 习 的 优 势 就 开 始 慢 慢 展 现 出 来 。 深 度 学 习 和 “ 浅 学 习 ” 存 在 一 个 很 大 的 区 别 ， 就 是 深 度 学 习 对 特 征 工 程 的 依 赖 减 弱 很 多 ， 它 能 比 较 好 的 自 动 提 取 特 征 ， 可 以 生 成 深 度 学 习 模 型 ， 比 如 C N N ( 卷 积 神 经 网 络 ) 和 R N N ( 循 环 神 经 网 络 ) 技 术 等 。 举 例 而 言 ， A I 在 移 动 杀 毒 引 擎 的 应 用 效 果 明 显 。 众 所 周 知 ， 现 在 病 毒 种 类 的 变 形 越 来 越 多 ， 大 多 数 黑 产 都 会 进 行 不 同
的 尝 试 。 如 果 用 人 工 来 构 建 那 些 恶 意 代 码 的 识 别 特 征 ， 就 需 要 构 建 一 套 非 常 庞 大 的 体 系 ， 不 仅 慢 而 且 难 以 维 护 。 百 度 利 用 深 度 学 习 技 术 在 这 方 面 取 得 了 非 常 出 色 的 成 果 ， 在 历 次 A V   T e s t 测 试 中 长 期 保 持 第 一 。 去 年 百 度 安 全 在 顶 级 安 全 工 业 界 会 议   B l a c k h a t E u r o p e   上 就 此 成 果 做 了 专 题 报 告 ， 也 是 目 前 全 球 安 全 工 业 界 第 一 个 有 实 质 性 进 展 的 深 度 学 习 应 用 技 术 报 告 。 另 一 个 例 子 是 A I 在 网 页 安 全 中 的 应 用 ， 效 果 也 非 常 显 著 。 目 前 网 页 安 全 的 威 胁 主 要 包 括 三 类 ： 第 一 种 欺 诈 类 网 站 ， 包 括 虚 假 高 校 、 虚 假 药 品 、 假 冒 贷 款 、 仿 冒 火 车 票 、 虚 假 金 融 证 券 、 仿 冒 飞 机 票 、 虚 假 中 奖 、 仿 冒 登 录 、 虚 假 招 聘 等 ； 第 二 类 是 存 在 风 险 的 网 站 ， 主 要 包 括 网 页 挂 马 、 恶 意 代 码 、 隐 私 窃 取 、 恶 意 跳 转 、 僵 尸 网 络 通 信 、 木 马 下 载 主 机 等 ； 第 三 类 是 违 法 网 站 ， 包 括 色 情 和 博 彩 等 。 百 度 每 天 爬 取 索 引 的 数 据 中 ， 有 1 % ~ 5 % 的 U R L 包 含 不 同 程 度 的 恶 意 信 息 ， 如 果 不 加 防 护 将 会 对 网 民 带 来 巨 大 的 伤 害 。 百 度 安 全 通 过 规 则 体 系 、 机 器 学 习 （ 浅 层 模 型 ） 、 深 度 学 习 （ 文 本 ） 、 深 度 学 习 （ 图 片 ） 以 及 威 胁 情 报 挖 掘 等 网 址 安 全 复 合 检 测 算 法 来 保 障 网 站 的 安 全 。 目 前 ， 百 度 安 全 利 用 机 器 学 习 进 行 网 页 检 测 ， 对 恶 意 信 息 的 防 护 已 经 取 得 了 很 好 的 成 果 。 单 条 样 本 检 测 时 延 已 经 小 于 1 0 m s ， 对 非 法 网 站 的 识 别 准 确 率 已 经 超 过 9 9 % 。 百 度 安 全 团 队 也 受 国 际 安 全 学 术 泰 斗   U C   B e r k l e y   P r o f .   D a w n   S o n g   邀 请 ， 在   S i n g a p o r e   C y b e r s e c u r i t y   C o n s o r t i u m   ( S G C S C )   上 就 此 成 果 做 了 专 题 报 告 。 （ 二 ） 感 知 层 ： 生 物 特 征 识 别 与 对 抗 的 兴 起 （ 二 ） 感 知 层 ： 生 物 特 征 识 别 与 对 抗 的 兴 起 在 感 知 层 ， 当 下 最 重 要 的 应 用 就 是 生 物 特 征 认 证 。 人 脸 认 证 是 目 前 A I 在 安 全 领 域 最 成 功 的 一 个 应 用 。 整 个 认 证 流 程 看 起 来 简 单 ， 其 实 里 面 的 技 术 相 当 复 杂 ： 首 先 需 要 在 各 种 环 境 下 准 确 追 踪 人 脸 ， 如 果 有 偏 差 能 够 给 予 及 时 有 效 的 提 示 ； 其 次 要 在 最 小 用 户 打 扰 的 情 况 下 完 成 可 靠 的 活 体 识 别 ， 而 不 被 虚 假 照 片 或 化 妆 欺 骗 ， 能 高 速 完 成 可 信 人 脸 数 据 对 比 。 第 三 ， 设 备 和 应 用 的 安 全 状 态 也 需 要 可 靠 的 保 障 ， 一 旦 发 现 恶 意 攻 击 可 以 即 时 进 行 取 证 。 最 后 ， 还 必 须 要 在 云 端 对 用 户 隐 私 信 息 有 着 严 格 的 保 护 。 因 此 ， 要 实 现 顺 滑 的 人 脸 认 证 体 验 ， 必 须 要 有 A I 技 术 和 系 统 化 安 全 技 术 做 全 面 支 撑 。 为 什 么 要 在 安 全 过 程 中 用 A I 感 知 来 做 人 脸 识 别 ？ 因 为 银 行 或 者 运 营 商 对 于 客 户 的 实 名 认 证 环 节 ， 传 统 上 是 要 靠 人 来 完 成 的 。 但 是 人 其 实 是 在 整 个 安 全 过 程 中 最 容 易 被 攻 破 的 一 环 ， 攻 击 者 可 以 找 到 很 多 理 由 ， 比 如 最 近 胖 了 / 瘦 了 / 病 了 等 来 蒙 混 过 关 。 如 果 是 A I 来 做 这 件 事 ， 反 而 铁 面 无 私 ， 能 够 把 这 个 体 系 构 建 的 更 加 标 准 化 ， 并 随 着 技 术 的 进 步 不 断 完 善 。 目 前 ， 百 度 的 人 脸 认 证 已 经 能 够 在 秒 级 内 完 成 超 过 9 0 % 的 高 可 信 验 证 比 率 ， 显 著 高 于 业 界 平 均 水 平 ， 并 且 已 经 在 实 战 中 积 累 了 很 多 活 体 识 别 对 抗 的 经 验 和 能 力 。 除 此 之 外 ， 我 们 也 在 声 纹 识 别 、 用 户 行 为 识 别 等 领 域 做 了 很 多 应 用 探 索 和 尝 试 。 （ 三 ） 任 务 层 和 战 略 层 ： 尚 处 在 初 级 探 索 阶 段 （ 三 ） 任 务 层 和 战 略 层 ： 尚 处 在 初 级 探 索 阶 段 将 A I 应 用 于 网 络 安 全 任 务 层 和 战 略 层 ， 在 某 些 国 际 大 赛 上 已 经 开 始 尝 试 ， 但 目 前 还 只 是 封 闭 空 间 的 自 动 对 抗 。 其 中 最 著 名 的 就 是   D A R P A   主 办 的   C G C   大 赛 ， 比 赛 让 7 个 顶 级 团 队 构 建 自 动 化 系 统 ， 对 有 缺 陷 的 服 务 程 序 做 自 动 加 固 ， 然 后 相 互 攻 击 ， 不 仅 要 抵 抗 外 来 攻 击 ， 同 时 还 要 反 击 对 手 。 但 是 ， 这 个 还 不 能 说 是 人 工 智 能 ， 因 为 所 有 的 逻 辑 都 是 人 预 先 设 定 好 的 。 也 就 是 说 ， 目 前 仍 然 停 留 在 自 动 化 阶 段 ， 还 在 向 A I 方 向 摸 索 。 在 安 全 的 任 务 层 和 战 略 层 要 真 正 达 到 人 工 智 能 的 高 级 阶 段 ， 首 先 要 解 决 人 工 智 能 对 开 放 空 间 的 认 知 问 题 ， 包 括 在 安 全 的 任 务 层 和 战 略 层 要 真 正 达 到 人 工 智 能 的 高 级 阶 段 ， 首 先 要 解 决 人 工 智 能 对 开 放 空 间 的 认 知 问 题 ， 包 括 世 界 认 知 、 人 性 弱 点 、 创 造 力 、 跨 维 打 击 等 方 面 ， 其 实 还 有 很 长 一 段 距 离 。 世 界 认 知 、 人 性 弱 点 、 创 造 力 、 跨 维 打 击 等 方 面 ， 其 实 还 有 很 长 一 段 距 离 。 不 过 最 近 在 相 对 封 闭 的 任 务 空 间 中 的 人 工 智 能 探 索 研 究 ， 已 经 取 得 了 很 好 的 进 展 ， 相 信 在 不 远 的 将 来 会 有 一 些 颠 覆 性 的 应 用 产 生 。 总 结 总 结 人 工 智 能 在 网 络 安 全 领 域 的 应 用 ， 执 行 层 上 面 已 经 实 用 化 ， 可 以 显 著 的 提 升 规 则 化 安 全 工 作 的 效 率 ， 弥 补 专 业 人 员 人 手 的 不 足 ； 在 感 知 层 面 ， 可 以 把 原 本 依 赖 于 人 （ 不 可 靠 ） 的 安 全 体 系 标 准 化 ， 现 在 已 经 开 始 实 现 大 规 模 的 推 广 ， 包 括 人 脸 识 别 和 图 象 识 别 等 等 ； A I 在 任 务 层 上 的 摸 索 刚 刚 开 始 ， 在 某 些 封 闭 任 务 领 域 已 经 展 现 出 很 好 的 潜 力 ； 在 战 略 层 ， 由 于 开 放 空 间 的 特 性 ， A I 的 路 还 比 较 遥 远 ， 所 以 大 家 还 不 用 担 心 “ 天 啊 ， 人 类 要 毁 灭 了 ” 这 样 的 问 题 。 同 时 ， 随 着 人 工 智 能 在 安 全 领 域 的 应 用 ， 围 绕 着 人 工 智 能 技 术 本 身 的 攻 防 对 抗 也 成 为 学 术 界 的 研 究 热 点 ， 相 信 其 中 的 研 究 成 果 很 快 也 会 在 安 全 实 践 中 得 到 应 用 。 百 度 首 席 安 全 科 学 家 、 百 度 安 全 实 验 室 负 责 人   韦 韬
* 本 文 作 者 ： 百 度 云 安 全 ， 转 载 请 注 明 来 自 本 文 作 者 ： 百 度 云 安 全 ， 转 载 请 注 明 来 自   F r e e B u f . C O M 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理