搜索

[10755] 2016-11-25_人工智能安全来袭？2016SyScan360大会最全记录

文档创建者：s7ckTeam
浏览次数：3
最后更新：2025-01-18
2016-11-25_人工智能安全来袭？2016SyScan360大会最全记录 人 工 智 能 安 全 来 袭 ？ 2 0 1 6   S y S c a n 3 6 0 大 会 最 全 记 录 A r t h u r K i l l e r   F r e e B u f   2 0 1 6 - 1 1 - 2 5 前 言 前 言 2 0 1 6 年 年 1 1 月 月 2 4 日 ， 日 ， S y S c a n 3 6 0 国 际 前 瞻 信 息 安 全 会 议 在 上 海 召 开 ， 该 安 全 会 议 为 期 两 天 时 间 （ 国 际 前 瞻 信 息 安 全 会 议 在 上 海 召 开 ， 该 安 全 会 议 为 期 两 天 时 间 （ 2 4 日 至 日 至 2 5 日 ） 。 日 ） 。 S y S c a n 3 6 0 由 奇 虎 由 奇 虎 3 6 0 公 司 举 办 ， 会 议 中 涉 及 众 多 技 术 干 货 ， 包 括 但 不 限 于 公 司 举 办 ， 会 议 中 涉 及 众 多 技 术 干 货 ， 包 括 但 不 限 于 A P T 攻 击 ， 汽 车 安 全 ， 人 工 智 能 安 全 ， 攻 击 ， 汽 车 安 全 ， 人 工 智 能 安 全 ， W i n d o w s 安 安 全 ， 全 ， i O S 安 全 ， 安 全 ， M a c   O S 安 全 等 。 安 全 等 。 本 次 大 会 主 要 聚 焦 在 本 次 大 会 主 要 聚 焦 在 “ 人 工 智 能 时 代 的 安 全 人 工 智 能 时 代 的 安 全 ” ， 邀 请 了 全 球 相 关 人 工 智 能 和 网 络 安 全 的 专 家 ， 共 同 探 讨 该 领 域 最 新 的 研 究 成 ， 邀 请 了 全 球 相 关 人 工 智 能 和 网 络 安 全 的 专 家 ， 共 同 探 讨 该 领 域 最 新 的 研 究 成 果 和 方 向 。 果 和 方 向 。 S y S c a n 3 6 0 大 会 签 到 处 大 会 签 到 处 烧 脑 的 胸 卡 烧 脑 的 胸 卡 签 到 完 的 嘉 宾 会 领 取 到 一 枚 “ 钢 铁 侠 ” 胸 牌 ， 胸 牌 有 红 黑 两 个 颜 色 。
但 是 这 个 胸 卡 暗 藏 玄 机 。 在 胸 牌 背 面 有 一 个 显 示 屏 和 6 个 按 钮 （ 上 下 左 右 ， 开 关 机 和 确 定 ） 和 3 6 0 独 角 兽 团 队 的 l o g o 。 仔 细 阅 读 官 方 文 档 后 发 现 这 个 胸 卡 居 然 还 可 以 破 解 。
在 大 会 外 场 有 三 个 显 示 器 ， 两 个 轮 流 滚 动 着 题 目 ， 另 外 一 个 显 示 当 前 破 解 的 人 数 。 你 能 解 下 面 的 题 目 么 ？
总 共 有 1 0 道 题 目 ， 做 对 一 题 增 加 一 分 ， 目 前 最 高 分 的 是 一 个 9 分 的 大 神 。 3 6 0 车 联 网 安 全 中 心 正 式 上 线 车 联 网 安 全 中 心 正 式 上 线 大 会 演 讲 正 式 开 始 前 ， 3 6 0 企 业 安 全 集 团 副 总 裁 韩 笑 宣 布 企 业 安 全 集 团 副 总 裁 韩 笑 宣 布 3 6 0 车 联 网 安 全 中 心 今 天 正 式 上 线 。 车 联 网 安 全 中 心 今 天 正 式 上 线 。
随 着 互 联 网 、 人 工 智 能 、 无 线 网 络 和 云 计 算 、 大 数 据 等 技 术 的 应 用 ， 今 天 的 汽 车 的 智 能 化 、 联 网 化 程 度 越 来 越 高 ， 汽 车 已 经 变 成 名 副 其 实 的 万 物 互 联 时 代 接 入 网 络 的 智 能 终 端 设 备 。 按 照 3 6 0 的 说 法 ， 3 6 0 车 联 网 安 全 中 心 是 国 内 第 一 个 专 注 于 车 联 网 安 全 研 究 与 实 践 的 创 新 中 心 。 3 6 0 车 联 网 安 全 中 心 秉 承 跨 行 业 协 同 的 发 展 理 念 ， 与 北 京 航 天 航 空 大 学 、 浙 江 大 学 、 特 斯 拉 、 长 安 汽 车 、 比 亚 迪 、 长 城 、 B O S C H 、 V i s u a l T h r e a t 等 研 究 机 构 、 汽 车 生 产 企 业 和 汽 车 信 息 安 全 相 关 厂 商 展 开 了 深 度 合 作 和 共 同 研 究 ， 组 建 了 多 个 联 合 实 验 室 和 研 究 院 ， 建 立 了 中 国 的 汽 车 信 息 安 全 研 究 集 群 — — 显 然 万 物 互 联 时 代 下 的 汽 车 、 交 通 及 相 关 领 域 的 信 息 安 全 是 至 关 重 要 的 。 同 时 S y s c a n 创 始 人 T h o m a s   L i m 表 示 ， 明 年 的 S y s c a n 3 6 0 将 于 5 月 1 8 至 1 9 日 在 美 国 西 雅 图 举 办 。 i P h o n e 中 隐 藏 的 操 作 系 统 中 隐 藏 的 操 作 系 统
如 果 有 人 问 你 i P h o n e 所 用 的 操 作 系 统 是 什 么 ， 普 通 人 会 回 答 i O S ， 但 在 安 全 专 家 的 眼 里 ， 它 还 有 个 S E P 系 统 。 从 i O S 7 开 始 ， 苹 果 就 为 A 系 列 芯 片 加 入 了 T r u s t Z o n e 黑 匣 子 ： 苹 果 最 新 的 A 7 处 理 器 内 部 分 离 出 一 个 独 立 硬 件 和 软 件 结 构 S E P ， 专 门 处 理 涉 及 支 付 等 机 密 数 据 的 处 理 与 存 储 。 该 系 统 有 着 自 己 的 驱 动 ， 内 核 ， 服 务 和 应 用 程 序 。 用 户 在 进 行 开 机 指 纹 解 锁 、 A p p S t o r e 支 付 时 ， 处 理 器 会 自 动 切 换 到 S E P 来 接 管 指 纹 存 储 、 识 别 ， 在 处 理 完 成 后 将 数 据 返 回 给 处 理 器 的 一 般 区 域 。 所 以 很 多 人 认 为 i O S   就 算 越 狱 后 也 还 是 安 全 的 ， 因 为 恶 意 A P P 很 难 触 及 到 S E P 系 统 。 O f f C e l l   R e s e a r c h 的 总 经 理 M a t h e w   S o l n i k 为 我 们 带 来 了 S E P 的 研 究 成 果 。 在 会 议 上 ， 他 展 示 了 S E P 和 硬 件 设 计 的 引 导 过 程 ， 同 时 也 详 细 讲 解 了 S E P 系 统 结 构 本 身 。 根 据 长 时 间 的 研 究 ， 他 表 示 可 以 利 用 邮 箱 机 制 对 i O S 内 核 和 S E P 系 统 中 的 数 据 做 交 换 。 简 单 来 说 ， 这 个 方 法 可 以 让 黑 客 在 苹 果 手 机 被 感 染 后 ， 跨 过 i O S 系 统 获 取 S E P 中 的 隐 私 数 据 ， 比 如 指 纹 信 息 ， 支 付 信 息 ， 密 码 等 等 。 在 大 会 最 后 ， 该 演 讲 者 评 估 了 S E P 的 攻 击 面 和 潜 在 的 攻 击 向 量 。 这 对 移 动 安 全 而 言 绝 对 是 突 破 性 的 发 现 。 “ 三 体 三 体 ” 攻 击 思 路 逃 出 攻 击 思 路 逃 出 E d g e 沙 箱 环 境 沙 箱 环 境 现 如 今 ， 很 多 厂 商 开 始 注 重 安 全 性 ， 越 来 越 多 的 软 件 有 了 自 己 的 沙 箱 。 沙 箱 环 境 有 着 严 格 的 安 全 机 制 ， 因 此 沙 箱 逃 逸 对 于 很 多 安 全 研 究 人 员 是 一 座 难 以 翻 越 的 “ 大 山 ” 。 这 次 大 会 上 ， 奇 虎 3 6 0 古 河 和 M J 0 0 1 1 为 我 们 带 来 了 新 的 沙 箱 逃 逸 漏 洞 和 挖 掘 沙 箱 逃 逸 漏 洞 的 新 理 念 。 在 D e m o 演 示 中 ， 他 们 用 E d g e 浏 览 器 下 载 了 一 个 恶 意 文 件 ， 很 快 就 被 w i n d o w s   d e f e n d e r 查 杀 了 。 随 后 ， 他 们 又 下 载 了 一 个 精 心 构 造 的 恶 意 脚 本 ， 并 宣 称 该 脚 本 可 以 绕 过 E d g e 浏 览 器 的 沙 箱 环 境 。 果 然 恶 意 脚 本 跳 出 了 E d g e 浏 览 器 的 沙 箱 环 境 ， 更 改 了 W i n d o w s   D e f e n d e r 的 内 存 值 ， 导 致 W i n d o w s   D e f e n d e r 强 制 关 闭 ， W i n d o w s 失 去 保 护 机 制 。 M J 0 0 1 1 表 示 ， 挖 掘 该 漏 洞 的 时 候 主 要 是 关 注 在 系 统 A P I ， 沙 箱 和 R P C 三 方 面 的 相 互 调 用 ， 据 说 其 中 灵 感 主 要 来 源 于 中 国 科 幻 小 说 《 三 体 》 。 M J 0 0 1 1 认 为 ， 这 个 攻 击 思 路 运 用 在 其 它 沙 箱 逃 逸 的 漏 洞 挖 掘 上 或 许 可 以 到 达 事 半 功 倍 的 效 果 。
是 天 网 还 是 终 结 者 ？ 是 天 网 还 是 终 结 者 ？ 今 年 的 D e f c o n 大 会 引 入 了 全 新 的 竞 赛 模 式 — — 人 机 对 战 。 人 工 智 能 挖 掘 漏 洞 不 再 只 是 停 留 在 概 念 阶 段 。 美 国 乔 治 亚 大 学 教 授 李 康 首 先 为 我 们 带 来 了 他 的 议 题 《 人 工 智 能 在 漏 洞 挖 掘 等 安 全 领 域 中 的 应 用 现 状 及 前 景 展 望 》 。 该 议 题 的 内 容 是 自 动 化 安 全 分 析 系 统 的 现 状 以 及 人 工 智 能 在 漏 洞 挖 掘 中 的 已 有 应 用 ， 包 括 遗 传 算 法 在 漏 洞 自 动 挖 掘 系 统 中 的 使 用 ， 机 器 学 习 对 恶 意 行 为 的 分 类 等 。 演 讲 同 时 也 覆 盖 了 机 器 学 习 等 算 法 在 安 全 领 域 中 遇 到 的 困 难 ， 以 及 对 近 期 应 用 场 景 的 展 望 。 演 讲 最 后 ， 李 康 教 授 也 表 达 了 自 己 的 担 忧 ： 在 人 工 智 能 开 发 的 时 候 ， 我 们 除 了 机 器 自 主 学 习 漏 洞 挖 掘 的 过 程 中 ， 也 要 引 导 机 器 正 确 理 解 一 些 错 误 的 行 为 ， 以 增 强 人 工 智 能 挖 掘 漏 洞 的 可 控 性 。 李 康 教 授 不 仅 仅 是 C y b e r   I m m u n i t y 实 验 室 的 负 责 人 ， 同 时 也 是 著 名 C T F 战 队 B l u e - l o t u s ( 蓝 莲 花 ) 的 启 蒙 导 师 。 在 今 年 的 C G C 比 赛 中 ， 李 康 教 授 作 为 D i s e k t 的 领 队 成 功 入 围 进 入 决 赛 。
李 康 教 授 开 发 的 f u z z y   l o p   源 代 码 ： h t t p s : / / g i t h u b . c o m / k a n g l i c t f / a f l - q a i / 运 用 人 工 智 能 对 抗 运 用 人 工 智 能 对 抗 A P T 攻 击 攻 击 F r e e B u f 中 部 分 小 伙 伴 可 能 对 3 6 0 追 日 团 队 不 太 熟 悉 ， 实 际 上 3 6 0 追 日 团 队 在 F r e e B u f 上 发 表 过 众 多 A P T 分 析 文 章 ， 比 如 《 蔓 灵 花 A P T 行 动 攻 击 报 告 》 ， 《 摩 诃 草 A P T 组 织 大 揭 秘 》 等 等 。 来 自 3 6 0 追 日 团 队 的 赵 雨 婷 带 来 了 她 的 研 究 议 题 《 机 器 学 习 在 威 胁 情 报 挖 掘 中 的 应 用 》 。 演 讲 者 运 用 3 6 0 多 维 度 的 海 量 数 据 ， 从 中 索 引 出 相 关 的 威 胁 情 报 。 然 后 在 制 作 机 器 学 习 的 数 学 模 块 ， 对 多 种 类 型 的 威 胁 情 报 定 制 相 应 的 策 略 ， 具 备 “ 自 学 习 、 自 进 化 ” 的 能 力 ， 提 高 了 识 别   A P T   攻 击 中 威 胁 情 报 的 效 率 。 以 下 是 对 赵 雨 婷 简 短 采 访 。 F r e e B u f 小 编 ： 小 编 ： A P T 攻 击 总 是 要 经 过 数 年 才 会 被 发 现 ， 你 认 为 关 键 原 因 是 什 么 ？ 攻 击 总 是 要 经 过 数 年 才 会 被 发 现 ， 你 认 为 关 键 原 因 是 什 么 ？ 赵 雨 婷 ： A P T 攻 击 的 范 围 相 对 要 小 ， 攻 击 集 中 ， 隐 蔽 性 强 ， 目 的 性 强 和 技 术 性 强 。 而 且 有 些 A P T 攻 击 的 范 围 处 于 内 网 中 ， 因 此 很 难 察 觉 到 。 F r e e B u f 小 编 ： 在 大 会 上 您 说 到 追 日 团 队 开 发 了 自 己 的 人 工 智 能 学 习 模 块 ， 请 问 该 方 法 能 否 有 效 提 高 小 编 ： 在 大 会 上 您 说 到 追 日 团 队 开 发 了 自 己 的 人 工 智 能 学 习 模 块 ， 请 问 该 方 法 能 否 有 效 提 高 A P T 攻 击 的 检 测 攻 击 的 检 测 效 率 ？ 效 率 ？ 赵 雨 婷 ： 从 原 理 上 来 说 的 确 可 以 ， 人 工 智 能 相 对 于 普 通 安 全 研 究 人 员 来 说 ， 效 率 要 高 得 多 。 打 个 比 方 ， 如 果 一 个 安 全 研 究 人 员 一 天 能 最 多 检 测 三 百 个 恶 意 软 件 ， 那 么 人 工 智 能 检 测 上 亿 的 恶 意 软 件 也 只 是 几 小 时 的 时 间 ， 只 要 机 器 性 能 符 合 要 求 。
F r e e B u f 小 编 ： 在 很 多 安 全 会 议 上 都 有 提 到 过 人 工 智 能 安 全 和 威 胁 情 报 ， 请 问 这 些 概 念 性 或 者 实 验 性 的 技 术 什 么 时 候 小 编 ： 在 很 多 安 全 会 议 上 都 有 提 到 过 人 工 智 能 安 全 和 威 胁 情 报 ， 请 问 这 些 概 念 性 或 者 实 验 性 的 技 术 什 么 时 候 才 能 成 熟 的 应 用 到 商 业 领 域 中 ？ 才 能 成 熟 的 应 用 到 商 业 领 域 中 ？ 赵 雨 婷 ： 这 些 话 题 目 前 安 全 人 员 都 有 了 解 ， 但 是 具 体 的 成 熟 应 用 时 间 不 太 好 预 估 ， 目 前 安 全 研 究 人 员 也 是 在 摸 索 和 实 验 阶 段 。 有 可 能 过 几 年 就 会 有 成 熟 的 产 品 问 世 ， 也 有 可 能 到 时 候 有 新 的 技 术 去 替 代 吧 。 重 装 系 统 就 可 以 删 除 病 毒 ？ 在 重 装 系 统 就 可 以 删 除 病 毒 ？ 在 M a c 上 或 许 不 行 ！ 上 或 许 不 行 ！ P a t r i c k   W a r d l e   是   S y n a c k   的 安 全 研 究 主 管 ， 他 的 议 题 是 《 攻 击   M a c   R e c o v e r y   O S   和 本 地 操 作 系 统 升 级 过 程 》 。 在 M a c 系 统 中 ， 包 含 着 另 一 套 藏 在   O S   X   背 后 的 操 作 系 统 ： R e c o v e r y   O S 。 在 虚 拟 机 环 境 中 ， 这 套 操 作 系 统 的 完 整 性 并 没 有 受 到 保 护 。 尽 管 在 最 新 的 原 生 环 境 中 ， 苹 果 已 经 加 入 针 对 这 套 系 统 完 整 性 的 验 证 ， 但 这 不 妨 碍 攻 击 者 攻 击 虚 拟 的   O S   X   系 统 ， 并 使 其 恶 意 软 件 可 以 在 完 全 的   O S   X   恢 复 下 存 活 。 更 有 趣 的 是 ， 本 次 演 讲 指 出 ， R e c o v e r y   O S   在 进 行   O S   X   还 原 处 理 的 过 程 是 同   O S   X   升 级 过 程 的 逻 辑 是 一 样 的 。 苹 果 并 没 有 完 全 验 证 操 作 系 统 升 级 和 安 装 过 程 的 完 整 性 ， 这 使 得 本 地 攻 击 者 或 恶 意 程 序 可 以 直 接 注 入 代 码 到 操 作 系 统 升 级 和 安 装 器 程 序 中 ， 使 得 恶 意 代 码 可 以 直 接 控 制 并 传 播 到 被 升 级 的 操 作 系 统 中 。
任 重 道 远 的 汽 车 安 全 任 重 道 远 的 汽 车 安 全 如 果 个 人 电 脑 被 黑 ， 最 坏 的 情 况 可 能 是 经 济 损 失 或 者 数 据 被 窃 ， 但 如 果 汽 车 被 黑 客 攻 击 ， 那 么 后 果 不 敢 想 象 。 随 着 汽 车 技 术 的 发 展 ， 有 越 来 越 多 的 汽 车 都 进 使 用 了 总 线 结 构 及 电 子 化 、 智 能 化 技 术 ， 近 年 来 汽 车 破 解 事 件 日 益 突 出 。 为 了 更 好 的 研 究 汽 车 信 息 安 全 技 术 ， 奇 虎   3 6 0   汽 车 信 息 安 全 实 验 室 的 刘 健 皓 和 严 敏 睿 开 发 了 自 己 的 C A N 总 线 安 全 工 具 ， 并 且 命 名 为 C A N   P i c k 。 该 工 具 可 以 发 现 电 子 控 制 单 元 E C U 、 中 间 人 测 试 攻 击 、 模 糊 测 试 攻 击 、 暴 力 破 解 、 扫 描 监 听 C A N 总 线 报 文 、 被 动 的 分 析 验 证 C A N 总 线 报 文 中 的 校 验 和 和 时 间 戳 。 同 时 对 于 分 析 产 生 的 报 文 可 通 过 可 视 化 的 方 式 得 出 报 文 的 变 化 量 ， 从 而 确 定 控 制 报 文 的 区 间 值 ， 同 时 还 可 以 在 平 台 内 共 享 可 编 程 的 汽 车 测 试 用 例 。 以 下 是 F r e e B u f 对 3 6 0   汽 车 安 全 实 验 室 的 刘 健 皓 采 访 。 F r e e B u f 小 编 ： 请 问 你 们 是 否 会 对 外 发 布 或 者 开 源 小 编 ： 请 问 你 们 是 否 会 对 外 发 布 或 者 开 源 C A N   P i c k 工 具 包 ？ 工 具 包 ？ 刘 健 皓 ： 暂 时 还 不 考 虑 开 源 ， 原 因 是 我 们 还 在 对 工 具 做 优 化 和 更 新 。 而 且 如 果 这 个 工 具 被 好 人 掌 握 还 好 ， 如 果 被 坏 人 掌 握 ， 那 么 危 害 性 不 可 想 象 。 F r e e B u f 小 编 ： 请 问 该 工 具 是 什 么 语 言 所 编 写 ？ 小 编 ： 请 问 该 工 具 是 什 么 语 言 所 编 写 ？ 刘 健 皓 ： 主 要 是 基 于 p y t h o n ， 其 中 部 分 借 鉴 了 C A N T O O L Z 开 源 项 目 。 F r e e B u f 小 编 ： 那 么 如 果 智 能 汽 车 要 做 到 安 全 是 否 需 要 将 小 编 ： 那 么 如 果 智 能 汽 车 要 做 到 安 全 是 否 需 要 将 E C U 系 统 做 到 物 理 隔 离 ？ 系 统 做 到 物 理 隔 离 ？ 刘 健 皓 ： 有 些 汽 车 可 以 通 过 A P P 进 行 操 作 ， 如 果 A P P 端 或 者 W E B 端 没 做 好 安 全 防 护 ， 一 样 可 以 威 胁 到 汽 车 安 全 。 在 某 些 情 况 下 ， 多 媒 体 系 统 和 操 作 系 统 进 行 物 理 隔 绝 的 确 可 以 避 免 高 危 威 胁 。  
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理