搜索

[4652] 2017-12-19_又一轮AI破解来袭：这一次是机器学习“黑匣子”

文档创建者：s7ckTeam
浏览次数：2
最后更新：2025-01-16
2017-12-19_又一轮AI破解来袭：这一次是机器学习“黑匣子” 又 一 轮 A I 破 解 来 袭 ： 这 一 次 是 机 器 学 习 “ 黑 匣 子 ” 原 创   E 安 全   E 安 全   2 0 1 7 - 1 2 - 1 9 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 官 网 w w w . e a s y a q . c o m E 安 全 1 2 月 1 9 日 讯   德 国 三 位 研 究 人 员 发 布 了 一 款 工 具 F o o l b o x ， 能 够 帮 助 用 户 在 解 析 “ 黑 匣 子 ” 时 更 轻 松 地 构 建 起 攻 击 模 型 。 并 且 在 名 人 面 部 识 别 与 高 知 名 度 并 且 在 名 人 面 部 识 别 与 高 知 名 度 L o g o 识 别 方 面 成 功 骗 过 美 国 热 门 的 图 片 识 别 工 具 。 识 别 方 面 成 功 骗 过 美 国 热 门 的 图 片 识 别 工 具 。 F o o l b o x 目 前 正 在 接 受 审 查 ， 并 计 划 于 2 0 1 8 年 4 月 底 召 开 的 学 习 报 告 国 际 大 会 上 进 行 展 示 。 美 国 著 名 演 员 、 导 演 乔 治 - 克 鲁 尼 与 达 斯 汀 - 霍 夫 曼 之 间 到 底 有 何 区 别 ？ 答 案 是 ： 仅 仅 几 个 像 素 之 差 。 F o o l b o x 工 具 特 点 工 具 特 点 F o o l b o x 是 面 向 是 面 向 “ 黑 匣 子 黑 匣 子 ” 的 入 侵 方 案 的 入 侵 方 案 与 “ 从 内 部 ” 针 对 A I 的 攻 击 模 型 不 同 ， 面 向 “ 黑 匣 子 （ b l a c k   b o x ） ” 的 入 侵 手 段 将 可 用 于 攻 击 自 动 驾 驶 车 辆 、 安 全 （ 例 如 面 部 识 别 ） 或 者 语 音 识 别 （ A l e x a 或 C o r t a n a ） 等 封 闭 系 统 。 来 自 德 国 图 宾 根 大 学 的 W i e l a n d   B r e n d e l 、 J o n a s   R a u b e r 与 M a t t h i a s   B e t h g e 在 a r X i v 上 解 释 称 ， F o o l b o x 是 一 种 “ 基 于 决 策 ” 的 攻 击 方 法 ， 其 利 用 边 界 攻 击 “ 从 大 攻 击 干 扰 性 攻 击 入 手 ， 而 后 减 少 干 扰 并 继 续 保 持 攻 击 能 力 ” 。
F o o l b o x 对 C l a r i f a i 的 黑 匣 子 A I 进 行 攻 击 测 试 其 基 本 原 理 在 于 自 大 规 模 干 扰 起 步 ， 而 后 逐 渐 减 少 干 扰 范 围 ， 这 一 点 不 同 于 以 往 几 乎 所 有 对 抗 性 攻 击 逻 辑 。 除 了 极 为 简 单 之 外 ， 其 组 织 起 的 边 界 攻 击 也 非 常 灵 活 。 例 如 ， “ 基 于 转 移 的 攻 击 ” 必 须 利 用 与 攻 击 模 型 相 同 的 训 练 数 据 进 行 测 试 ， 并 需 要 “ 繁 琐 的 替 代 模 型 ” 。 研 究 人 员 们 在 文 章 中 指 出 ， 基 于 梯 度 的 攻 击 同 样 需 要 具 备 与 目 标 模 型 相 关 的 详 细 知 识 ， 而 基 于 评 分 的 攻 击 则 需 要 访 问 目 标 模 型 的 置 信 度 分 数 。 论 文 指 出 ， 这 一 边 界 攻 击 则 仅 需 要 查 看 目 标 机 器 学 习 模 型 给 出 的 最 终 决 策 — — 例 如 其 作 为 输 入 内 容 的 类 标 签 ， 或 者 语 音 识 别 模 型 当 中 的 已 转 录 句 子 。 F o o l b o x 针 对 C l a r i f a i 黑 匣 子 进 行 的 l o g o 类 攻 击 测 试 纽 约 初 创 公 司 C l a r i f a i 提 供 A P I 类 型 的 工 具 ， 利 用 深 度 学 习 技 术 来 理 解 视 频 内 容 的 服 务 ， 能 够 快 速 分 析 视 频 脚 本 ， 识 别 1 万 种
不 同 的 物 体 或 场 景 。 研 究 人 员 们 利 用 C l a r i f a i   A P I 对 F o o l b o x 攻 击 能 力 进 行 了 测 试 ， 并 在 名 人 面 部 识 别 与 高 知 名 度 L o g o 识 别 方 面 成 功 将 其 骗 过 。 机 器 学 习 技 术 机 器 学 习 技 术 深 度 学 习 是 受 启 发 于 脑 神 经 元 对 输 入 信 息 进 行 响 应 从 而 学 习 的 过 程 。 许 多 层 的 模 拟 神 经 元 和 突 触 都 被 标 记 上 了 数 据 ， 这 些 神 经 元 和 突 触 的 行 为 在 学 习 的 工 程 中 不 断 被 调 整 ， 直 到 它 们 学 会 如 何 进 行 识 别 。 深 度 学 习 和 其 他 机 器 学 习 技 术 改 进 了 语 音 识 别 和 图 像 分 类 技 术 。 这 些 机 器 学 习 技 术 逐 渐 被 用 于 更 多 的 领 域 中 ， 这 些 一 旦 发 生 错 误 就 会 造 成 严 重 后 果 。 例 如 军 方 现 在 正 在 开 发 很 多 自 助 系 统 ， 这 些 系 统 将 很 大 程 度 上 依 赖 于 机 器 学 习 技 术 ， 比 如 自 动 驾 驶 汽 车 、 无 人 机 。 人 工 智 能 控 制 的 自 主 汽 车 ， 车 辆 传 感 器 的 信 息 被 直 接 送 入 深 度 学 习 神 经 网 络 ； 另 一 端 ， 行 驶 所 需 的 所 有 指 令 直 接 从 人 工 智 能 这 个 “ 黑 匣 子 ” 中 提 取 。 什 么 是 什 么 是 “ 黑 黑 匣 子 匣 子 ” ？ 　 ？ 　 数 据 左 右 着 设 计 决 策 ， 当 采 集 的 数 据 越 来 越 多 ， 无 论 是 传 统 工 具 还 是 人 都 无 法 处 理 ， 于 是 采 用 的 工 具 和 用 这 些 工 具 制 造 出 来 的 产 品 最 后 都 变 成 了 “ 黑 匣 子 ” 。 这 些 黑 匣 子 虽 然 不 方 便 被 人 类 检 视 ， 但 是 可 靠 性 在 很 多 领 域 已 经 优 于 老 式 设 计 和 人 类 自 己 。 深 度 学 习 A I 系 统 经 常 在 黑 匣 子 里 做 决 策 ， 因 为 机 器 可 以 在 短 时 间 内 执 行 数 百 万 次 测 试 ， 提 出 一 个 解 决 方 案 ， 并 继 续 执 行 数 百 万 次 测 试 ， 以 提 出 更 好 的 解 决 方 案 ， 因 此 人 们 无 法 轻 松 理 解 神 经 网 络 选 择 某 种 解 决 方 案 的 原 因 。 注 ： 本 文 由 E 安 全 编 译 报 道 , 转 载 请 注 明 原 文 地 址 h t t p s : / / w w w . e a s y a q . c o m / n e w s / 5 5 8 2 1 6 7 7 0 . s h t m l 推 荐 阅 读 ： 预 测 ： 2 0 2 3 年 网 络 安 全 市 场 的 A I 规 模 将 达 1 2 0 7 亿 从 A I 到 智 障 只 有 一 个 像 素 的 距 离 这 款 A I 能 随 机 生 成 逼 真 的 人 脸 图 像 谷 歌 的 新 战 争 : 用 A I 消 灭 安 卓 恶 意 软 件 美 国 防 部 的 “ V o l t r o n ” 计 划 ： 利 用 A I 挖 掘 军 事 软 件 漏 洞 网 络 防 御 有 新 招 ： “ 读 心 ” A I 读 懂 攻 击 者 意 图 别 以 为 带 着 头 巾 、 墨 镜 就 安 全 了 ？ A I 系 统 能 认 出 乔 装 打 扮 的 你
▼ 点 击 “ 阅 读 原 文 ”   查 看 更 多 精 彩 内 容 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理