搜索

[17522] 2018-02-24_骗过机器学习的对抗样本，竟然连人也不放过

文档创建者：s7ckTeam
浏览次数：2
最后更新：2025-01-18
2018-02-24_骗过机器学习的对抗样本，竟然连人也不放过 骗 过 机 器 学 习 的 对 抗 样 本 ， 竟 然 连 人 也 不 放 过 原 创   小 明   G e e k P w n   2 0 1 8 - 0 2 - 2 4 星 爷 这 个 “ 好 像 ” ， 用 得 实 在 太 好 了 。 2 0 1 7   年 科 学 家 终 于 解 开 了 灵 长 类 动 物 能 够 识 别 面 部 的 “ 代 码 ” ， 推 翻 了 对 于 “ 大 脑 黑 箱 ” 的 假 设 。
猕 猴 实 验 表 明 ， 面 部 识 别 是 由 大 脑 中   2 0 0   多 个 不 同 神 经 元 共 同 “ 编 码 ” 合 作 完 成 ， 每 个 神 经 元 对 同 一 个 面 部 的 不 同 特 征 参 数 进 行 处 理 组 合 。 不 过 ， 科 学 家 仍 然 不 知 道 这 一 切 是 如 何 联 系 起 来 的 。 大 脑 依 旧 是 迷 。 不 过 ， 科 学 家 仍 然 不 知 道 这 一 切 是 如 何 联 系 起 来 的 。 大 脑 依 旧 是 迷 。 我 们 反 观 受 到 神 经 科 学 启 发 的 人 工 神 经 网 络 在 机 器 学 习 中 扮 演 了 重 要 角 色 ， 突 出 的 成 就 难 掩 算 法 时 不 时 犯 一 些 低 级 错 误 的 尴 尬 。 对 抗 样 本 ： A I   刺 客 过 去 几 年 人 工 智 能 学 者 取 得 了 巨 大 的 突 破 ， 深 度 学 习 更 是 让 冷 冰 冰 的 机 器 “ 耳 聪 目 明 ” ， 不 仅 能 够 从 视 频 中 认 出 猫 ， 还 能 识 别 路 上 的 行 人 和 交 通 信 号 灯 。 但 是 就 像 时 间 是 人 类 的 致 命 弱 点 ， “ 对 抗 样 本 对 抗 样 本 ” 对 机 器 学 习 而 言 ， 也 是 刺 客 一 般 的 存 在 。 对 抗 样 本 （ 对 抗 样 本 （ a d v e r s a r i a l   e x a m p l e ） 是 指 通 过 添 加 干 扰 产 生 能 够 导 致 机 器 学 习 模 型 产 生 错 误 判 断 的 样 本 。 ） 是 指 通 过 添 加 干 扰 产 生 能 够 导 致 机 器 学 习 模 型 产 生 错 误 判 断 的 样 本 。 举 个 例 子 ：
原 图 为 大 熊 猫 ， 经 过 处 理 后 的 对 抗 样 本 被 识 别 为 长 臂 猿 。 忽 悠   A I   的 相 似 案 例 专 家 已 经 揭 示 过 很 多 ， 我 们 也 曾 分 享 过 图 像 识 别 系 统 错 识 道 路 指 示 牌 ： 谷 歌 图 像 分 类 器 把 模 型 龟 当 成 来 复 枪 ： 错 把 行 动 的 小 猫 当 成 显 示 器 等 等 。 最 近 研 究 者 构 造 出 连 人 能 骗 过 的 对 抗 样 本 图 像 ： 愚 弄 人 类 恐 怕 只 要 一 瞬 间 。 最 近 研 究 者 构 造 出 连 人 能 骗 过 的 对 抗 样 本 图 像 ： 愚 弄 人 类 恐 怕 只 要 一 瞬 间 。
骗 人 的 算 法 上 图 中 的 是 猫 是 狗 ， 似 乎 很 容 易 判 断 。 那 我 们 提 高 难 度 ： 左 边 是 一 只 猫 的 原 图 ， 右 边 是 经 过 干 扰 （ 很 像 狗 ） 的 图 像 ， 出 自 谷 歌 大 脑   I a n   G o o d f e l l o w   等 人 的 最 新 论 文 《 A d v e r s a r i a l E x a m p l e s   t h a t   F o o l   b o t h   H u m a n   a n d   C o m p u t e r   V i s i o n 》 。 （ 地 址 见 文 章 结 尾 ）
机 器 学 习 模 型 很 容 易 受 到 对 抗 样 本 的 愚 弄 ， 现 在 看 来 ， 连 人 都 会 受 对 抗 样 本 的 影 响 。 机 器 学 习 模 型 很 容 易 受 到 对 抗 样 本 的 愚 弄 ， 现 在 看 来 ， 连 人 都 会 受 对 抗 样 本 的 影 响 。 论 文 中 阐 述 了 其 中 原 理 ： 研 究 者 将 对 抗 性 从 计 算 机 视 觉 现 有 的 模 型 及 参 数 ， 迁 移 到 新 的 模 型 中 ， 对 模 型 进 行 修 改 以 接 近 人 类 视 觉 系 统 原 理 。 下 图 中 的 狗 就 被 用 于 生 成 新 的 图 像 ， 误 导 人 进 行 判 断 。 结 果 发 现 ， 通 过 人 为 迁 移 生 成 的 对 抗 性 图 片 ， 能 够 在 有 限 时 间 内 对 人 类 识 别 产 生 影 响 。 也 就 是 说 ， 这 些 对 抗 性 图 片 不 仅 这 些 对 抗 性 图 片 不 仅 对 能 骗 过 机 器 ， 同 样 也 会 误 导 人 的 判 断 。 对 能 骗 过 机 器 ， 同 样 也 会 误 导 人 的 判 断 。
虽 然 对 抗 样 本 欺 骗 人 类 的 危 害 难 以 估 量 ， 不 过 可 以 肯 定 的 是 ， 机 器 学 习 的 “ 坑 爹 技 能 ” 已 经 上 线 了 。 论 文 地 址       h t t p s : / / a r x i v . o r g / p d f / 1 8 0 2 . 0 8 1 9 5 . p d f 往 期 精 选 G e e k P w n 2 0 1 7   上 海 站     精 彩 回 顾 G e e k P w n 2 0 1 7   硅 谷 站     大 咖 云 集 黑 客   V S   A I   人 工 智 能 安 全 挑 战 赛 G e e k P w n 2 0 1 8   选 手 招 募 现 已 启 动 选 手 招 募 现 已 启 动 长 按 二 维 码 关 注 长 按 二 维 码 关 注 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理