搜索

[4489] 2017-10-31_从AI到智障只有一个像素的距离

文档创建者：s7ckTeam
浏览次数：4
最后更新：2025-01-16
2017-10-31_从AI到智障只有一个像素的距离 从 A I 到 智 障 只 有 一 个 像 素 的 距 离 原 创   E 小 编   E 安 全   2 0 1 7 - 1 0 - 3 1 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 官 网 w w w . e a s y a q . c o m E 安 全 1 0 月 3 1 日 讯   日 本 九 州 大 学 （ J a p a n ' s   K y u s h u   U n i v e r s i t y ） 一 组 研 究 人 员 近 期 发 表 的 研 究 结 果 显 示 ， 修 改 图 片 的 一 个 像 素 就 可 愚 弄 图 像 分 类 器 （ I m a g e   C l a s s i f i e r ） 。 研 究 人 员 根 本 不 需 了 解 深 度 神 经 网 络 研 究 人 员 根 本 不 需 了 解 深 度 神 经 网 络 这 组 研 究 人 员 秉 持 两 大 研 究 目 标 展 开 此 项 研 究 ： 可 预 见 性 地 欺 骗 深 度 神 经 网 络 （ D N N ） ； 尽 可 能 实 现 攻 击 自 动 化 。 换 句 话 讲 ， 研 究 要 如 何 将 “ 汽 车 ” 图 像 错 误 识 别 为 “ 狗 ” ？ 而 对 抗 性 扰 乱 一 个 像 素 便 能 达 到 这 种 目 的 ， 而 这 类 攻 击 肉 眼 察 觉 不 到 。 研 究 人 员 通 过 研 究 提 出 惊 人 的 结 论 ： 一 个 像 素 的 攻 击 在 近 四 分 之 三 的 标 准 训 练 图 像 中 可 行 。 研 究 人 员 根 本 不 需 了 解 深 度 神 经 网 络 ， 只 需   “ 黑 盒 子 ” （ B l a c k   B o x ） 概 率 标 签 输 出 发 挥 作 用 。 此 类 攻 击 基 于 “ 差 分 进 化 ” （ D E ） 技 术 。 扰 乱 的 像 素 越 多 ， 攻 击 愈 有 效 ： 修 改 1 个 像 素 ， 误 导 分 类 的 成 功 率 为 7 3 . 8 % ； 扰 乱 3 个 像 素 ， 成 功 率 为 8 2 % ； 而 修 改 5 个 像 素 可 将 成 功 率 提 升 至 8 7 . 3 % 。 研 究 人 员 只 更 改 一 个 像 素 的 情 况 下 成 功 误 导 了 目 标   D N N 。
括 号 内 的 标 签 为 识 别 类 别 ， 括 号 外 的 标 签 是 原 类 别 目 光 敏 锐 的 人 仔 细 看 这 些 测 试 图 像 就 会 发 现 ， 一 个 像 素 攻 击 只 对 1 0 2 4 像 素 的 图 像 发 起 攻 击 。 但 是 ， 对 于 2 8 0 , 0 0 0 像 素 的 图 像 而 言 ， 只 需 修 改 2 7 3 个 像 数 ， 并 且 人 眼 仍 不 易 察 觉 其 中 的 变 化 。 完 整 的 研 究 报 告 ， 请 长 按 识 别 下 方 二 维 码 获 取 ： 注 ： 本 文 由 E 安 全 编 译 报 道 , 转 载 请 注 明 原 文 地 址 h t t p s : / / w w w . e a s y a q . c o m / n e w s / 1 8 5 4 9 7 9 6 3 2 . s h t m l
推 荐 阅 读 ： 谷 歌 的 新 战 争 : 用 A I 消 灭 安 卓 恶 意 软 件 坏 兔 子 攻 击 ： N S A 网 络 武 器 “ 永 恒 浪 漫 ” 再 被 利 用 预 警 ： 新 型 物 联 网 僵 尸 网 络 “ 风 暴 ” 来 袭 别 以 为 带 着 头 巾 、 墨 镜 就 安 全 了 ？ A I 系 统 能 认 出 乔 装 打 扮 的 你 新 版 O W A S P   T O P   1 0 ： 这 三 类 新 型 安 全 漏 洞 上 榜 A I 助 力 黑 客 ， 下 一 代 防 火 墙 将 力 不 从 心 F B I 启 动 S F S 计 划 ， 培 养 网 络 安 全 专 家 的 新 姿 势 ！ ▼ 点 击 “ 阅 读 原 文 ”   查 看 更 多 精 彩 内 容 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理