搜索

[11294] 2017-04-30_在图片中加入噪点就能骗过Google最顶尖的图像识别AI

文档创建者：s7ckTeam
浏览次数：4
最后更新：2025-01-18
2017-04-30_在图片中加入噪点就能骗过Google最顶尖的图像识别AI 在 图 片 中 加 入 噪 点 就 能 骗 过 G o o g l e 最 顶 尖 的 图 像 识 别 A I A l p h a _ h 4 c k   F r e e B u f   2 0 1 7 - 0 4 - 3 0 近 期 ， 一 群 来 自 华 盛 顿 大 学 网 络 安 全 实 验 室 （ 近 期 ， 一 群 来 自 华 盛 顿 大 学 网 络 安 全 实 验 室 （ N S L ） 的 计 算 机 专 家 发 现 ， 恶 意 攻 击 者 可 以 欺 骗 ） 的 计 算 机 专 家 发 现 ， 恶 意 攻 击 者 可 以 欺 骗 G o o g l e 的 的 C l o u d V i s i o n   A P I ， ， 这 将 导 致 这 将 导 致 A P I 对 用 户 提 交 的 图 片 进 行 错 误 地 分 类 。 对 用 户 提 交 的 图 片 进 行 错 误 地 分 类 。 近 些 年 来 ， 基 于 A I 的 图 片 分 类 系 统 变 得 越 来 越 热 门 了 ， 而 这 项 研 究 针 对 的 就 是 这 种 图 片 分 类 系 统 。 现 在 ， 很 多 在 线 服 务 都 会 采 用 这 种 系 统 来 捕 捉 或 屏 蔽 某 些 特 殊 类 型 的 图 片 ， 例 如 那 些 具 有 暴 力 性 质 或 色 情 性 质 的 图 片 ， 而 基 于 A I 的 图 片 分 类 系 统 可 以 阻 止 用 户 提 交 并 发 布 违 禁 图 片 。 虽 然 这 种 分 类 系 统 使 用 了 高 度 复 杂 的 机 器 学 习 算 法 ， 但 是 研 究 人 员 表 示 ， 他 们 发 现 了 一 种 非 常 简 单 的 方 法 来 欺 骗 G o o g l e 的 C l o u d V i s i o n 服 务 。 G o o g l e 的 的 C l o u d   V i s i o n   A P I 存 在 漏 洞 存 在 漏 洞 他 们 所 设 计 出 的 攻 击 技 术 其 实 非 常 简 单 ， 只 需 要 在 一 张 图 片 中 添 加 少 量 噪 点 即 可 成 功 欺 骗 G o o g l e 的 C l o u d   V i s i o n   A P I 。 其 中 的 噪 点 等 级 可 以 在 1 0 % 到 3 0 % 范 围 内 浮 动 ， 同 时 也 可 以 保 证 图 片 的 清 晰 度 ， 而 且 这 足 以 欺 骗 G o o g l e 的 图 片 分 类 A I 了 。
向 图 片 中 添 加 噪 点 其 实 也 非 常 的 简 单 ， 整 个 过 程 并 不 需 要 多 么 高 端 的 技 术 ， 一 切 只 需 要 一 个 图 片 编 辑 软 件 即 可 实 现 。 研 究 人 员 认 为 ， 网 络 犯 罪 分 子 可 以 利 用 这 种 技 术 来 传 播 暴 力 图 片 、 色 情 图 片 或 恐 怖 主 义 宣 传 图 片 。 除 此 之 外 ， G o o g l e 自 己 的 图 片 搜 索 系 统 也 使 用 了 这 个 A P I ， 这 也 就 意 味 着 ， 当 用 户 使 用 G o o g l e 进 行 图 片 搜 索 时 ， 很 可 能 会 搜 索 到 意 料 之 外 的 图 片 。 解 决 这 个 问 题 的 方 法 很 简 单 解 决 这 个 问 题 的 方 法 很 简 单 研 究 人 员 表 示 ， 修 复 这 个 问 题 其 实 跟 攻 击 过 程 一 样 的 简 单 ， 所 以 G o o g l e 的 工 程 师 们 完 全 没 必 要 紧 张 。 为 了 防 止 这 种 攻 击 ， G o o g l e 只 需 要 在 运 行 其 图 片 分 类 算 法 之 前 ， 对 图 片 中 的 噪 点 进 行 过 滤 就 可 以 了 。 研 究 人 员 通 过 测 试 发 现 ， 在 噪 点 过 滤 器 的 帮 助 下 ， G o o g l e 的 C l o u d   V i s i o n   A P I 完 全 可 以 对 图 片 进 行 适 当 的 分 类 。
后 话 后 话 研 究 人 员 已 经 将 这 种 攻 击 的 完 整 技 术 细 节 在 其 发 表 的 论 文 中 进 行 了 描 述 ， 感 兴 趣 的 用 户 可 以 阅 读 这 篇 论 文 < 点 击 文 末 的 阅 读 原 文 查 看 > 。 已 经 值 得 注 意 的 是 ， 这 群 研 究 人 员 在 此 之 前 也 使 用 过 类 似 的 方 法 来 欺 骗 G o o g l e 的 C l o u d   V i d e o   I n t e l l i g e n c e   A P I 。 注 ： 他 们 在 一 个 视 频 中 每 两 秒 就 插 入 一 张 相 同 的 图 片 ， 最 后 G o o g l e 的 视 频 分 类 A I 会 根 据 这 张 不 断 重 复 出 现 的 图 片 来 对 视 频 进 行 分 类 ， 而 分 类 的 依 据 并 不 是 视 频 本 身 的 内 容 。 *   参 考 来 源 ： b l e e p i n g c o m p u t e r ，   F B 小 编 A l p h a _ h 4 c k 编 译 ， 转 载 请 注 明 来 自 F r e e B u f . C O M 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理