搜索

[694] 2019-10-17_神经网络上的木马攻击

文档创建者：s7ckTeam
浏览次数：4
最后更新：2025-01-16
2019-10-17_神经网络上的木马攻击 神 经 网 络 上 的 木 马 攻 击 A r k T e a m   2 0 1 9 - 1 0 - 1 7 作 者 ： { P e r s i s t } @ A r k T e a m 原 文 作 者 ：   Y i n g q i   L i u ,   S h i q i n g   M a ,   Y o u s r a   A a f e r ,   W e n - C h u a n   L e e ,   J u a n   Z h a i ,   W e i h a n g   W a n g ,   a n d   X i a n g y u   Z h a n g 原 文 题 目 ： T r o j a n i n g   A t t a c k   o n   N e u r a l   N e t w o r k s 原 文 来 源 ： 2 0 1 8   N D S S 随 着 机 器 学 习 技 术 的 迅 速 普 及 ， 共 享 和 采 用 公 共 机 器 学 习 模 型 变 得 非 常 流 行 ， 随 之 产 生 了 很 多 严 重 的 安 全 问 题 。 本 文 提 出 了 一 种 针 对 深 度 神 经 网 络 的 木 马 攻 击 ， 攻 击 一 共 分 为 三 步 ： 首 先 使 神 经 元 网 络 逆 向 生 成 一 般 的 特 洛 伊 木 马 触 发 器 ， 然 后 使 用 外 部 数 据 集 重 新 训 练 模 型 以 向 模 型 注 入 恶 意 行 为 ， 最 后 通 过 带 有 木 马 触 发 器 标 记 的 输 入 来 激 活 恶 意 行 为 。 最 终 的 效 果 如 图 1 所 示 ： 图 1   攻 击 示 例 带 有 木 马 触 发 器 标 记 的 图 片 被 错 误 分 类 到 指 定 的 类 别 当 中 ， 随 着 人 脸 识 别 、 声 音 识 别 以 及 自 动 驾 驶 汽 车 、 机 器 人 等 机 器 学 习 应 用 的 普 及 ， 这 种 木 马 具 有 严 重 危 害 。 该 攻 击 前 提 假 设 是 攻 击 者 可 以 对 目 标 神 经 网 络 完 全 访 问 ， 但 是 攻 击 者 无 法 访 问 原 有 的 训 练 和 测 试 数 据 。 攻 击 步 骤 如 下 图 所 示 ： 1 、 生 成 木 马 触 发 器 。 2 、 生 成 训 练 数 据 。 3 、 重 新 训 练 整 个 模 型 。
图 2   攻 击 过 程 （ 1 ） 木 马 触 发 器 生 成 ： 木 马 触 发 器 的 作 用 就 是 使 神 经 网 络 错 误 分 类 的 特 殊 输 入 ， 首 先 要 选 择 一 组 神 经 元 和 神 经 元 的 目 标 值 （ 神 经 元 要 选 择 权 重 大 的 ） ， 通 过 不 断 修 改 输 入 ， 使 得 神 经 元 在 最 终 的 输 出 值 和 目 标 值 之 间 损 失 低 于 阈 值 。 算 法 如 下 所 示 ： （ 2 ） 训 练 数 据 生 成 ： 训 练 数 据 的 逆 向 生 成 和 触 发 器 的 生 成 很 像 ， 首 先 选 择 一 组 和 标 签 类 似 图 片 ， 通 过 不 断 修 改 原 始 图 片 使 得 ， 该 图 片 最 终 被 分 类 到 该 标 签 ， 为 每 一 个 标 签 生 成 这 么 一 组 训 练 数 据 ， 这 就 使 得 用 这 些 数 据 重 新 训 练 的 模 型 的 参 数 不 会 发 生 很 大 改 变 ， 也 就 是 说 正 常 的 输 入 还 是 会 分 类 到 正 确 的 标 签 ， 不 影 响 原 先 模 型 对 正 常 数 据 的 分 类 正 确 率 。 算 法 如 下 所 示 ：
（ 3 ） 重 新 训 练 模 型 ： 重 新 训 练 采 用 增 量 训 练 的 方 式 ， 利 用 带 有 触 发 器 的 输 入 和 新 标 签 和 第 二 阶 段 生 成 的 训 练 数 据 重 新 训 练 模 型 ， 得 到 最 终 模 型 就 被 注 入 的 木 马 ， 当 遇 到 带 有 触 发 器 的 输 入 时 就 会 被 分 类 到 指 定 标 签 。 可 能 的 防 御 措 施 ： 可 能 的 防 御 措 施 ： 检 查 错 误 预 测 结 果 的 分 布 。 代 码 代 码 G i t h u b 链 接 ： 链 接 ： h t t p s : / / g i t h u b . c o m / P u r d u e P A M L / T r o j a n N N 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理