搜索

[17565] 2018-08-06_首发CAADVillage十大议题中文版揭晓，这是AI黑客的时代

文档创建者：s7ckTeam
浏览次数：7
最后更新：2025-01-18
2018-08-06_首发CAADVillage十大议题中文版揭晓，这是AI黑客的时代 首 发   |   C A A D   V i l l a g e   十 大 议 题 中 文 版 揭 晓 ， 这 是   A I   黑 客 的 时 代 原 创   胖 君   G e e k P w n   2 0 1 8 - 0 8 - 0 6 胖 君 曾 经 介 绍 过 十 个 想 去 的   D E F C O N   V i l l a g e ， 其 中 就 有   G e e k P w n   主 办 的 、 关 注 对 抗 样 本 攻 防 的   C A A D   V i l l a g e 。 C A A D （ C o m p e t i t i o n   o n   A d v e r s a r i a l   A t t a c k s   a n d   D e f e n s e s ） 是 极 棒 今 年 推 出 的 全 新 比 赛 ， 聚 焦   A I   对 抗 样 本 在 机 器 视 觉 领 域 的 安 全 攻 击 与 防 御 。 C A A D   C T F   于 于   8   月 月   1 0   日 日   1 0 : 0 0   起 在 凯 撒 皇 宫 酒 店 起 在 凯 撒 皇 宫 酒 店   D E F C O N   比 赛 区 域 举 行 。 比 赛 区 域 举 行 。 想 要 了 解 更 多 选 手 信 息 ， 可 以 通 过 传 送 门 前 往 → 六 支 黑 客 战 队 相 约 赌 城 ， C A A D   C T F   用 “ 爱 ” 攻 防 C A A D   V i l l a g e   会 在 会 在   8   月 月   1 0   -   1 1   日 期 间 于 日 期 间 于   F l a m i n g o   酒 店 酒 店   L a k e   M e a d   举 行 ， 现 场 不 仅 有 举 行 ， 现 场 不 仅 有   1 0   个 精 彩 纷 呈 的 议 题 ： 个 精 彩 纷 呈 的 议 题 ：
还 有 极 棒 精 美 周 边 纪 念 品 零 距 离 售 卖 ！
真 的 不 是 “ 王 婆 卖 瓜 ， 自 卖 自 夸 ” 。 经 过 严 格 选 拔 ， 在   C A A D   V i l l a g e   上 的 议 题 你 通 常 只 能 在 国 际 专 业 学 术 会 议 上 遇 到 。 演 讲 嘉 宾 不 是 来 自 腾 讯 、 微 软 、 谷 歌 、 京 东 等 科 技 巨 头 的 ， 就 是 毕 业 或 就 读 于 清 华 、 康 奈 尔 、 耶 鲁 、 加 州 大 学 伯 克 利 分 校 等 知 名 高 等 学 府 。 在 这 十 个 精 华 议 题 中 ， 有 利 用 对 抗 样 本 、 G A N （ 生 成 式 对 抗 网 络 ） 在 图 像 、 音 频 、 自 动 驾 驶 等 实 际 场 景 的 攻 击 与 防 御 应 用 ， 也 有 利 用 传 统 硬 件 木 马 针 对 神 经 网 络 进 行 攻 击 。 嘉 宾 们 或 从 一 个 侧 面 切 入 ， 最 后 发 散 出 一 整 片 宇 宙 ； 或 按 部 就 班 ， 循 序 渐 进 地 向 你 讲 述   A I   对 抗 背 后 的 秘 密 。 A I   的 双 刃 剑 属 性 ， 在 这 里 体 现 得 淋 漓 尽 致 。 现 在 ， 我 们 快 来 了 解 一 下 这 些 丰 富 的 议 题 吧 ！
1 、 针 对 神 经 网 络 的 硬 件 木 马 攻 击 、 针 对 神 经 网 络 的 硬 件 木 马 攻 击 嘉 宾 将 首 先 介 绍 边 缘 对 抗 机 器 学 习 的 前 景 ， 从 硬 件 或 物 理 层 面 ， 就 针 对 神 经 网 络 的 新 式 攻 击 同 各 位 进 行 探 讨 。 然 后 陈 述 向 神 经 网 络 上 植 入 后 门 的 方 法 和 此 前 的 不 同 ， 因 为 它 既 不 改 变 神 经 网 络 的 重 量 也 不 改 变 其 输 入 量 ， 但 是 它 会 改 变 网 络 在 神 经 网 络 生 产 过 程 中 所 执 行 的 参 数 操 作 功 能 ， 从 而 植 入 一 个 后 门 。 分 享 者   J o s e p h   C l e m e n t s   在 克 莱 姆 森 大 学 霍 尔 科 姆 电 气 与 计 算 机 工 程 系 攻 读 博 士 学 位 ， 属 于   Y i n g j i e   L a o   博 士 的 安 全 与 创 新 计 算 研 究 小 组 ， 从 事 对 抗 性 人 工 智 能 及 所 用 技 术 为 基 于 边 缘 的 深 度 学 习 研 究 。 他 的 主 要 兴 趣 包 括 机 器 学 习 和 人 工 智 能 、 安 全 性 与   V L S I   设 计 。 2 、 如 何 运 用 开 源 信 息 实 现 对 深 度 学 习 模 型 的 有 效 对 抗 攻 击 和 防 御 、 如 何 运 用 开 源 信 息 实 现 对 深 度 学 习 模 型 的 有 效 对 抗 攻 击 和 防 御 这 是 针 对 数 字 世 界 机 器 学 习 模 型 的 对 抗 攻 击 和 防 御 。 分 享 者 来 自   N o r t h W e s t   S e c u r i t y   团 队 ， 这 是 由 一 群 独 立 安 全 研 究 员 组 成 的 团 队 ， 致 力 于 人 工 智 能 和 安 全 主 题 的 研 究 。 李 李 伟 伟 是 一 名 数 据 科 学 家 ， 任 职 于 世 界   5 0 0   强 公 司 ， 他 主 要 研 究 方 向 为 安 全 性 和 人 工 智 能 、 威 胁 检 测 、 加 密 机 器 学 习 。 焦 晓 焦 晓 瑾 瑾 是 工 程 博 士 ， 目 前 在 世 界   5 0 0   强 公 司 担 任 高 级 工 程 师 。 值 得 一 提 的 是 ， 他 们 去 年 在 极 棒 硅 谷 站 现 场 成 功 攻 破 了 值 得 一 提 的 是 ， 他 们 去 年 在 极 棒 硅 谷 站 现 场 成 功 攻 破 了 r e C H A P C H A   验 证 码 ， 今 年 同 样 参 加 了 极 棒 美 国 站 验 证 码 ， 今 年 同 样 参 加 了 极 棒 美 国 站   C A A D   C T F   六 强 角 逐 。 六 强 角 逐 。  
3 、 狗 斗 的 利 器 、 狗 斗 的 利 器   G A N ： 病 毒 对 抗 杀 软 的 免 杀 大 法 ： 病 毒 对 抗 杀 软 的 免 杀 大 法 一 旦 出 现 恶 意 软 件 ， 恶 意 软 件 和   A V   之 间 则 发 生 一 次 战 斗 。 因 此 ， 越 来 越 多 基 于 机 器 学 习 的 方 法 都 适 用 于 恶 意 软 件 检 测 。 来 自 腾 讯 安 全 云 鼎 实 验 室 的 安 全 研 究 员 们 将 与 大 家 分 享 如 何 检 测 基 于   C N N   的 多 形 态 恶 意 软 件 ， 进 而 介 绍 如 何 使 用 生 成 式 对 抗 网 络 来 生 成 对 抗 性 恶 意 软 件 案 例 ， 继 而 绕 过 基 于 机 器 学 习 的 检 测 模 型 。 分 享 者 张 壮 张 壮 是 腾 讯 云 鼎 实 验 室 高 级 研 究 员 ， 史 博 史 博 是 腾 讯 云 鼎 实 验 室 生 态 系 统 总 监 ， 董 航 峰 是 董 航 峰 是 腾 讯 云 鼎 实 验 室 研 究 员 。
4 、 对 抗 性 深 度 学 习 攻 击 与 防 御 方 面 的 最 新 进 展 、 对 抗 性 深 度 学 习 攻 击 与 防 御 方 面 的 最 新 进 展 演 讲 者 就 攻 击 与 防 御 所 用 的 现 有 技 术 进 行 介 绍 。 确 切 而 言 ， 他 将 对 最 有 效 的 攻 击 方 式 和 防 御 机 制 进 行 总 结 。 同 时 ， 他 还 将 与 我 们 分 享 本 次   C A A D   C T F   比 赛 中 其 团 队 会 用 到 哪 些 方 法 。 分 享 者 来 自   J D - O m e g a ， 这 是 一 支 由 京 东 安 全 研 究 人 员 组 成 的 人 工 智 能 安 全 团 队 。 郭 文 博 郭 文 博 是 宾 夕 法 尼 亚 州 立 大 学 信 息 科 学 与 技 术 学 院 的 一 名 博 士 生 。 现 在 ， 他 在 硅 谷 的 京 东 安 全 研 究 中 心 担 任 研 究 实 习 生 。 就 读 宾 夕 法 尼 亚 周 立 大 学 之 前 ， 他 在   2 0 1 7 年 获 得 上 海 交 通 大 学 硕 士 学 位 ， 主 要 研 究 深 度 学 习 及 其 在 程 序 分 析 与 安 全 方 面 的 应 用 。 他 在 多 家 高 质 量 刊 物 和 会 议 上 发 表 过 若 干 研 究 论 文 ， 如   K D D 。 A l e j a n d r o   C u e v a s   来 自 巴 拉 圭 ,   2 0 1 8   年   5   月 毕 业 于 宾 夕 法 尼 亚 州 立 大 学 ， 获 安 全 与 风 险 分 析 理 学 学 士 学 位 。 A l e j a n d r o   在 读 期 间 ,   在 计 算 机 安 全 领 域 与 他 人 联 合 发 表 过   2   篇 不 同 方 向 的 论 文 。 A l e j a n d r o   在 宾 夕 法 尼 亚 州 立 大 学 的 研 究 主 要 包 括 分 析 集 群 报 告 式 漏 洞 的 繁 殖 ， 解 决 相 关 难 点 。 5 、 通 过 动 量 提 升 对 抗 性 攻 击 力 、 通 过 动 量 提 升 对 抗 性 攻 击 力 深 层 神 经 网 络 在 对 抗 样 本 面 前 十 分 脆 弱 ， 因 此 有 可 能 造 成 严 重 后 果 ， 带 来 算 法 安 全 问 题 。 部 署 深 度 学 习 模 型 之 前 ， 对 抗 性 攻 击 是 评 估 其 稳 健 性 的 重 要 替 代 物 之 一 。 然 而 ， 大 多 数 现 有 的 对 抗 性 攻 击 能 够 成 功 迷 惑 黑 匣 子 模 型 的 概 率 很 低 。 为 了 解 决 这 一 问 题 ， 他 们 提 出 了 一 种 以 动 量 为 基 础 的 具 有 广 泛 级 别 的 迭 代 算 法 增 强 对 抗 攻 击 能 力 。 通 过 将 动 量 项 集 成 到 攻 击 迭 代 过 程 ， 方 法 可 以 稳 定 更 新 方 向 ， 避 免 在 迭 代 过 程 中 出 现 劣 质 的 局 部 最 大 值 以 及 因 此 产 生 更 多 的 可 转 移 对 抗 样 本 。 为 进 一 步 提 高 黑 匣 子 攻 击 的 成 功 率 ， 他 们 将 动 量 迭 代 算 法 应 用 到 一 个 模 型 集 合 中 ， 从 而 表 明 这 种 受 训 模 型 即 便 有 很 强 的 防 御 能 力 ， 在 他 们 的 黑 盒 攻 击 面 前 仍 然 束 手 无 助 。 最 后 希 望 这 些 方 法 能 成 为 评 估 诸 多 深 度 模 型 及 防 御 方 法 稳 健 性 的 基 准 。 分 享 者 庞 天 宇 庞 天 宇 是 清 华 大 学 计 算 机 科 学 与 技 术 系   T S A I L   G r o u p   的 博 士 生 （ 第 一 年 ） ， 受 朱 军 教 授 的 指 导 。 其 研 究 兴 趣 包 括 机 器 学 习 、 深 度 学 习 及 其 计 算 机 视 觉 应 用 ， 尤 其 对 深 度 学 习 的 可 解 释 性 和 稳 健 性 的 研 究 特 别 感 兴 趣 。
6 、 可 迁 移 的 对 抗 性 扰 动 、 可 迁 移 的 对 抗 性 扰 动 其 研 究 兴 趣 包 括 机 器 学 习 、 深 度 学 习 及 其 计 算 机 视 觉 应 用 ， 尤 其 对 深 度 学 习 的 可 解 释 性 和 稳 健 性 的 研 究 特 别 感 兴 趣 。 顶 尖 的 深 层 神 经 网 络 分 类 器 在 对 抗 样 本 面 前 是 十 分 脆 弱 的 ， 这 些 对 抗 样 本 通 过 一 个 非 常 细 微 的 扰 动 就 可 以 对 分 类 器 进 行 误 导 。 然 而 ， 在 所 部 署 的 模 型 面 前 ， 黑 匣 子 攻 击 （ 不 具 有 模 型 参 数 知 识 ） 的 表 现 总 是 严 重 下 降 。 在 本 论 文 中 ， 我 们 提 出 了 一 种 新 的 能 够 实 现 黑 匣 子 转 移 的 对 抗 样 本 扰 动 方 式 。 我 们 首 先 演 示 的 是 ， 在 中 间 特 征 图 上 ， 自 然 图 像 与 图 像 对 抗 样 本 之 间 的 最 大 距 离 可 以 提 供 白 盒 攻 击 （ 有 模 型 参 数 知 识 ） 和 黑 匣 子 攻 击 能 力 。 我 们 还 演 示 了 通 过 对 抗 性 扰 动 的 平 滑 调 整 能 够 实 现 各 模 型 之 间 的 转 移 。 大 量 实 验 性 结 果 表 明 ， 在 白 盒 攻 击 和 黑 盒 攻 击 方 面 ， 我 们 的 方 法 比 那 些 顶 尖 的 方 法 做 得 都 要 好 。 分 享 者 来 自   T e n c e n t   B l a d e   T e a m ， 由 腾 讯 安 全 平 台 部 门 成 立 ， 致 力 于 人 工 智 能 、 移 动 互 联 网 、 I o T   物 联 网 、 无 线 设 备 及 其 他 尖 端 技 术 领 域 的 安 全 研 究 。 迄 今 为 止 ， T e n c e n t   B l a d e   T e a m   已 经 为 多 家 国 际 制 造 商 报 告 了 许 多 安 全 漏 洞 ， 包 括 谷 歌 公 司 和 苹 果 公 司 。 他 们 今 年 在 欧 洲 计 算 机 视 觉 会 议 上 发 表 了 专 业 学 术 议 题 。 唐 梦 云 是 唐 梦 云 是 腾 讯 安 全 平 台 部 门 安 全 研 究 员 ， 主 要 致 力 于 图 像 处 理 和 网 络 安 全 研 究 。
7 、 针 对 音 频 系 统 的 定 向 黑 盒 对 抗 攻 击 解 析 、 针 对 音 频 系 统 的 定 向 黑 盒 对 抗 攻 击 解 析 深 度 循 环 神 经 网 络 （ D R N N ） 在 音 频 转 录 领 域 的 应 用 为 自 动 语 音 识 别 （ A S R ） 系 统 带 来 了 显 著 性 进 展 。 许 多 案 例 已 经 表 明 ， 微 小 的 对 抗 性 扰 动 可 以 迷 惑 深 度 神 经 网 络 ， 通 过 高 可 信 度 让 它 无 法 实 现 对 特 定 目 标 的 正 确 预 测 。 现 在 的   A S R   系 统 干 扰 研 究 主 要 是 在 白 盒 方 面 ， 而 且 是 已 知 的 模 型 架 构 和 模 型 参 数 。 本 议 题 围 绕 对 抗 性 生 成 网 络 ， 演 讲 者 采 用 了 一 种 黑 盒 方 法 ， 引 入 了 遗 传 算 法 和 梯 度 评 估 。 经 过   3 0 0 0   次 生 成 后 ， 成 功 实 现 了   8 9 . 2 5 %   的 目 标 式 攻 击 相 似 率 ， 同 时 将 音 频 文 件 相 似 率 维 持 在 了 9 4 . 6 % 。 分 享 者 分 享 者 是 年 仅   2 0   的 加 州 大 学 伯 克 利 分 校 在 读 研 究 生   R o h a n       T a o r i     和     A m o g       K a m s e t t y ， 他 们 主 要 的 研 究 领 域 包 括 人 工 智 能 和 机 器 学 习 。        
8 、 给 自 动 驾 驶 车 变 、 给 自 动 驾 驶 车 变 “ 障 眼 法 障 眼 法 ” 魔 术 魔 术   演 讲 者 将 通 过 一 个 “ 魔 术 ” ， 让 自 动 驾 驶 汽 车 在 对 抗 式 机 器 学 习 的 技 术 下 ， “ 看 不 见 ” 物 理 存 在 的 东 西 。 分 享 者 分 享 者   W e i l i n   X u   目 前 在 百 度   X   实 验 室 实 习 ， 是 弗 吉 尼 亚 大 学 博 士 研 究 生 。 Y u n h a n   J i a   是 百 度   X   实 验 室 高 级 安 全 科 学 家 。 Z h e n y u   Z h o n g   是 百 度   X   实 验 室 员 工 安 全 科 学 家 ，
9 、 挑 战 模 型 环 境 的 实 用 对 抗 性 攻 击 、 挑 战 模 型 环 境 的 实 用 对 抗 性 攻 击 这 是 来 自   U C N E S L   团 队 的 分 享 ， 成 员 来 自 各 个 不 同 专 业 领 域 ， 曾 在 对 抗 机 器 学 习 领 域 发 表 过 若 干 论 文 ， 曾 在   N I P S 2 0 1 7 ： 定 向 对 抗 攻 击 比 赛 中 获 得 了 第 六 名 。 分 享 者   M o u s t a f a   A l z a n t o t   是 加 利 福 尼 亚 大 学 洛 杉 矶 分 校 计 算 机 科 学 专 业 的 一 名 博 士 研 究 生 。 其 研 究 兴 趣 包 括 机 器 学 习 ， 隐 私 ， 及 移 动 计 算 。 他 拥 有 两 项 美 国 专 利 ， 曾 获 若 干 奖 项 ， 包 括   C O M E S A   2 0 1 4   创 新 奖 。 他 曾 在 谷 歌 ， F a c e b o o k   和   Q u a l c o m 进 行 过 实 习 。 Y a s h   S h a r m a   是 康 奈 尔 大 学 的 一 名 访 问 科 学 家 ， 他 刚 刚 毕 业 并 获 得 电 气 工 程 学 士 与 硕 士 学 位 。 他 曾 致 力 于 对 抗 样 本 方 面 的 研 究 ， 即 对 限 制 访 问 设 置 和 挑 战 域 发 动 顶 尖 的 攻 击 。 现 在 他 感 兴 趣 的 是 寻 找 更 多 解 决 鲁 棒 性 问 题 的 方 案 ， 以 及 研 究 其 他 妨 碍 我 们 实 现 强 人 工 智 能 的 现 实 问 题 。
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理