搜索

[17547] 2018-05-29_报名INTERFACE#7极棒黑客大赛王琦、清华大学朱军教授：论AI安全攻与防

文档创建者：s7ckTeam
浏览次数：2
最后更新：2025-01-18
2018-05-29_报名INTERFACE#7极棒黑客大赛王琦、清华大学朱军教授：论AI安全攻与防 报 名   |   I N T E R F A C E # 7   极 棒 黑 客 大 赛 王 琦 、 清 华 大 学 朱 军 教 授 ： 论   A I   安 全 攻 与 防 转 自 机 器 之 心   G e e k P w n   2 0 1 8 - 0 5 - 2 9 以   E l o n   M u s k   为 代 表 的 一 批 人 总 是 警 告 人 们 ： 人 工 智 能 会 制 造 人 类 难 以 想 象 的 恶 意 行 为 。 事 实 上 ， 被 人 们 依 赖 的   A I   也 不 那 么 完 美 、 可 靠 ， A I   在 安 全 性 方 面 还 存 在 缺 陷 。 在   I N T E R F A C E   智 能 机 器 系 列 演 讲 智 能 机 器 系 列 演 讲   第 七 期 中 ， G e e k P w n   黑 客 大 赛 创 办 人 、 碁 震 公 司 创 始 人 兼   C E O   王 琦 王 琦 与 清 华 大 学 计 算 机 系 长 聘 副 教 授 朱 军 朱 军 一 起 讨 论   A I   安 全 的 攻 与 防 。 演 讲 主 题 一 ： 人 「 攻 」 智 能 演 讲 主 题 一 ： 人 「 攻 」 智 能   演 讲 摘 要 演 讲 摘 要 ：   A I   应 用 系 统 是 一 个 整 体 ， 任 何 环 节 出 现 漏 洞 ， 都 有 可 能 出 现 安 全 问 题 。 以 极 棒 实 验 室 研 究 的 攻 击 人 脸 识 别 系 统 为 例 ， 使 用 传 统 的 黑 客 攻 击 方 法 ， 如 攻 击 者 通 过 侵 入 并 控 制 该 系 统 管 理 端 ， 利 用 其 操 作 系 统 漏 洞 和 应 用 层 逻 辑 漏 洞 等 ， 最 终 都 可 攻 破 系 统 。 再 看 人 工 智 能 现 成 的 框 架 和 库 ， 例 如   O p e n C V 、 T e n s o r F l o w   等 都 已 经 被 研 究 者 发 现 存 在 漏 洞 。 除 此 之 外 ， 对 于 算 法 本 身 的 攻 击 也 成 为 研 究   A I   安 全 领 域 的 重 要 方 向 。 如 果 说   A I   仅 仅 是 工 具 ， 那 么 被 不 同 的 人 利 用 效 果 也 会 有 所 不 同 。 利 用   A I   模 仿 人 类 声 纹 、 笔 迹 等 等 ， 都 曾 成 功 在 极 棒 比 赛 现 场 复 现 。 当 越 来 越 多 的   A I   被 运 用 于 我 们 的 日 常 生 活 、 工 作 中 ， 关 键 问 题 在 于 它 真 的 值 得 信 赖 吗 ？ 人 工 智 能 在 模 仿 人 类 的 同 时 ， 不 可 避 免 的 和 人 一 样 存 在 缺 陷 。 如 果 我 们 不 能 及 时 发 现 并 消 灭 这 些 缺 陷 ， 这 些 可 以 被 恶 意 利 用 的 显 而 易 见 的 隐 患 将 会 造 成 更 大 的 威 胁 。 G e e k P w n 2 0 1 8   设 立 了   C A A D （ 对 抗 样 本 攻 防 赛 ） 和 「 数 据 追 踪 挑 战 赛 」 ， 关 注   A I   图 像 识 别 领 域 的 安 全 问 题 以 及 把   A I   为 工 具 的 比 赛 项 目 。 这 个 分 享 将 介 绍 「 黑 客 眼 中 的   A I   安 全 」 和   G e e k P w n   黑 客 大 赛 上 对 于   A I   领 域 安 全 的 探 索 。
G e e k P w n （ 极 棒 ） 大 赛 发 起 创 办 人 ， 第 一 个 获 得 世 界 顶 级 黑 客 大 赛 冠 军 的 亚 洲 团 队 碁 震 （ K E E N ） 创 始 人 、 碁 震 公 司   C E O   王 琦 讲 者 简 介 ： 讲 者 简 介 ： 王 琦 ， 江 湖 人 称 「 大 牛 蛙 」 ， G e e k P w n （ 极 棒 ） 大 赛 发 起 创 办 人 ， 第 一 个 获 得 世 界 顶 级 黑 客 大 赛 冠 军 的 亚 洲 团 队 碁 震 （ K E E N ） 创 始 人 、 碁 震 公 司   C E O 。 前 微 软 美 国 总 部 以 外 第 一 个 区 域 性 安 全 响 应 中 心   C h i n a   M S R C   创 始 人 之 一 和 技 术 负 责 人 ， 微 软 亚 太 区 第 一 个 漏 洞 研 究 领 域 专 家 级 研 究 员 。 2 0 1 4   年 获 上 海   I T   青 年 十 大 新 锐 奖 ， 同 年 他 带 领   K E E N   创 办 发 起 全 球 首 个 关 注 智 能 生 活 、 人 工 智 能 安 全 的 黑 客 赛 事 平 台   G e e k P w n ， 充 当 安 全 新 秀 的 推 手 ， 让 更 多 有 技 术 潜 质 的 人 找 到 属 于 自 己 绽 放 光 彩 的 舞 台 。 演 讲 主 题 二 演 讲 主 题 二 :   深 度 学 习 的 对 抗 攻 击 与 防 守 深 度 学 习 的 对 抗 攻 击 与 防 守 演 讲 摘 要 演 讲 摘 要 :   深 度 学 习 模 型 （ 或 一 般 的 机 器 学 习 方 法 ） 通 常 容 易 被 对 抗 噪 声 攻 击 ， 这 给 实 际 应 用 带 来 了 很 多 风 险 。 如 何 有 效 进 行 攻 击 以 及 如 何 进 行 防 守 受 到 了 学 术 界 和 工 业 界 的 广 泛 关 注 。 谷 歌 公 司 在   N I P S   2 0 1 7   会 议 上 举 办 了 一 个 对 抗 攻 击 与 防 守 的 竞 赛 ， 吸 引 了 百 余 支 队 伍 。 在 这 个 报 告 中 ， 将 介 绍 深 度 学 习 对 抗 攻 击 与 防 守 方 面 的 一 些 最 新 进 展 ， 包 括 赢 得   N I P S   竞 赛 的 解 决 方 案 以 及 一 些 近 期 的 工 作 。
讲 者 简 介 ： 讲 者 简 介 ： 朱 军 ， 清 华 大 学 计 算 机 系 长 聘 副 教 授 、 卡 内 基 梅 隆 大 学 兼 职 教 授 。 2 0 0 1   到   2 0 0 9   年 获 清 华 大 学 计 算 机 学 士 和 博 士 学 位 ， 之 后 在 卡 内 基 梅 隆 大 学 做 博 士 后 ， 2 0 1 1   年 回 清 华 任 教 。 主 要 从 事 人 工 智 能 基 础 理 论 、 高 效 算 法 及 相 关 应 用 研 究 ， 在 国 际 重 要 期 刊 与 会 议 发 表 学 术 论 文 百 余 篇 。 担 任 人 工 智 能 顶 级 杂 志   I E E E   T P A M I   和   A I   的 编 委 、 《 自 动 化 学 报 》 编 委 ， 担 任 机 器 学 习 国 际 大 会 I C M L 2 0 1 4   地 区 联 合 主 席 ,   I C M L   ( 2 0 1 4 - 2 0 1 8 ) 、 N I P S   ( 2 0 1 3 ,   2 0 1 5 ,   2 0 1 8 ) 、 U A I   ( 2 0 1 4 - 2 0 1 8 ) 、 I J C A I （ 2 0 1 5 , 2 0 1 7 ） 、 A A A I （ 2 0 1 6 - 2 0 1 8 ） 等 国 际 会 议 的 领 域 主 席 。 获   C C F   自 然 科 学 一 等 奖 、 C C F   青 年 科 学 家 奖 、 国 家 优 秀 青 年 基 金 、 中 创 软 件 人 才 奖 、 北 京 市 优 秀 青 年 人 才 奖 等 ， 入 选 国 家 「 万 人 计 划 」 青 年 拔 尖 人 才 、 M I T   T R 3 5   中 国 区 先 锋 者 、 I E E E   I n t e l l i g e n t   S y s t e m s   杂 志 评 选 的 「 A I ' s   1 0   t o   W a t c h 」 （ 人 工 智 能 青 年 十 杰 ） 、 及 清 华 大 学   2 2 1   基 础 研 究 人 才 计 划 。 时 间 时 间 ： 2 0 1 8   年   6   月   2   日 1 4 : 0 0 - 1 4 : 3 0   签 到
1 4 : 3 0 - 1 5 : 0 0   王 琦 分 享 1 5 : 0 0 - 1 5 : 4 0   朱 军 分 享 1 5 : 4 0 - 1 6 : 0 0   现 场 提 问 、 交 流   地 点 地 点 ： 北 京 市 海 淀 区 中 关 村 鼎 好   a   座 三 楼 太 库 科 技 路 演 厅 报 名 方 式 ： 点 击 「 阅 读 原 文 」 参 与 报 名 ， 附 直 播 地 址 。 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理