搜索

[17355] 2016-10-09_幸好还有这些人，替你操心人工智能的安全

文档创建者：s7ckTeam
浏览次数：2
最后更新：2025-01-18
2016-10-09_幸好还有这些人，替你操心人工智能的安全 幸 好 还 有 这 些 人 ， 替 你 操 心 人 工 智 能 的 安 全 原 创   极 棒   G e e k P w n   2 0 1 6 - 1 0 - 0 9 G e e k P w n 选 手 报 名 通 道 关 闭 倒 计 时 选 手 报 名 通 道 关 闭 倒 计 时 1 天 天 距 离 距 离 G e e k P w n 嘉 年 华 嘉 年 华 1 0 2 4 开 幕 还 有 开 幕 还 有 1 5 天 ！ 天 ！ “ 阿 喀 琉 斯 之 踵 ” 比 喻 这 样 一 个 道 理 ： 即 使 是 再 强 大 的 英 雄 ， 他 也 有 致 命 的 死 穴 或 软 肋 即 使 是 再 强 大 的 英 雄 ， 他 也 有 致 命 的 死 穴 或 软 肋 。 现 在 ， G e e k P w n 要 带 大 家 一 起 探 索 机 器 学 习 的 “ 阿 琉 克 斯 之 踵 ” 。 荷 马 史 诗 中 有 个 英 雄 ， 名 叫 阿 喀 琉 斯 阿 喀 琉 斯 。   阿 喀 琉 斯 是 凡 人 珀 琉 斯 和 女 神 忒 提 斯 的 儿 子 ， 半 人 半 神 的 他 年 轻 、 英 俊 、 勇 敢 、 威 猛 ， 力 大 无 穷 ， 所 向 无 敌 … … 传 说 中 ， 海 洋 女 神 忒 提 斯 为 了 让 儿 子 练 就 “ 金 钟 罩 铁 布 衫 ” ， 在 他 刚 出 生 时 就 将 其 倒 提 着 浸 进 冥 河 ， 使 其 能 刀 枪 不 入 。 但 遗 憾 的 是 ， 阿 喀 琉 斯 被 母 亲 捏 住 的 脚 后 跟 却 不 慎 露 在 水 外 ， 所 以 脚 踵 成 了 他 全 身 留 下 了 惟 一 一 处 “ 死 穴 ” 。 长 大 后 ， “ 娘 ” 赋 神 力 的 阿 喀 琉 斯 作 战 英 勇 ， 最 后 却 被 帕 里 斯 一 箭 射 在 脚 后 跟 而 身 亡 。
不 要 太 依 赖 不 要 太 依 赖 深 度 学 习 ， 不 安 全 深 度 学 习 ， 不 安 全 大 家 有 没 有 思 考 过 这 样 一 个 问 题 ： 为 什 么 人 工 智 能 在 出 现 的 6 0 年 后 异 军 突 起 ？ 人 工 智 能 在 经 历 了 两 次 起 伏 之 后 ， 终 于 凭 借 在 “ 神 经 网 络 ” 研 究 领 域 的 突 破 迎 来 了 又 一 春 。 研 究 者 通 过 生 物 神 经 网 络 的 一 种 非 常 简 化 的 模 型 — — 人 工 神 经 网 络 （ A N N ） ， 产 生 了 一 些 和 生 物 神 经 网 络 类 似 的 现 象 。 而 深 度 学 习 重 新 挖 掘 了 神 经 网 络 的 潜 力 ， 将 采 用 深 度 模 型 进 行 学 习 。
“ 人 工 神 经 网 络 ” 目 前 承 担 的 重 要 作 用 是 进 行 分 类 。 例 如 进 行 垃 圾 邮 件 的 识 别 ， 对 病 患 测 验 结 果 进 行 诊 断 ， 对 照 片 进 行 识 别 等 等 。 就 拿 A l p h a G o 来 说 ， 它 所 做 的 就 是 用 自 己 的 方 法 归 纳 ， 总 结 围 棋 的 “ 规 律 ” 。 作 为 机 器 学 习 领 域 备 受 关 注 的 年 轻 学 者 之 一 ， 就 职 于 作 为 机 器 学 习 领 域 备 受 关 注 的 年 轻 学 者 之 一 ， 就 职 于 O p e n A I 的 的 I a n   G o o d f e l l o w 和 在 和 在 “ 谷 歌 大 脑 谷 歌 大 脑 ” 工 作 的 工 作 的 A l e x e y K u r a k i n 发 现 发 现 了 一 种 可 以 了 一 种 可 以 欺 骗 深 度 学 习 系 统 的 例 子 ， 他 们 称 之 为 欺 骗 深 度 学 习 系 统 的 例 子 ， 他 们 称 之 为 “ 对 抗 对 抗 ” 。 。 他 们 发 现 具 有 “ 对 抗 性 ” 的 图 像 可 以 轻 易 骗 过 机 器 视 觉 的 法 眼 。 而 这 些 “ 对 抗 ” 的 例 子 很 容 易 因 为 被 用 来 攻 击 人 工 智 能 而 引 发 安 全 问 题 。 传 说 中 的 传 说 中 的 “ 阿 琉 克 斯 之 踵 阿 琉 克 斯 之 踵 ” 会 降 临 在 人 工 智 能 这 一 领 域 吗 ？ 会 降 临 在 人 工 智 能 这 一 领 域 吗 ？ 1 0 月 月 2 4 日 ， 日 ， G e e k P w n 硅 谷 站 （ 当 地 时 间 硅 谷 站 （ 当 地 时 间 1 0 月 月 2 3 日 ） 即 将 揭 晓 ！ 日 ） 即 将 揭 晓 ！ 【 【 G e e k P w n 硅 谷 站 报 名 链 接 ， 见 原 文 】 硅 谷 站 报 名 链 接 ， 见 原 文 】 安 全 或 成 智 能 手 表 的 拦 路 虎 ？ 安 全 或 成 智 能 手 表 的 拦 路 虎 ？
智 能 手 机 可 能 已 经 成 为 我 们 日 常 生 活 、 工 作 不 可 或 缺 的 利 器 。 然 而 可 移 动 穿 戴 设 备 的 发 展 似 乎 有 些 许 迟 钝 。   2 0 1 4 年 ， 据 保 守 估 计 全 球 售 出 了 2 1 0 0 万 个 可 穿 戴 设 备 。 此 外 ， 研 究 人 员 预 计 到 2 0 1 9 年 ， 全 球 可 穿 戴 设 备 总 销 量 将 上 升 至 1 . 5 亿 个 。 然 而 ， 智 能 手 机 仅 在 2 0 1 6 年 预 计 销 量 就 达 到 1 5 亿 部 。   抛 开 价 格 、 续 航 或 是 功 能 的 影 响 ， 已 经 有 越 来 越 多 的 人 开 始 担 心 使 用 这 些 设 备 会 泄 露 他 们 的 个 人 信 息 ， 当 然 这 样 的 担 心 并 不 多 余 。 数 据 安 全 、 设 备 安 全 、 软 件 安 全 已 经 是 智 能 穿 戴 设 备 面 临 的 主 要 安 全 问 题 。
这 些 陪 伴 你 工 作 生 活 的 高 科 技 产 品 跟 你 的 安 全 、 隐 私 息 息 相 关 。 虽 然 已 经 有 一 些 研 究 者 针 对 某 品 牌 智 能 手 表 给 出 安 全 分 析 ， 但 目 前 还 没 有 人 成 功 地 拿 到 最 高 权 限 完 全 控 制 这 款 手 表 。 百 度 百 度 美 国 研 究 院 、 百 度 安 全 实 验 室 高 级 资 深 安 全 研 究 员 张 煜 龙 将 在 美 国 研 究 院 、 百 度 安 全 实 验 室 高 级 资 深 安 全 研 究 员 张 煜 龙 将 在 G e e k P w n 硅 谷 站 上 硅 谷 站 上 首 揭 首 揭 这 款 智 能 这 款 智 能 手 表 的 内 核 安 全 漏 洞 ， 并 演 示 通 手 表 的 内 核 安 全 漏 洞 ， 并 演 示 通 过 过 ” S V C   G a d g e t   J u m p i n g “ 攻 击 实 现 攻 击 实 现 R o o t 提 权 。 提 权 。 这 位 集 漏 洞 挖 掘 与 防 护 于 一 身 的 专 家 ， 张 煜 龙 能 否 实 现 对 这 一 智 能 手 表 的 安 全 突 破 ？ 我 们 期 待 在 G e e k P w n 硅 谷 站 一 睹 其 风 采 。 【 【 G e e k P w n 硅 谷 站 报 名 链 接 ， 见 原 文 】 硅 谷 站 报 名 链 接 ， 见 原 文 】 黑 客 的 祸 ， 语 音 的 锅 黑 客 的 祸 ， 语 音 的 锅
谷 歌 上 周 发 布 了 多 款 新 产 品 ： 手 机 、 智 能 家 居 中 枢 、 W i - F i 路 由 器 等 。 其 中 ， 有 一 款 软 件 颇 为 吸 引 眼 球 ， 就 是 这 个 名 为 谷 歌 助 手 （ G o o g l e A s s i s t a n t ） 的 虚 拟 助 手 软 件 。 谷 歌 首 席 执 行 官 桑 达 尔 · 皮 查 伊 ( S u n d a r P i c h a i ) 把 它 称 作 是 公 司 的 未 来 。   谷 歌 无 疑 是 涉 足 语 音 助 手 领 域 的 最 新 科 技 巨 头 ， 苹 果 早 在 2 0 1 1 年 就 发 布 S i r i ， 微 软 后 来 推 出 了 C o r t a n a ， 亚 马 逊 则 通 过 E c h o 系 列 智 能 音 响 发 布 了 A l e x a 。   语 音 交 互 已 经 越 来 越 普 及 ， 更 多 的 智 能 设 备 通 过 这 种 方 式 将 原 本 难 以 进 行 物 理 交 互 的 可 穿 戴 设 备 改 造 得 越 来 越 轻 便 。
  但 是 ， 语 音 交 互 在 方 便 了 人 机 交 流 的 同 时 ， 也 易 于 受 到 攻 击 。 语 音 作 为 一 种 广 播 接 口 长 期 以 来 向 所 有 “ 利 用 声 音 的 攻 击 方 式 ” 大 开 方 便 之 门 。   T a v i s h   V a i d y a 是 华 盛 顿 乔 治 敦 大 学 计 算 机 科 学 专 业 的 候 选 博 士 ， 他 要 利 用 是 华 盛 顿 乔 治 敦 大 学 计 算 机 科 学 专 业 的 候 选 博 士 ， 他 要 利 用 “ 发 出 的 语 音 指 令 控 制 发 出 的 语 音 指 令 控 制 ” 智 能 设 备 ， 这 些 无 法 被 人 类 识 别 的 智 能 设 备 ， 这 些 无 法 被 人 类 识 别 的 语 音 指 令 据 说 能 够 被 设 备 语 音 指 令 据 说 能 够 被 设 备 “ 听 到 听 到 ” 并 执 行 。 并 执 行 。 一 句 话 接 管 你 的 手 机 ， 这 是 黑 客 的 第 几 重 境 界 啊 ？ G e e k P w n 硅 谷 站 1 0 月 2 3 日 即 将 隆 重 登 场 。 【 【 G e e k P w n 硅 谷 站 报 名 链 接 ， 见 原 文 】 硅 谷 站 报 名 链 接 ， 见 原 文 】 这 些 脑 洞 大 开 的 极 客 展 示 ， 只 是 这 些 脑 洞 大 开 的 极 客 展 示 ， 只 是 1 0 月 月 2 4 日 日 G e e k P w n 嘉 年 华 即 将 上 演 的 第 二 弹 。 后 续 更 多 精 彩 ， 请 继 续 关 注 ！ 嘉 年 华 即 将 上 演 的 第 二 弹 。 后 续 更 多 精 彩 ， 请 继 续 关 注 ！ 第 一 弹 ： 惊 爆 第 一 弹 ： 惊 爆 G e e k P w n 上 海 站 绝 密 看 点 上 海 站 绝 密 看 点 （ 请 点 击 ） （ 请 点 击 ） G e e k P w n 主 办 方 主 办 方 碁 震 （ K E E N ） 公 司 中 国 上 海 站 协 办 方 中 国 上 海 站 协 办 方 腾 讯 玄 武 实 验 室 美 国 硅 谷 站 协 办 方 美 国 硅 谷 站 协 办 方 B a y A r e a   S e c u r i t y （ B A S e c ） G e e k P w n 2 0 1 6 技 术 委 员 会 成 员 技 术 委 员 会 成 员 K E E N     腾 讯 玄 武 实 验 室     百 度 安 全     盘 古     X C T F     腾 讯 湛 泸 实 验 室     极 安 客 G e e k P w n 智 能 安 全 生 态 圈 战 略 合 作 伙 伴 智 能 安 全 生 态 圈 战 略 合 作 伙 伴 腾 讯 安 全     百 度 安 全     京 东 智 能     小 米     华 为 技 术 合 作 伙 伴 技 术 合 作 伙 伴 拓 攻 科 技     安 天 我 要 购 票 （ 扫 码 ） 我 要 购 票 （ 扫 码 ）
1 0 月 1 0 日 前 ， 想 要 报 名 的 选 手 仍 可 通 过 极 棒 官 网 （ 2 0 1 6 . g e e k p w n . o r g ） 和 微 信 公 众 号 （ G e e k P w n ） 在 线 报 名 ！ 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理