搜索

[17448] 2017-07-21_PWN亦有道，无人驾驶汽车不能被骗吗？OpenAI不这么看

文档创建者：s7ckTeam
浏览次数：23
最后更新：2025-01-18
2017-07-21_PWN亦有道，无人驾驶汽车不能被骗吗？OpenAI不这么看 P W N   亦 有 道 ， 无 人 驾 驶 汽 车 不 能 被 骗 吗 ？ O p e n A I   不 这 么 看 原 创   小 明   G e e k P w n   2 0 1 7 - 0 7 - 2 1 当 谷 歌 无 人 驾 驶 汽 车 在 美 国 加 州 山 景 城 的 一 处 红 灯 前 独 自 等 待 时 ， 新 墨 西 哥 州 的 一 台 智 能 音 响 替 正 遭 受 家 暴 的 主 人 拨 了 一 通 报 警 电 话 。 人 工 智 能 早 已 不 仅 仅 是 专 家 论 文 中 那 些 令 人 费 解 的 符 号 、 科 幻 电 影 中 碾 压 人 类 的 下 一 代 霸 主 、 新 闻 报 道 中 耸 人 听 闻 的 头 条 《 再 过 几 十 年 人 类 一 半 的 工 作 将 被 机 器 人 取 代 （ 附 清 单 ） 》 （ 很 抱 歉 ， 并 没 有 链 接 ） . . . . . . 通 用 人 工 智 能 的 彼 岸 尚 远 ， 但 是 越 来 越 的 企 业 、 学 者 致 力 于 开 发 为 消 费 者 服 务 的   A I   产 品 。 从 百 度 开 源 自 动 驾 驶   A p o l l o   平 台 、 腾 讯 视 觉 识 别 开 放 平 台 腾 讯 优 图 、 阿 里 巴 巴 建 立 的 客 服 机 器 人 平 台 ， 到 遍 布 全 球   6 3   个 国 家 的 超 过   9 1 0   家 人 工 智 能 企 业 （ V e n t u r e   S c a n n e r   统 计 ） ， “ 机 器 学 习 机 器 学 习 ” 领 军 第 三 次 人 工 智 能 热 潮 不 少 已 经 落 地 为 不 同 形 态 的 科 领 军 第 三 次 人 工 智 能 热 潮 不 少 已 经 落 地 为 不 同 形 态 的 科 技 产 品 ， 走 进 了 我 们 的 生 活 。 技 产 品 ， 走 进 了 我 们 的 生 活 。
美 国 安 保 机 器 人   K 5   因 跳 水 “ 自 杀 身 亡 ” ， 官 方 推 特 没 有 解 释 具 体 原 因 ， 只 顾 幽 默 调 侃 “ 听 说 夏 天 人 们 戏 水 消 暑 ， 但 本 宝 宝 不 知 道 机 器 人 是 不 可 以 的 ” ， 难 掩 尴 尬 。 人 们 惧 怕 借 助 大 数 据 和 超 强 计 算 能 力 的   A I   会 给 未 来 带 去 巨 大 的 不 确 定 性 ， 而 现 在 我 们 能 确 定 的 仅 仅 是 ： 机 器 已 经 具 备 了 超 过 机 器 已 经 具 备 了 超 过 人 类 的 图 像 识 别 能 力 。 人 类 的 图 像 识 别 能 力 。 2 0 1 0   年 起 ， I m a g e N e t   每 年 都 会 举 办 一 次 软 件 竞 赛 ， 即   I m a g e N e t   大 规 模 视 觉 识 别 挑 战 赛 （ I L S C R C ） ， 参 赛 者 通 过 自 编 程 序 进 行 图 像 及 场 景 的 识 别 。 这 种 能 自 动 对 输 入 东 西 进 行 分 类 的 机 器 ， 叫 做 分 类 器 。 李 飞 飞 ， 斯 坦 福 教 授 、 I m a g e N e t   领 头 创 建 人 ， 现   G o o g l e   云 端 人 工 智 能 暨 机 器 学 习 首 席 科 学 家 2 0 1 2   年 ， 首 度 利 用 卷 积 神 经 网 络 （ C N N ） 参 加 挑 战 的 加 拿 大   G e o f f r e y   H i n t o n   教 授 带 领 的 团 队 一 鸣 惊 人 ， 出 色 的 成 绩 震 惊 了 整 个 计 算 机 视 觉 界 。
G e o f f r e y   H i n t o n ， 深 度 学 习 的 三 巨 头 之 一 而 这 项 挑 战 赛 也 宣 布 将 在   2 0 1 7   年 之 后 正 式 结 束 ， 因 为 人 工 智 能 的 图 像 识 别 错 误 率 （ 2 0 1 6   年 ， 约   2 . 9 % ） 已 经 低 于 了 人 类 （ 5 . 1 % ） ， “ 继 续 进 行 这 项 竞 赛 的 意 义 不 大 了 继 续 进 行 这 项 竞 赛 的 意 义 不 大 了 ” 。
2 0 1 2   年 后   I m a g e N e t   机 器 图 像 识 别 错 误 率 显 著 降 低 ； 2 0 1 5   年 机 器 超 越 人 类 从 机 器 人 、 安 防 监 控 到 自 动 驾 驶 汽 车 ， 机 器 视 觉 肩 负 重 任 。 但 是 ， 机 器 视 觉 和 人 眼 一 样 具 有 盲 点 。 但 是 ， 机 器 视 觉 和 人 眼 一 样 具 有 盲 点 。 2 0 1 6   年 ， “ 对 抗 性 生 成 网 络 ” （ G A N s ） 的 提 出 者 、 现 谷 歌 大 脑 人 工 智 能 专 家   I a n   G o o d f e l l o w   和 同 事   A l e x e y   K u r a k i n   在 G e e k P w n   硅 谷 站 硅 谷 站   现 场 演 示 ， 他 们 仅 通 过 在 一 张 图 片 上 加 入 “ 干 扰 ” ， 就 成 功 欺 骗 了 机 器 的 眼 睛 。 他 们 把 这 样 的 干 扰 称 为 “ 对 抗 性 ” 样 本 ， 能 够 让 机 器 将 大 熊 猫 识 别 为 长 臂 猿 。 I a n   和   A l e x e y   将 “ 对 抗 性 图 片 ” 打 印 出 来 ， 同 样 在 物 理 世 界 中 对 机 器 造 成 了 “ 欺 骗 ” 。 他 们 的 研 究 表 明   8 7   %   的 对 抗 性 图 像 在 经 的 对 抗 性 图 像 在 经 过 外 界 环 境 转 化 后 仍 具 有 欺 骗 性 过 外 界 环 境 转 化 后 仍 具 有 欺 骗 性 ， 虽 然 “ 对 抗 性 图 片 ” 在 现 实 中 自 然 情 况 下 是 非 常 罕 见 的 。   许 多 研 究 成 果 证 明 ， 大 多 数 机 器 学 习 算 法 很 容 易 受 到 对 抗 样 本 的 干 扰 。 许 多 研 究 成 果 证 明 ， 大 多 数 机 器 学 习 算 法 很 容 易 受 到 对 抗 样 本 的 干 扰 。 近 日 ， 来 自 美 国 伊 利 诺 伊 大 学 厄 巴 纳 香 槟 分 校 （ U I U C ） 的 研 究 者 发 表 研 究 称 ， 无 论 加 在 停 车 标 志 上 的 “ 对 抗 性 ” 多 么 易 于 （ 或 难 以 ） 发 现 ， 大 部 分 从 汽 车 相 机 取 景 的 视 频 帧 都 能 被 正 确 分 类 。 他 们 认 为 ， 对 抗 性 图 像 的 大 小 同 样 影 响 了 自 动 驾 驶 汽 车 的 判 断 。
打 印 出 来 的 对 抗 性 图 像 ， 都 被 机 器 正 确 识 别 换 句 话 说 ， “ 不 用 担 心 自 动 驾 驶 中 物 体 识 别 的 对 抗 性 样 本 问 题 不 用 担 心 自 动 驾 驶 中 物 体 识 别 的 对 抗 性 样 本 问 题 ” 。 不 禁 让 人 唏 嘘 ， 人 工 智 能 的 弱 点 不 弱 了 ？ 但 是 ， “ 钢 铁 侠 ” 埃 隆 · 马 斯 克 创 立 的 人 工 智 能 初 创 公 司   O p e n A I   向 其 发 起 挑 战 ， O p e n A I   最 新 的 博 客 显 示 他 们 已 经 创 造 出 能 够 以 不 同 角 度 以 及 不 同 尺 寸 骗 过 神 经 网 络 分 类 器 的 图 像 。 也 就 是 说 ， “ 对 抗 性 对 抗 性 ” 样 本 的 欺 骗 性 依 旧 存 在 。 样 本 的 欺 骗 性 依 旧 存 在 。 他 们 创 造 出 一 张 小 猫 咪 图 像 ， 用 标 准 打 印 机 打 印 出 之 后 ， 无 论 放 大 、 缩 小 还 是 翻 转 ， 神 经 网 络 分 类 器 都 将 其 视 为 显 示 器 显 示 器 。 不 断 调 整 对 抗 性 图 片 的 大 小 ， 机 器 依 旧 识 别 为 “ 显 示 器 ” （ 红 色 ） 将 对 抗 性 图 片 进 行 旋 转 等 ， 机 器 始 终 错 误 识 别 对 此 ， 极 棒 实 验 室 人 工 智 能 安 全 专 家 极 棒 实 验 室 人 工 智 能 安 全 专 家 表 示 ： 有 一 些 对 抗 样 本 在 某 些 情 况 下 确 实 会 失 效 。 重 要 的 是 继 续 研 究 其 失 效 条 件 ， 以 及 更 普 适 的 对 抗 样 本 如 何 生 成 。 重 要 的 是 继 续 研 究 其 失 效 条 件 ， 以 及 更 普 适 的 对 抗 样 本 如 何 生 成 。 这 对 于 我 们 更 好 地 理 解   A I ， 提 高 其 安 全 性 至 关 重 要 。
所 以 ， “ 对 抗 样 本 ” 还 是 人 类 对 抗 人 工 智 能 的 最 后 希 望 吗 ？ 机 器 学 习 的 安 全 隐 私 大 起 底 完 善 强 化 学 习 安 全 性 ， 优 化 新 算 法 机 器 学 习 对 抗 性 攻 击 报 告   |   极 棒 硅 谷 站 当 谈 论 人 工 智 能 时 ， 黑 客 们 在 谈 论 什 么   |   现 场 嗨 S i r i ， 麻 烦 帮 我 转 个 账 吧 . . . . . .   |   极 棒 硅 谷 站 D e e p M i n d   联 合   O p e n A I   最 新 研 究 成 果 G e o H o t ： 人 工 智 能 或 是 最 后 的 边 界 脑 洞 题 ： 选 个   A I   当 总 统 怎 么 样 ？ 机 器 能 思 考 ， 上 帝 会 发 笑 吗 ？ 你 可 能 还 喜 欢 你 可 能 还 喜 欢 . . .
  关 于 关 于   G e e k P w n   （ 极 棒 ） （ 极 棒 ） G e e k   意 为 “ 极 客 ” ， P w n   是 指 “ 突 破 事 物 的 原 有 规 则 ” 。 G e e k P w n   是 由 碁 震 （ 是 由 碁 震 （ K E E N ） 发 起 并 主 办 的 全 球 首 个 关 注 智 能 生 活 的 安 全 极 客 嘉 年 华 。 ） 发 起 并 主 办 的 全 球 首 个 关 注 智 能 生 活 的 安 全 极 客 嘉 年 华 。 2 0 1 4   年   1 0   月   2 4   日 首 次 举 办 ，   2 0 1 6   年 起   G e e k P w n   由 一 年 一 赛 变 为 一 年 两 赛 ， 至 今 已 成 功 举 行 五 届 六 场 ， 踏 足 北 京 、 上 海 、 澳 门 、 香 港 以 及 美 国 硅 谷 。 除 了 聚 焦 智 能 软 硬 件 安 全 ， G e e k P w n   在 人 工 智 能 安 全 和 打 破 技 术 结 界 的 安 全 创 新 领 域 都 有 所 突 破 。 大 赛 不 对 选 手 项 目 进 行 限 制 ， 鼓 励 脑 洞 大 开 的 极 客 挣 脱 思 维 的 枷 锁 ， 将 原 本 的 “ 不 可 能 、 不 存 在 ” 变 为 极 棒 舞 台 上 最 精 彩 的 挑 战 。 2 0 1 7   年 年   5   月 月   G e e k P w n   年 中 赛 已 经 结 束 ， 年 中 赛 已 经 结 束 ， G e e k P w n   嘉 年 华 将 于 嘉 年 华 将 于   1 0   月 月   2 4   日 在 上 海 与 日 在 上 海 与   1 1   月 月 1 1   日 在 硅 谷 举 行 。 日 在 硅 谷 举 行 。 继   2 0 1 6   年 的 “ 机 器 特 工 ” 和 “ 跨 次 元   C T F   挑 战 ” 之 后 ， 2 0 1 7   年   G e e k P w n   与   N e x t   I d e a   联 合 发 起 “ 人 工 智 能 安 全 挑 战 专 项 ” 即 将 震 撼 登 场 ， 同 时 主 办 方 向 广 大 安 全 研 究 者 以 及 人 工 智 能 研 究 者 发 出 诚 挚 邀 请 。 报 名 截 止 时 间 ： 报 名 截 止 时 间 ： 9   月 月   3 0   日 （ 上 海 站 ） 日 （ 上 海 站 ） 1 0   月 月 1 0   日 （ 硅 谷 站 ） 日 （ 硅 谷 站 ）   请 留 下 你 指 尖 的 温 度 记 得 常 来 看 看 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理