搜索

[17672] 2019-11-08_去年Uber自动驾驶汽车“误杀”一人，原来是因为它不认得人！

文档创建者：s7ckTeam
浏览次数：18
最后更新：2025-01-18
2019-11-08_去年Uber自动驾驶汽车“误杀”一人，原来是因为它不认得人！ 去 年   U b e r   自 动 驾 驶 汽 车 “ 误 杀 ” 一 人 ， 原 来 是 因 为 它 不 认 得 人 ！ 原 创     G e e k P w n   2 0 1 9 - 1 1 - 0 8 人 无 完 人 ， 金 无 足 赤 。 有 人 天 生 脸 盲 ， 有 人 唱 歌 不 着 调 ， 即 便 是 天 才 如 达 芬 奇 、 爱 因 斯 坦 ， 也 患 有 “ 失 读 症 ” . . . . . . 对 人 类 而 言 ， 这 些 由 于 大 脑 结 构 出 现 异 常 而 引 起 的 “ 失 x 症 ” 实 在 是 微 不 足 道 。 如 果 你 是 脸 盲 ， 大 可 选 择 不 从 事 销 售 等 需 要 频 繁 和 人 打 交 道 的 工 作 。 如 果 你 是 红 绿 色 盲 ， 那 不 要 开 车 上 路 。 但 是 ， 有 一 位 二 十 一 世 纪 的 汽 车 司 机 ， 不 仅 会 开 车 、 停 车 ， 还 是 活 地 图 ， 同 时 拥 有 但 是 ， 有 一 位 二 十 一 世 纪 的 汽 车 司 机 ， 不 仅 会 开 车 、 停 车 ， 还 是 活 地 图 ， 同 时 拥 有   3 6 0   度 全 景 视 角 。 度 全 景 视 角 。 无 人 想 到 的 无 人 想 到 的 是 ， 是 ， T A   竟 竟 “ 目 中 无 人 目 中 无 人 ” ， 不 认 得 人 ！ ， 不 认 得 人 ！ 2 0 1 8   年   3   月   1 8   日 晚 ， 美 国 亚 利 桑 那 州 坦 佩 市 一 位 女 性 在 推 着 自 行 车 横 穿 马 路 时 ， 被 时 速   6 0   公 里   U b e r   无 人 驾 驶 汽 车 撞 死 。 根 据 美 国 国 家 交 通 安 全 委 员 会   N T S B   在   2 0 1 8   年   5   月 发 布 的 撞 车 事 故 的 初 步 报 告 显 示 ， U b e r   车 辆 直 到 碰 撞 前 车 辆 直 到 碰 撞 前   1 . 3   秒 才 秒 才 “ 意 意 识 识 ” 到 即 将 发 生 碰 撞 。 到 即 将 发 生 碰 撞 。 通 过 视 频 我 们 也 不 难 看 出 ， 即 便 是 正 常 人 类 司 机 ， 由 于 天 色 晚 、 道 路 昏 暗 ， 可 能 也 很 难 及 时 发 现 穿 越 马 路 上 的 行 人 。 这 意 味 着 ， 无 论 “ 谁 ” 遇 上 相 同 的 情 况 时 ， 一 场 灾 难 似 乎 不 可 避 免 。 至 此 ， 大 部 分 人 或 许 开 始 同 情 这 辆 “ 无 辜 ” 的 马 路 杀 手 。 “ 无 辜 无 辜 ” 的 马 路 杀 手 的 马 路 杀 手
就 在   2 0 1 9   年 初 ， 美 国 检 方 表 示 在 这 起 事 故 中 ， U b e r   公 司 不 承 担 刑 事 责 任 ， 而 自 动 驾 驶 汽 车 的 后 备 司 机 的 行 为 应 当 提 交 警 方 进 行 进 一 步 调 查 。 但 本 周 二   N T S B   发 布 的 一 份 最 新 报 告 显 示 ， 实 际 上 实 际 上   U b e r   自 动 驾 驶 汽 车 提 前 看 到 了 行 人 ， 但 是 却 将 行 人 认 错 了 ， 当 成 了 自 动 驾 驶 汽 车 提 前 看 到 了 行 人 ， 但 是 却 将 行 人 认 错 了 ， 当 成 了 “ 车 车 辆 辆 ” 和 和 “ 其 他 其 他 ” 物 体 ！ 物 体 ！ 当 你 还 是 个 宝 宝 时 ， 可 能 叫 过 很 多 人 “ 妈 妈 ” 。 那 是 因 为 年 幼 的 你 认 知 水 平 还 不 够 ， 经 过 学 习 之 后 慢 慢 地 不 会 再 出 现 相 似 的 错 误 了 。 而 机 器 在 进 行 图 像 识 别 时 ， 也 是 对 物 体 进 行 分 类 。 毫 无 疑 问 ， U b e r   汽 车 具 备 了 对 物 体 进 行 识 别 的 能 力 ， 系 统 将 检 测 到 的 物 体 分 为 汽 车 、 自 行 车 、 行 人 或 其 他 物 体 。 N T S B   公 开 了 机 器 错 看 了 机 器 错 看 了 “ 眼 前 眼 前 ” 的 世 界 的 世 界
无 人 驾 驶 汽 车 车 祸 前 经 历 的 “ 复 杂 思 考 活 动 ” ， 人 们 惊 讶 地 发 现 原 来 汽 车 从 来 就 没 有 把 人 当 成 人 。 从 来 就 没 有 把 人 当 成 人 。 碰 撞 前   5 . 2   秒 时 ， 系 统 认 为 发 现 “ 其 他 ” 物 体 ； 碰 撞 前   4 . 2   秒 时 ， 系 统 认 为 发 现 “ 汽 车 ” ； 碰 撞 发 生 前   3 . 8 - 2 . 7   秒 间 ， 系 统 并 不 确 定 发 现 的 是 “ 汽 车 ” 还 是 “ 其 他 ” ， 判 断 两 者 间 变 化 ； 碰 撞 前   2 . 6   秒 时 ， 系 统 认 为 发 现 了 “ 自 行 车 ” ； 碰 撞 前   1 . 5   秒 时 ， 系 统 认 为 发 现 了 “ 未 知 物 体 ” ； 碰 撞 前   1 . 2   秒 时 ， 系 统 认 为 发 现 了 “ 自 行 车 ” 。 N T S B   报 告 指 出 ， 报 告 指 出 ， U b e r   汽 车 中 的 软 件 没 有 识 别 出 行 人 并 预 测 其 运 动 轨 迹 ， 它 的 汽 车 中 的 软 件 没 有 识 别 出 行 人 并 预 测 其 运 动 轨 迹 ， 它 的 “ 大 脑 大 脑 ” 中 甚 至 不 存 在 中 甚 至 不 存 在 “ 穿 越 马 路 的 行 人 穿 越 马 路 的 行 人 ” 这 这 种 情 况 。 种 情 况 。 系 统 的 确 提 前 系 统 的 确 提 前 “ 感 知 感 知 ” 到 了 行 人 和 自 行 车 和 存 在 ， 却 出 现 了 错 误 的 判 断 。 到 了 行 人 和 自 行 车 和 存 在 ， 却 出 现 了 错 误 的 判 断 。 如 果 系 统 及 早 正 确 地 识 别 出 前 方 物 体 是 “ 行 人 ” ， 就 可 能 会 大 幅 放 慢 速 度 ， 或 者 设 法 绕 开 避 让 。 本 月   1 9   日 ， N T S B   将 召 开 发 布 会 披 露 车 祸 调 查 ， 但 对 于 丧 生 的 受 害 者 而 言 ， 一 切 来 得 太 迟 了 。 我 们 一 直 努 力 让 我 们 一 直 努 力 让   A I   犯 错 犯 错 点 击 观 看 视 频 在   2 0 1 9   年   1 0   月   2 4   日 举 行 的   G e e k P w n   国 际 安 全 极 客 大 赛 现 场 ， 参 加   C A A D   C T F   图 像 对 抗 样 本 挑 战 赛 的 团 队 利 用 算 法 生 成 的 “ 对 抗 样 本 ” 图 像 实 现 了 对 图 像 识 别 系 统 的 攻 击 挑 战 。 这 是 第 二 届   C A A D   C T F ， G e e k P w n   希 望 通 过 预 演 攻 击   A I ， 发 现 其 潜 在 的 安 全 问 题 ， 进 一 步 促 进   A I   系 统 提 升 自 身 能 力 与 安 全 性 。  
获 得 第 一 名 的   T S A I L   来 自 清 华 大 学 ， 他 们 成 功 让   C l a r i f a i   人 脸 识 别 系 统 将 黄 健 翔 识 别 成 “ 美 国 第 一 千 金 ” 伊 万 卡 。 赛 后 他 们 分 析 ： “ 从 学 术 角 度 来 看 ， 它 实 际 上 是 数 学 的 一 个 优 化 问 题 ， 因 为 目 前 神 经 网 络 有 些 漏 洞 ， 优 化 是 一 种 途 径 。 从 学 术 角 度 来 看 ， 它 实 际 上 是 数 学 的 一 个 优 化 问 题 ， 因 为 目 前 神 经 网 络 有 些 漏 洞 ， 优 化 是 一 种 途 径 。 通 过 一 些 优 化 方 法 让 模 型 认 为 它 就 是 要 攻 击 的 目 标 对 象 — — 伊 万 卡 。 单 从 挑 战 内 容 来 看 ， 不 同 性 别 、 国 籍 、 人 种 和 年 龄 都 会 有 一 定 的 影 响 。 ”
在   2 0 1 8   年 的 比 赛 中   I Y S W I M   团 队 成 功 让 亚 马 逊 名 人 识 别 系 统 错 误 地 将 蒋 昌 建 识 别 为 阿 诺 德 · 施 瓦 辛 格 。 时 隔 一 年 ， 各 识 别 系 统 自 然 有 了 升 级 提 高 ， 而 今 年 的 挑 战 升 级 了 ， 要 求 更 是 让 识 别 目 标 发 生 了 性 别 转 换 。 此 外 ， 在 “ C A A D   隐 身 比 赛 ” 中 ， 三 组 选 手 都 利 用 一 张 不 满   A 4   大 小 、 带 有 特 殊 图 案 的 纸 成 功 骗 过 了   Y O L O   v 3   目 标 检 测 系 统 ， 让 系 统 无 法 识 别 出 站 在 面 前 的 人 。
如 果 不 能 及 时 发 现 如 果 不 能 及 时 发 现   A I   自 身 存 在 的 自 身 存 在 的 “ 基 因 缺 陷 基 因 缺 陷 ” ， 还 会 有 可 怕 的 后 果 等 待 我 们 承 担 。 ， 还 会 有 可 怕 的 后 果 等 待 我 们 承 担 。 E N D
更 多 精 彩
阅 读 原 文 点 击 “ 阅 读 原 文 ” 直 达 比 赛 视 频
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理