搜索

[17731] 2020-11-25_从Mask到Musk，不只是一副口罩的距离

文档创建者：s7ckTeam
浏览次数：3
最后更新：2025-01-18
2020-11-25_从Mask到Musk，不只是一副口罩的距离 从   M a s k   到   M u s k ， 不 只 是 一 副 口 罩 的 距 离 原 创     G e e k P w n   2 0 2 0 - 1 1 - 2 5 收 录 于 话 题 # 信 息 安 全   , 3 4 # 人 脸 识 别   , 4 # A I   , 4 # 网 络 安 全   , 2 8 # G e e k P w n   2 0 2 0   , 2 9 想 要 快 速 成 为 埃 隆 · 马 斯 克 （ E l o n · M u s k ） ， 需 要 几 步 ？ 三 步 。 第 一 步 ， 找 到 埃 隆 · 马 斯 克 的 照 片 ； 第 二 步 ， 利 用 A I 算 法 分 析 这 些 照 片 并 生 成 图 片 、 制 作 变 脸 口 罩 ； 第 三 步 ， 戴 上 口 罩 （ M a s k ） … … 当 然 ， 成 功 率 要 受 到 很 多 因 素 的 影 响 ； 最 后 见 证 结 果 的 ， 也 不 是 人 眼 ， 而 是 录 入 了 马 斯 克 人 脸 信 息 的 人 脸 识 别 摄 像 头 。 戴 上 口 罩 后 ， 甚 至 还 能 让 人 脸 识 别 A T M 机 吐 出 美 金 … … 这 并 非 是 电 影 中 的 镜 头 ， 而 是 G e e k P w n   2 0 2 0 国 际 安 全 极 客 大 赛 现 场 的 比 赛 场 景 。 近 些 年 ， 人 脸 识 别 技 术 已 广 泛 应 用 于 安 防 监 控 、 金 融 支 付 等 领 域 。 在 人 人 都 戴 上 口 罩 的 2 0 2 0 年 ， 戴 口 罩 状 态 下 实 现 人 脸 识 别 的 技 术 也 迅 速 面 世 。 不 过 ， 人 脸 是 每 个 人 独 一 无 二 的 生 物 信 息 ， 不 可 再 生 且 与 个 人 隐 私 密 切 相 关 。 因 此 ， 人 脸 识 别 是 否 安 全 ， 成 了 大 众 无 比 关 心 的 问 题 。 基 于 这 样 的 现 实 生 活 背 景 ， G e e k P w n 专 门 举 行 了 一 场 “ 变 脸 口 罩 ” 挑 战 赛 ， 去 测 试 人 脸 识 别 算 法 的 安 全 性 ， 预 警 其 中 的 安 全 风 险 。
为 了 解 “ A I 变 脸 口 罩 ” 的 相 关 技 术 原 理 ， 及 其 可 能 在 现 实 生 活 中 被 恶 意 利 用 的 可 能 性 ， 湖 南 卫 视 《 新 闻 大 求 真 》 节 目 组 实 地 探 访 比 赛 主 办 团 队 K E E N ， 制 作 了 一 期 求 真 节 目 。 《 新 闻 大 求 真 》 2 0 2 0 1 1 1 9 期
A I   变 脸 口 罩 ： 不 只 是 口 罩 那 么 简 单 变 脸 口 罩 ： 不 只 是 口 罩 那 么 简 单 实 现 “ 变 脸 ” 的 本 质 ， 其 实 是 欺 骗 A I 人 脸 识 别 算 法 。 人 脸 识 别 技 术 广 泛 应 用 以 来 ， 绕 过 人 脸 识 别 的 方 法 也 逐 渐 出 现 ， 例 如 利 用 化 妆 手 段 干 扰 脸 部 识 别 技 术 ， 在 镜 头 前 隐 藏 身 份 ； 戴 上 特 制 眼 镜 或 贴 上 特 制 图 片 ， 让 人 脸 识 别 系 统 无 法 识 别 或 识 别 出 错 等 … … A I   变 脸 口 罩 ， 也 是 利 用 特 制 图 片 ， 欺 骗   A I   人 脸 识 别 系 统 。 在 比 赛 现 场 ， 选 手 利 用 自 制 的 “ 攻 击 ” 口 罩 ， 伪 造 身 份 ， 骗 过 现 场 的 人 脸 识 别 售 货 机 和 人 脸 识 别 A T M 机 。 在 两 台 机 器 的 人 脸 识 别 系 统 中 ， A I   算 法 对 捕 捉 到 的 对 象 进 行 特 征 提 取 、 识 别 ， 判 定 捕 捉 到 的 对 象 是 否 为 指 定 人 物 。 这 个 过 程 ， 涉 及 到 多 链 路 的 攻 击 和 不 同 的 算 法 、 技 术 。 虽 然 选 手 在 现 场 成 功 欺 骗 这 个 过 程 ， 涉 及 到 多 链 路 的 攻 击 和 不 同 的 算 法 、 技 术 。 虽 然 选 手 在 现 场 成 功 欺 骗 A T M 机 的 人 脸 识 别 算 法 、 变 脸 马 斯 克 只 机 的 人 脸 识 别 算 法 、 变 脸 马 斯 克 只 需 几 秒 钟 ， 但 中 间 所 花 费 的 时 间 与 精 力 ， 远 不 止 制 作 一 副 口 罩 那 么 简 单 。 需 几 秒 钟 ， 但 中 间 所 花 费 的 时 间 与 精 力 ， 远 不 止 制 作 一 副 口 罩 那 么 简 单 。
1 .   人 脸 检 测 人 脸 检 测   &   人 脸 识 别 人 脸 识 别 人 脸 识 别 系 统 在 工 作 时 ， 一 般 会 经 过 两 个 阶 段 ， 先 是 自 动 检 测 到 人 脸 的 存 在 （ 即 人 脸 检 测 ） ； 然 后 再 根 据 特 征 点 进 行 分 析 ， 进 一 步 识 别 这 张 脸 是 谁 。 所 以 选 手 制 作 的 攻 击 口 罩 虽 然 有 的 写 实 、 有 的 魔 幻 ， 但 第 一 步 都 要 让 系 统 能 够 检 测 到 人 脸 的 存 在 。 2 .   白 盒 算 法 白 盒 算 法   &   黑 盒 算 法 黑 盒 算 法 自 动 售 货 机 使 用 的 是 “ 白 盒 算 法 ” ， 即   2 0 1 9   年   I E E E   国 际 计 算 机 视 觉 与 模 式 识 别 会 议 提 出 的   A r c F a c e   算 法 。 选 手 事 先 知 道 目 标 人 物 ， 也 能 获 取 系 统 所 用 的 A I 人 脸 识 别 参 数 和 模 型 结 构 ， 并 根 据 这 些 信 息 制 作 攻 击 模 型 。 A T M 机 使 用 的 是 “ 黑 盒 算 法 ” ， 选 手 不 知 道 相 关 的 参 数 与 模 型 ， 在 挑 战 时 难 度 更 大 。 在 现 实 环 境 中 ， 不 同 人 脸 识 别 系 统 所 使 用 的 算 法 并 不 相 同 ， 从 这 个 角 度 来 说 ， 现 实 环 境 中 利 用 口 罩 进 行 类 似 攻 击 ， 难 度 并 不 小 。
3 .   置 信 度 置 信 度 系 统 需 要 判 断 被 捕 捉 到 的 对 象 与 指 定 人 物 的 特 征 吻 合 程 度 （ 即 置 信 度 ） 。 在 比 赛 中 ， 要 求 置 信 度 达 到 或 大 于 5 0 % ， 才 算 成 功 。 而 在 实 际 环 境 中 ， 这 个 数 值 可 能 更 高 ， 才 能 被 准 确 识 别 。 4 .   物 理 攻 击 物 理 攻 击 & 数 字 攻 击 数 字 攻 击 在 实 验 室 环 境 下 ， 关 于 A I 模 型 攻 击 的 研 究 都 是 对 电 脑 中 存 储 的 图 片 进 行 修 改 。 而 在 比 赛 环 境 中 ， 需 要 将 修 改 过 的 图 片 打 印 出 来 ， 贴 在 口 罩 表 面 ， 去 欺 骗 真 实 存 在 的 人 脸 识 别 摄 像 头 。 这 个 过 程 中 ， 需 要 考 虑 口 罩 展 开 后 会 造 成 图 片 的 变 形 与 变 化 。 因 此 ， 除 了 算 法 和 模 型 外 ， 光 线 、 口 罩 材 质 、 纸 片 材 质 、 佩 戴 者 等 都 有 可 能 对 结 果 有 影 响 。
事 实 上 ， 变 脸 口 罩 常 用 于 教 学 和 科 研 当 中 ， 整 场 比 赛 也 更 偏 向 学 术 研 究 。 在 商 用 当 中 ， 人 脸 识 别 不 会 作 为 单 一 的 身 份 验 证 ， 因 此 ， 我 们 也 许 不 必 过 于 担 忧 “ 变 脸 口 罩 ” 可 能 被 恶 意 利 用 的 风 险 ， 更 应 该 注 重 的 其 实 是 个 人 信 息 泄 露 带 来 的 隐 患 。 人 脸 识 别 ： 想 说 人 脸 识 别 ： 想 说   A I   你 不 容 易 你 不 容 易 今 年 1 0 月 份 发 布 的 《 人 脸 识 别 应 用 公 众 调 研 报 告 （ 2 0 2 0 ） 》 显 示 ， 有 九 成 以 上 的 受 访 者 都 使 用 过 人 脸 识 别 ， 其 中 “ 刷 脸 支 付 ” 是 最 为 普 及 的 用 途 。 有 六 成 受 访 者 对 人 脸 识 别 提 出 了 质 疑 ， 认 为 人 脸 识 别 技 术 有 滥 用 趋 势 ， 还 有 三 成 受 访 者 表 示 ， 已 经 因 为 人 脸 信 息 泄 露 、 滥 用 而 遭 受 到 隐 私 或 财 产 损 失 。
如 同 其 他 新 技 术 新 应 用 一 样 ， 人 脸 识 别 从 刚 出 现 到 逐 步 推 广 应 用 ， 也 一 路 面 临 着 “ 争 议 ” 。 同 样 ， 如 同 其 他 新 技 术 新 应 用 一 样 ， 如 果 想 要 安 全 无 忧 地 使 用 ， 必 将 经 过 长 久 的 实 践 与 改 进 。 在 实 际 应 用 场 景 中 发 现 问 题 、 解 决 问 题 ； 在 安 全 研 究 人 员 的 研 究 中 发 现 风 险 、 提 前 规 避 ； 如 此 才 能 不 断 成 长 、 成 熟 。 正 如 节 目 最 后 “ C A A D - A I 变 脸 口 罩 挑 战 赛 ” 赛 事 负 责 人 、 极 棒 实 验 室 高 级 研 究 员 王 海 兵 所 说 ： 现 在 的 计 算 机 信 息 系 统 存 现 在 的 计 算 机 信 息 系 统 存 在 漏 洞 是 必 然 的 。 这 些 漏 洞 就 像 定 时 炸 弹 一 样 ， 随 时 有 可 能 爆 炸 。 身 为 白 帽 黑 客 ， 重 要 的 工 作 目 标 就 是 找 出 这 些 在 漏 洞 是 必 然 的 。 这 些 漏 洞 就 像 定 时 炸 弹 一 样 ， 随 时 有 可 能 爆 炸 。 身 为 白 帽 黑 客 ， 重 要 的 工 作 目 标 就 是 找 出 这 些 漏 洞 ， 拆 除 这 些 定 时 炸 弹 。 让 大 家 更 放 心 地 使 用 信 息 系 统 和 新 技 术 。 漏 洞 ， 拆 除 这 些 定 时 炸 弹 。 让 大 家 更 放 心 地 使 用 信 息 系 统 和 新 技 术 。
“ A I 换 脸 ”   V S   ” 假 脸 检 测 ”   ｜ 这 一 场 “ 猫 鼠 游 戏 ” 从 未 停 歇 G e e k P w n   2 0 2 0   全 天 赛 事 回 顾   点 击 阅 读 原 文 观 看   G e e k P w n   2 0 2 0   全 天 赛 事 视 频 回 放 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理