搜索

[17729] 2020-11-11_“AI换脸”VS”假脸检测”｜这一场“猫鼠游戏”从未停歇

文档创建者：s7ckTeam
浏览次数：4
最后更新：2025-01-18
2020-11-11_“AI换脸”VS”假脸检测”｜这一场“猫鼠游戏”从未停歇 “ A I 换 脸 ”   V S   ” 假 脸 检 测 ”   ｜ 这 一 场 “ 猫 鼠 游 戏 ” 从 未 停 歇 原 创     G e e k P w n   2 0 2 0 - 1 1 - 1 1 收 录 于 话 题 # G e e k P w n   2 0 2 0   , 2 9 # 人 脸 识 别   , 4 # 虚 假 人 脸   , 1 # A I 换 脸   , 1 # 信 息 安 全   , 3 4 前 段 时 间 ， # 2 元 钱 就 能 买 上 千 张 涉 隐 私 人 脸 照 元 钱 就 能 买 上 千 张 涉 隐 私 人 脸 照 # 的 话 题 冲 上 了 热 搜 。 央 视 报 道 称 ， 在 某 些 网 络 交 易 平 台 上 ， 只 花 两 元 钱 就 能 买 到 上 千 张 人 脸 照 片 ， 5 0 0 0 多 张 人 脸 照 片 标 价 还 不 到 1 0 元 ， 由 此 揭 开 了 “ A I   换 脸 “ 的 黑 产 链 条 。 在 今 年 警 方 破 获 的 两 起 盗 用 公 民 个 人 信 息 案 中 ， 犯 罪 嫌 疑 人 都 通 过 “ A I   换 脸 技 术 ” 非 法 获 取 公 民 照 片 进 行 一 定 预 处 理 ， 再 通 过 “ 照 片 活 化 ” 软 件 生 成 动 态 视 频 ， 成 功 骗 过 人 脸 核 验 机 制 ， 从 而 实 施 犯 罪 。 “ A I   换 脸 “ 技 术 在 风 靡 之 初 ， 就 遭 到 了 争 议 。 一 方 面 A I 换 脸 在 影 视 娱 乐 行 业 的 应 用 ， 提 升 了 效 率 和 效 果 ； 另 一 方 面 ， 这 一 技 术 的 滥 用 可 能 造 成 财 产 、 声 誉 方 面 的 损 失 。 2 0 2 0 年 初 ， C l e a r v i e w   A I   公 司   3 0   亿 张 人 脸 数 据 被 泄 露 ， 更 是 引 发 了 诸 多 担 忧 。 面 对 一 系 列 利 用   A I   技 术 批 量 产 出 的 虚 假 人 脸 图 像 与 视 频 ， 用   A I   技 术 去 自 动 检 测 是 常 见 的 方 法 。 但 是 ， 道 高 一 尺 ， 魔 高 一 丈 ， 这 场 A I 技 术 的 猫 鼠 游 戏 ， 正 不 断 升 级 。
来 源 ： 谷 歌   A I   数 据 集 2 0 1 9   年 ， F a c e b o o k 、   微 软 、 亚 马 逊 、 麻 省 理 工 等 知 名 企 业 、 高 校 联 合 发 起 举 办 了 一 场 针 对 人 脸 视 频 深 度 伪 造 检 测 挑 战 赛 。 截 至 2 0 2 0   年   3   月   3 1   日 结 束 ， 没 有 一 组 选 手 能 够 在 黑 盒 数 据 集 中 ， 对 从 未 见 过 的 造 假 视 频 系 统 的 检 测 精 度 达 到   7 0 %   以 上 。 而 在 而 在 1 0 月 刚 结 束 的 月 刚 结 束 的   G e e k P w n   2 0 2 0   虚 假 人 脸 虚 假 人 脸   A I   识 别 大 赛 识 别 大 赛 中 ， 挑 战 进 一 步 升 级 。 比 赛 不 仅 考 察 选 手 利 用   A I   技 术 识 别 虚 假 人 脸 的 能 力 ， 更 引 入 攻 防 的 概 念 ， 研 究   A I   换 脸 如 何 制 造 虚 假 人 脸 图 像 、 视 频 并 绕 过 虚 假 人 脸 检 测 ， 同 时 提 升 利 用   A I   技 术 进 行 虚 假 人 脸 检 测 的 准 确 率 。 在 现 场 ， 选 手 要 经 过 两 个 阶 段 的 考 验 。 第 一 阶 段 ， 主 办 方 提 供 真 假 混 合 的 图 片 或 视 频 ， 其 中 虚 假 的 图 片 或 视 频 利 用 各 种 流 行 算 法 生 成 ， 要 求 选 手 利 用 A I 技 术 去 识 别 真 假 。 第 二 阶 段 ， 每 组 选 手 在 现 场 制 造 若 干 视 频 、 图 像 ， 发 布 之 后 由 各 组 之 间 互 相 识 别 真 假 。
由 于 这 些 视 频 和 图 像 极 具 迷 惑 性 ， 肉 眼 很 难 辨 出 真 假 。 所 以 经 过 提 示 后 ， 发 现 视 频 里 唱 着 歌 的 “ 周 杰 伦 ” 实 际 上 顶 着 自 己 的 脸 ， 主 持 人 蒋 昌 建 一 度 发 出 惊 呼 。 作 为 名 人 ， 他 在 网 络 上 有 很 多 公 开 的 照 片 且 易 于 搜 集 ， 在 用 于 换 脸 时 ， 精 准 度 更 高 ， 也 更 难 识 别 。 也 有 参 赛 选 手 表 示 ， 在 图 片 或 视 频 为 正 面 的 情 况 下 ， 只 需 一 张 照 片 ， 就 可 以 实 现 换 脸 。 经 过 激 烈 比 拼 ， 最 终 来 自 清 华 大 学 和 R e a l   A I 的   T S A I L   团 队 凭 借 全 场 最 高 防 守 得 分 成 功 夺 冠 。 这 也 意 味 着 他 们 的 检 测 虚 假 图 像 / 视 频 的 模 型 是 五 支 决 赛 队 伍 中 最 准 确 的 。 尽 管 场 上 正 式 比 赛 只 有 短 短 2 0 分 钟 ， 但 线 下 的 预 赛 ， 从 8 月 就 已 经 开 始 。 每 组 选 手 大 量 搜 集 图 片 、 视 频 ， 有 的 团 队 甚 至 制 作 了 上 百 万 张 图 片 的 数 据 集 去 训 练 模 型 并 测 试 。 与 此 同 时 ， 每 个 团 队 中 还 要 有 人 去 负 责 生 成 虚 假 图 片 、 视 频 ， 研 究 如 何 绕 过 检 测 机 制 。 最 终 ， 生 成 的 图 片 与 视 频 在 制 作 的 检 测 系 统 中 进 行 检 测 ， 利 用 这 种 方 式 去 提 高 检 测 系 统 的 防 御 能 力 。
C A A D   -   虚 假 人 脸   A I   识 别 大 赛 比 赛 视 频 常 见 生 成 虚 假 图 片 或 视 频 的 技 术 常 见 生 成 虚 假 图 片 或 视 频 的 技 术 包 括   D e e p F a k e s 、 F a c e 2 F a c e 、 F a c e S w a p 、 D e e p F a c e L a b 、 s t y l e G A N 、 C y c l e G A N 等   A I   技 术 或 相 关 变 体 。 主 要 涉 及 到 人 脸 检 测 与 识 别 、 特 征 提 取 、 确 定 变 换 矩 阵 、 替 换 人 脸 等 过 程 。 而 利 用 不 同 的 数 据 和 模 型 ， 还 能 在 没 有 目 标 身 份 为 基 础 的 情 况 下 ， 直 接 合 成 根 本 不 存 在 的 人 脸 或 视 频 。 来 源 ： h t t p s : / / w w w . t h i s p e r s o n d o e s n o t e x i s t . c o m / 虚 假 人 脸 检 测 则 从 人 脸 生 成 的 原 理 和 本 质 出 发 虚 假 人 脸 检 测 则 从 人 脸 生 成 的 原 理 和 本 质 出 发 ， 基 于 机 器 学 习 到 的 样 本 、 模 型 ， 结 合 人 脸 的 图 像 特 征 等 ， 发 掘 虚 假 人 脸 中 伪 造 的 细 节 。 与   A I   换 脸 技 术 一 样 ， 虚 假 人 脸 检 测 的 技 术 也 在 不 断 更 新 、 改 进 。 今 年 1 0 月 ， 一 篇 刊 登 在   I E E E   P A M I （ 《 模 式 分 析 与 机 器 智 能 汇 刊 》 ） 上 的 论 文 声 称 ， 可 以 利 用 生 物 信 号 识 别   D e e p f a k e 视 频 ， 准 确 率 高 达 9 7 . 2 9 % ， 而 且 还 能 够 发 现 制 造   D e e p f a k e   背 后 的 生 成 模 型 。 研 究 人 员 认 为 ， 当 心 脏 跳 动 时 会 带 动 全 身 的 血 液 流 动 ， 流 动 的 血 液 会 在 人 脸 表 面 产 生 细 微 的 变 化 ， 但 假 视 频 中 显 示 的 “ 人 ” 不 会 表 现 出 与 真 实 视 频 中 的 人 相 似 的 心 跳 模 式 。 因 此 ， 可 以 通 过 检 测 心 跳 在 面 部 产 生 的 细 微 差 别 来 区 分 视 频 真 假 。
来 源 ： h t t p s : / / i e e e x p l o r e . i e e e . o r g / d o c u m e n t / 9 1 4 1 5 1 6 这 似 乎 给 虚 假 人 脸 检 测 带 来 了 新 思 路 。 然 而 ， 从 思 路 到 实 践 ， 还 有 一 段 路 要 走 。 A I 换 脸 软 件 风 靡 ， 造 成 的 低 门 槛 、 无 限 制 的 滥 用 ， 也 给 虚 假 人 脸 检 测 带 来 了 更 大 挑 战 。 庆 幸 的 是 ， 还 有 很 多 研 究 人 员 和 我 们 一 样 ， 在 攻 防 演 练 、 预 警 风 险 、 促 进 A I 技 术 更 健 康 安 全 发 展 的 道 路 上 从 未 停 歇 。 今 日 讨 论 今 日 讨 论 你 认 为   A I   换 脸 技 术 及 虚 假 人 脸 检 测 技 术 还 将 会 有 怎 样 的 博 弈 ？ 如 今 虚 假 人 脸 视 频 和 图 片 能 大 批 量 生 成 ， 造 成 诸 多 误 导 和 危 害 ， 我 们 该 如 何 应 对 ？ 转 发 本 文 ， 并 在 评 论 区 留 下 你 对 A I 换 脸 技 术 及 现 状 的 思 考 ， 或 C A A D   虚 假 人 脸 A I 识 别 大 赛 给 你 留 下 的 印 象 。 截 至 1 1 月 月 1 3 日 中 午 日 中 午 1 2 : 0 0 ， 点 赞 数 最 高 最 高 的 读 者 将 获 得 G e e k P w n   2 0 2 0   雷 锋 包 雷 锋 包 一 个 ； 点 赞 数 排 第 二 、 三 名 第 二 、 三 名 的 读 者 将 分 别 获 得 G e e k P w n 往 期 纪 念 卫 衣 往 期 纪 念 卫 衣 一 件 。
G e e k P w n   2 0 2 0   全 天 赛 事 回 顾   点 击 阅 读 原 文 观 看   G e e k P w n   2 0 2 0   全 天 赛 事 视 频 回 放 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理