搜索

[4115] 2017-07-31_这个AI会利用音频合成假视频欺骗人类

文档创建者：s7ckTeam
浏览次数：5
最后更新：2025-01-16
2017-07-31_这个AI会利用音频合成假视频欺骗人类 这 个 A I 会 利 用 音 频 合 成 假 视 频 欺 骗 人 类 原 创   E 安 全 编 辑 部   E 安 全   2 0 1 7 - 0 7 - 3 1 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 官 网 w w w . e a s y a q . c o m E 安 全 7 月 3 1 日 讯   美 国 华 盛 顿 大 学 的 计 算 机 科 学 家 团 队 研 究 人 员 开 发 了 一 种 机 器 学 习 算 法 ， 可 以 将 声 音 片 段 变 成 能 口 型 一 致 的 视 频 内 容 。 研 究 人 员 使 用 人 工 智 能 （ A I ） 制 作 了 一 段 美 国 前 总 统 巴 拉 克 · 奥 巴 马 谈 论 恐 怖 主 义 等 多 个 话 题 的 场 景 ， 视 频 中 呈 现 的 是 奥 巴 马 先 前 从 未 发 表 过 的 言 论 ， 相 当 逼 真 ， 毫 无 破 绽 ， 但 这 实 际 上 却 是 使 用 现 有 的 视 频 演 讲 人 工 生 成 的 片 段 。 在 网 络 飞 速 迅 速 发 展 的 今 天 ， 网 络 上 充 斥 着 各 种 鱼 目 混 珠 的 文 字 类 假 新 闻 ， 这 已 不 足 为 奇 。 各 种 合 成 图 片 和 剪 辑 视 频 遍 布 微 博 、 微 信 、 论 坛 ， 使 人 真 假 难 辨 ， 生 成 以 假 乱 真 的 假 新 闻 视 频 一 天 比 一 天 容 易 。 华 盛 顿 大 学 的 研 究 人 员 相 信 ， 该 系 统 可 以 最 终 用 于 改 进 视 频 通 话 ， 甚 至 确 定 某 段 视 频 的 真 伪 。 该 系 统 对 神 经 网 络 进 行 训 练 ， 使 其 学 会 观 看 人 类 讲 话 的 视 频 ， 他 们 能 将 任 意 奥 巴 马 音 频 片 段 生 成 真 实 的 口 型 ， 之 后 将 口 型 进 行 处 理 使 其 看 起 来 更 加 逼 真 ， 并 覆 盖 到 不 同   “ 目 标 ” 视 频 中 的 奥 巴 马 面 部 。 最 终 ， 研 究 人 员 会 调 整 目 标 视 频 的 时 间 ， 使 得 奥 巴 马 的 表 情 看 起 来 自 然 ， 且 与 语 言 表 达 节 奏 相 符 。 为 了 实 现 这 一 目 标 ， 他 们 将 该 校 图 形 实 验 室 之 前 的 研 究 成 果 ， 与 最 新 的 口 型 合 成 技 术 结 合 起 来 。 并 且 该 技 术 还 可 以 实 现 小 幅 时 移 ， 从 而 让 神 经 网 络 预 测 说 话 者 接 下 来 所 要 表 达 的 内 容 。 该 团 队 之 所 以 选 择 奥 巴 马 ， 是 因 为 这 套 系 统 需 要 1 4 小 时 的 视 频 进 行 学 习 ， 而 奥 巴 马 每 周 都 有 为 时 1 7 个 小 时 的 演 讲 素 材 ， 他 显 然 是 最 佳 人 选 。 根 据 音 频 合 成 视 频 此 前 外 媒 曾 报 道 ， 去 年 6 月 ， 斯 坦 福 大 学 的 研 究 人 员 发 布 了 类 似 的 方 法 ： 实 时 修 改 某 人 的 面 部 表 情 ， 以 此 模 仿 另 一 个 人 的 表 情 。 但 是 ， 华 盛 顿 大 学 研 究 人 员 发 布 的 这 份 新 研 究 新 增 了 一 种 功 能 ， 即 直 接 根 据 音 频 合 成 视 频 。
华 盛 顿 大 学 研 究 人 员 在 研 究 报 告 中 提 到 几 种 实 际 应 用 （ 将 音 频 生 成 高 品 质 视 频 ） ， 包 括 帮 助 听 力 障 碍 者 在 电 话 中 通 过 唇 语 识 别 音 频 内 容 ， 或 在 电 影 和 游 戏 行 业 中 创 造 逼 真 的 数 字 人 物 形 象 。 但 是 ， 此 类 技 术 带 来 的 负 面 影 响 更 令 人 不 安 ， 因 为 这 可 能 会 大 肆 扩 散 视 频 假 新 闻 。 但 是 ， 研 究 人 员 在 研 究 中 仅 使 用 了 真 实 的 音 频 ， 他 们 能 无 缝 跳 过 某 些 片 段 ， 并 对 奥 巴 马 的 语 句 重 新 排 序 ， 甚 至 使 用 奥 巴 马 模 仿 艺 人 的 音 频 达 到 近 乎 完 美 的 效 果 。 语 音 合 成 软 件 的 快 速 发 展 还 为 伪 造 视 频 提 供 了 简 单 、 现 成 的 解 决 方 案 。 判 断 视 频 的 真 伪 尚 需 时 日 目 前 视 频 合 成 技 术 的 有 效 性 受 到 指 定 人 物 的 可 用 视 频 素 材 数 量 和 质 量 限 制 。 研 究 报 告 指 出 ， A I 算 法 至 少 需 要 几 个 小 时 的 视 频 素 材 ， 无 法 处 理 某 些 边 缘 情 况 ， 例 如 面 部 轮 廓 。 未 来 该 算 法 或 许 只 需 要 使 用 1 个 小 时 的 视 频 就 能 识 别 某 人 的 声 音 和 说 话 模 式 。 研 究 人 员 选 择 将 奥 巴 马 作 为 首 个 研 究 范 例 ， 不 仅 是 因 为 奥 巴 马 每 周 的 演 讲 视 频 提 供 大 量 公 开 可 用 的 高 清 晰 素 材 （ 直 面 镜 头 ） ， 更 因 为 其 语 调 没 有 太 大 的 起 伏 。 而 且 这 种 神 经 网 络 目 前 只 能 一 次 学 习 一 个 人 ， 该 团 队 未 来 可 能 会 开 发 各 种 算 法 来 判 断 一 段 视 频 的 真 伪 。 其 它 公 众 人 物 视 频 更 具 挑 战 性 ， 对 技 术 要 求 更 高 。 据 《 经 济 学 人 》 （ T h e   E c o n o m i s t ） 本 月 初 报 道 ， 有 一 种 解 决 方 案 可 能 要 求 录 音 包 含 元 数 据 ， 即 显 示 捕 获 录 音 的 时 间 、 地 点 以 及 方 式 。 了 解 这 些 数 据 也 许 能 从 根 本 上 剔 除 假 图 片 ， 例 如 当 时 的 已 知 局 部 特 征 不 匹 配 。
由 于 各 种 新 型 假 新 闻 充 斥 网 络 ， 消 费 者 要 擦 亮 眼 睛 、 理 性 判 断 。 而 在 社 交 网 络 上 晒 太 多 照 片 ， 在 使 用 视 频 聊 天 工 具 保 存 的 大 量 视 频 等 网 民 的 个 人 信 息 ， 这 些 是 否 在 未 来 会 带 来 安 全 隐 患 ， 也 应 值 得 关 注 。 3 1 E 安 全 推 荐 文 章 安 全 推 荐 文 章 官 网 ： 官 网 ： w w w . e a s y a q . c o m 2 0 1 7 年 年 7 月 月   0 1 美 国 第 三 届 F i n T e c h 论 坛 三 月 召 开   将 重 点 关 注 A I 和 区 块 链 0 2 迪 拜 警 方 除 了 开 跑 车 巡 逻 ， 还 使 用 A I 进 行 犯 罪 预 测 0 3 人 工 智 能 如 何 阻 止 勒 索 软 件 ？ 0 4 人 工 智 能 将 给 网 络 安 全 行 业 带 来 什 么 影 响 ？ 0 5 美 国 防 部 秘 密 武 器 专 家 ： 人 工 智 能 或 将 左 右 未 来 战 场 格 局 0 6 人 工 智 能 、 机 器 学 习 及 非 恶 意 软 件 攻 击 的 联 系 和 缺 陷 0 7 人 工 智 能 会 给 企 业 带 来 哪 些 影 响 ？ 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理