搜索

[14984] 2020-02-07_2020：“深度伪造”与“深度欺骗”的一年

文档创建者：s7ckTeam
浏览次数：17
最后更新：2025-01-18
2020-02-07_2020：“深度伪造”与“深度欺骗”的一年 2 0 2 0 ： “ 深 度 伪 造 ” 与 “ 深 度 欺 骗 ” 的 一 年 S a n d r a 1 4 3 2   F r e e B u f   2 0 2 0 - 0 2 - 0 7 在 过 去 的 一 年 中 ， 可 用 于 生 成 逼 真 、 虚 假 或 人 为 操 控 的 音 视 频 机 器 学 习 模 型 在 过 去 的 一 年 中 ， 可 用 于 生 成 逼 真 、 虚 假 或 人 为 操 控 的 音 视 频 机 器 学 习 模 型 d e e p f a k e 逐 渐 见 诸 报 端 ， 成 为 媒 体 逐 渐 见 诸 报 端 ， 成 为 媒 体 争 相 报 道 的 对 象 ， 并 成 为 新 兴 的 网 络 安 全 威 胁 。 公 众 接 触 到 争 相 报 道 的 对 象 ， 并 成 为 新 兴 的 网 络 安 全 威 胁 。 公 众 接 触 到 d e e p f a k e 首 先 是 通 过 娱 乐 视 频 ， 可 用 首 先 是 通 过 娱 乐 视 频 ， 可 用 d e e p f a k e 工 具 工 具 生 成 ， 将 明 星 的 脸 部 叠 加 在 色 情 视 频 中 。 生 成 ， 将 明 星 的 脸 部 叠 加 在 色 情 视 频 中 。 尽 管 这 些 视 频 低 质 且 明 显 可 以 看 出 来 是 不 合 法 的 ， 但 是 这 项 新 技 术 对 于 人 们 区 分 虚 拟 和 现 实 还 是 有 一 定 的 潜 在 影 响 。 在 政 治 世 界 中 ， 尤 其 值 得 人 们 关 注 ， d e e p f a k e 可 以 成 为 一 种 攻 击 政 客 或 政 党 的 武 器 ， 操 纵 公 众 舆 论 来 影 响 选 举 甚 至 股 市 。 几 年 前 ， d e e p f a k e 技 术 研 发 有 限 ， 这 种 工 具 只 为 资 源 丰 富 且 技 术 先 进 的 国 家 使 用 ， 但 是 现 在 d e e p f a k e s 工 具 免 费 提 供 、 随 处 可 得 ， 且 简 单 易 学 ， 因 此 任 何 能 够 上 网 、 有 时 间 和 目 的 的 人 都 能 够 随 时 制 作 d e e p f a k e 视 频 ， 并 将 虚 假 内 容 视 频 在 社 交 媒 体 中 传 播 开 来 。 进 一 步 来 说 ， d e e p f a k e 工 具 越 来 越 智 能 ， 生 成 视 频 所 需 要 的 素 材 也 越 来 越 少 。 早 期 需 要 几 个 小 时 的 视 频 和 音 频 或 者 是 大 数 据 集 ， 才 可 以 进 行 机 器 分 析 和 生 成 。 这 意 味 着 较 高 关 注 度 的 人 比 如 政 客 、 名 人 、 知 名 C E O 或 拥 有 大 量 网 络 资 源 的 人 容 易 被 盯 上 ， 成 为 虚 假 视 频 的 主 角 。 现 在 ， 只 要 有 一 张 照 片 就 可 以 生 成 这 类 虚 假 视 频 了 。 未 来 生 成 虚 假 视 频 只 会 越 来 越 容 易 ， 比 如 F a c e b o o k 上 的 个 人 资 料 图 片 或 者 I n s t a g r a m 的 音 频 片 段 ， 由 此 可 见 ， 人 人 都 应 该 提 高 警 惕 了 ， 防 止 自 己 成 为 下 一 个 目 标 。 虚 假 的 现 实 虚 假 的 现 实 D e e p f a k e 之 所 以 强 大 ， 是 因 为 它 颠 覆 了 人 类 对 现 实 的 基 本 理 解 ： 眼 见 为 实 。 D e e p f a k e 让 真 相 与 现 实 脱 节 ， 此 外 还 能 够 引 起 情 感 上 的 回 应 。 比 如 你 看 到 一 些 令 人 不 快 的 东 西 ， 即 使 之 后 你 知 道 它 是 假 的 ， 但 是 你 依 然 会 有 负 面 情 绪 ， 并 且 将 所 见 所 感 和 潜 意 识 联 系 起 来 。 去 年 1 0 月 ， 州 长 G a v i n   N e w s o m 签 署 了 加 利 福 尼 亚 州 的 A B   7 3 0 法 案 （ 称 为 “ 反 D e e p f a k e 法 案 ” ） ， 希 望 在 2 0 2 0 年 大 选 之 前 减 少 恶 意 d e e p f a k e 虚 假 视 频 的 传 播 。 虽 然 这 一 举 措 值 得 称 赞 ， 但 法 案 本 身 没 有 任 何 进 展 。 它 人 为 地 设 置 了 一 个 时 间 线 ， 这 个 时 间 线 只 适 用 于 在 选 举 的 6 0 天 内 具 有 “ 真 实 恶 意 ” 原 则 的 d e e p f a k e 虚 假 视 频 ， 这 就 免 除 了 传 播 平 台 监 管 和 删 除 d e e p f a k e 虚 假 视 频 的 责 任 ， 相 反 地 ， 法 律 依 赖 于 虚 假 视 频 生 产 者 的 自 我 承 认 和 所 有 权 声 明 ， 而 对 于 “ 真 实   恶 意 ” 的 证 据 查 找 过 程 不 是 那 么 明 确 的 。
制 定 该 法 律 的 初 衷 并 非 去 执 行 它 ， 更 可 能 的 是 立 法 者 向 人 们 展 示 自 己 已 经 迈 出 的 第 一 步 ， 表 明 他 们 知 道 d e e p f a k e 对 民 主 的 严 重 威 胁 。 而 这 场 斗 争 才 刚 刚 开 始 。 在 理 想 情 况 下 ， 该 法 律 将 影 响 并 指 导 联 邦 政 府 和 其 他 州 的 工 作 ， 以 此 为 初 始 模 板 进 行 更 有 效 和 更 具 执 行 力 的 立 法 。 D e e p f a k e 技 术 将 成 为 技 术 将 成 为 2 0 2 0 年 的 商 业 威 胁 年 的 商 业 威 胁 迄 今 为 止 ， 和 d e e p f a k e 相 关 的 讨 论 主 要 集 中 在 通 过 社 交 媒 体 （ 尤 其 是 在 政 治 领 域 ） 推 动 的 虚 假 信 息 运 动 和 大 规 模 人 为 操 纵 的 潜 在 影 响 上 。 2 0 2 0 年 将 是 d e e p f a k e 成 为 企 业 真 正 威 胁 的 一 年 ， 而 企 业 的 网 络 防 御 团 队 还 没 有 能 力 应 对 这 种 威 胁 。 鱼 叉 式 网 络 攻 击 针 对 的 是 高 级 员 工 ， 通 常 会 诱 使 他 们 手 动 完 成 任 务 ， 比 如 支 付 伪 造 发 票 ， 发 送 实 体 文 件 或 者 手 动 设 置 网 络 犯 罪 分 子 的 登 录 凭 证 。 从 技 术 角 度 来 看 ， 这 些 邮 件 通 常 更 难 检 测 ， 因 为 该 电 子 邮 件 不 包 含 任 何 可 疑 的 链 接 或 附 件 ， 并 且 通 常 与 B E C 攻 击 结 合 使 用 （ 当 黑 客 控 制 了 员 工 的 电 子 邮 件 时 ， 他 们 可 以 从 合 法 地 址 发 送 电 子 邮 件 ） 。 根 据 F B I 的 数 据 ， 在 过 去 三 年 中 ， B E C 攻 击 给 全 球 组 织 造 成 的 损 失 超 过 2 6 0 亿 美 元 。 而 d e e p f a k e 能 够 加 剧 这 些 攻 击 ， 比 如 利 用 语 音 邮 件 模 拟 高 层 欺 骗 员 工 ， 这 就 让 网 络 犯 罪 更 加 容 易 。
有 一 种 观 点 认 为 ， 攻 击 打 破 了 真 相 壁 垒 ， 与 其 认 为 攻 击 请 求 是 虚 假 的 ， 接 受 请 求 并 相 信 它 是 真 实 可 信 的 做 法 反 倒 更 有 意 义 ， 能 够 直 接 地 揭 露 它 。 然 而 ， 当 d e e p f a k e 技 术 进 一 步 发 展 时 ， 攻 击 的 真 实 和 虚 假 反 而 难 以 辨 别 了 。 比 如 员 工 与 其 认 为 的 C E O 进 行 视 频 通 话 ， 屏 幕 后 的 犯 罪 分 子 实 时 生 成 d e e p f a k e 视 频 。 去 年 早 些 时 候 ， 一 位 C E O 被 A I 产 生 的 声 音 欺 骗 ， 将 2 4 3 0 0 0 美 元 转 移 到 他 认 为 是 公 司 供 应 商 的 银 行 账 户 中 。 当 前 ， 安 全 行 业 还 没 有 设 备 、 电 子 邮 件 筛 选 或 任 何 技 术 来 防 御 d e e p f a k e 技 术 。 但 是 ， 也 不 是 一 无 所 获 。 例 如 ， F a c e b o o k ， 微 软 和 大 学 研 究 人 员 发 起 了 D e e p f a k e 检 测 挑 战 赛 ， 呼 吁 推 动 开 源 d e e p f a k e 检 测 工 具 的 开 发 。 国 防 高 级 研 究 计 划 局 （ D A R P A ） 宣 布 了 语 义 取 证 或 ” S e m a F o r 计 划 ” ， 该 计 划 旨 在 开 发 “ 语 义 取 证 ” ， 作 为 过 去 使 用 的 统 计 检 测 技 术 的 另 一 种 防 御 方 法 。 当 前 存 在 的 唯 一 防 范 方 法 是 教 育 用 户 ， 让 他 们 了 解 这 些 新 型 攻 击 的 方 法 ， 并 警 惕 任 何 看 起 来 不 同 寻 常 的 行 为 或 者 活 动 。 信 任 早 已 不 再 是 我 们 负 担 得 起 的 奢 侈 品 了 。 * 参 考 来 源 ： 参 考 来 源 ： h e l p n e t s e c u r i t y ， ， S a n d r a 1 4 3 2 编 译 ， 转 载 请 注 明 来 自 编 译 ， 转 载 请 注 明 来 自 F r e e B u f . C O M 精 彩 推 荐 精 彩 推 荐
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理