搜索

[17548] 2018-05-31_当AI学会“山寨”，连美国国防部都坐不住了

文档创建者：s7ckTeam
浏览次数：2
最后更新：2025-01-18
2018-05-31_当AI学会“山寨”，连美国国防部都坐不住了 “ A I   造 假 造 假 ” 是 什 是 什 么 ？ 么 ？ 当   A I   学 会 “ 山 寨 ” ， 连 美 国 国 防 部 都 坐 不 住 了 小 明   G e e k P w n   2 0 1 8 - 0 5 - 3 1 近 日 ， M I T   科 技 评 论 科 技 评 论 跟 踪 报 道 了 美 国 国 防 部 高 级 研 究 计 划 局 （ D A R P A ） 资 助 的 “ 人 工 智 能 造 假 竞 赛 ” ， 寻 找 识 别   A I   造 假 的 技 术 。 尽 管   D A R P A   自 认 ： 这 可 能 是 一 场 失 败 的 战 斗 。
图 中 奥 巴 马 用 英 语 说 ： “ 川 普 总 统 完 全 就 是 个 笨 蛋 。 ” 这 段 无 法 上 传 的 视 频 来 自   B u z z f e e d ， 无 法 上 传 的 原 因 大 概 是 ： 它 是 假 的 ！ 它 是 假 的 ！
且 不 说 前 总 统 怒 怼 现 总 统 制 造 出 的 火 爆 话 题 ， 这 支 视 频 在 推 特 上 狂 揽   5   万 转 发 和   1 2   万 赞 ， 它 的 制 作 工 具 也 非 常 有 意 思 ， 采 用 的 是   A d o b e   A E   和   F a k e A p p 。 F a k e A p p   是 一 个 用 于 生 成 假 视 频 的 “ 换 脸 ” 软 件 ， 使 用 者 训 练   A I   算 法 让 破 绽 明 显 的 换 脸 视 频 变 得 更 加 “ 真 实 ” 。 于 是 ， 很 多 人 开 始 利 用 这 个 技 术 把 “ 小 电 影 ” 主 角 的 脸 换 成 自 己 喜 欢 的 明 星 。 未 来 的 电 影 若 是 这 样 制 作 的 ， 倒 也 无 可 厚 非 。 那 么 ， 如 果 是 新 闻 呢 ？ 如 果 是 监 控 探 头 中 的 视 频 呢 ？ A I   若 被 用 来 制 造 假 图 像 、 假 视 频 并 进 行 散 布 ， 普 通 群 众 上 当 受 骗 、 失 财 是 小 ， 加 剧 社 会 冲 突 、 威 胁 国 家 安 全 也 未 尝 不 可 。
说 起 “ A I   造 假 ” 技 术 的 飞 跃 式 发 展 ， 是 在 生 成 对 抗 网 络 （ G e n e r a t i v e   A d v e r s a r i a l   N e t w o r k s ， 简 称 G A N ） 出 现 之 后 。 2 0 1 8   年 《 麻 省 理 工 科 技 评 论 》 评 选 的 年 《 麻 省 理 工 科 技 评 论 》 评 选 的 “ 全 球 十 大 突 破 性 技 术 全 球 十 大 突 破 性 技 术 ” 将 将   G A N   选 入 其 中 选 入 其 中 ， 评 价 道 ： “ 它 （ G A N ） 给 机 器 带 来 一 种 类 似 想 象 力 的 能 力 ， 因 此 可 能 让 它 们 变 得 不 再 那 么 依 赖 人 类 ， 但 也 把 它 们 变 成 了 一 种 能 力 惊 人 的 数 字 造 假 工 具 。 ” 《 福 布 斯 》 也 将 《 福 布 斯 》 也 将   G A N   列 入 列 入 “ 过 去 三 年 最 佳 创 新 技 术 榜 单 过 去 三 年 最 佳 创 新 技 术 榜 单 ” ， 与 实 用 性 增 强 现 实 、 云 计 算 、 人 工 智 能 与 ， 与 实 用 性 增 强 现 实 、 云 计 算 、 人 工 智 能 与 深 度 学 习 应 用 等 前 沿 技 术 齐 名 。 深 度 学 习 应 用 等 前 沿 技 术 齐 名 。 G A N   的 发 明 者   I a n   G o o d f e l l o w   现 为 谷 歌 大 脑 研 究 科 学 家 、 《 深 度 学 习 》 教 科 书 作 者 之 一 。 2 0 1 4   年 的 一 晚 ， 他 想 到 让 两 个 神 经 网 络 互 相 对 抗 会 产 生 怎 样 的 效 果 . . . . . . 于 是 他 提 出 了   G A N 。 伟 大 的 模 仿 大 师 过 去 可 能 是 伟 大 的 鉴 定 师 。
关 于   G A N ， 我 们 可 以 简 单 理 解 为 一 个 制 造 仿 制 品 的 名 画 仿 造 者 和 一 个 鉴 定 师 。 两 者 在 互 相 博 弈 的 过 程 中 训 练 自 己 的 技 巧 ， 让 各 自 的 技 能 得 到 提 升 。 最 终 ， 仿 造 者 会 生 成 鉴 定 师 无 法 判 断 的 赝 品 。 最 终 ， 仿 造 者 会 生 成 鉴 定 师 无 法 判 断 的 赝 品 。 如 此 一 来 ， 如 此 一 来 ， G A N   赋 予 机 器 更 加 强 大 的 赋 予 机 器 更 加 强 大 的 “ 分 析 能 力 分 析 能 力 ” ， 同 时 也 提 升 了 机 器 的 造 假 能 力 。 ， 同 时 也 提 升 了 机 器 的 造 假 能 力 。 目 前 在   G A N   领 域 的 研 究 已 经 有 很 多 。 2 0 1 6   年   I a n   G o o d f e l l o w   和 谷 歌 大 脑 另 一 位 大 牛   A l e x e y K u r a k i n   在   G e e k P w n （ 极 棒 ） 黑 客 大 赛 硅 谷 站 现 场 演 示 了 成 功 利 用 打 印 出 的 对 抗 样 本 图 像 欺 骗 视 觉 分 类 器 ， 证 实 对 抗 样 本 能 够 产 生 现 实 危 害 。 2 0 1 7   年 ， G e e k P w n   上 海 站 选 手 、 来 自 中 国 金 融 认 证 中 心 （ C F C A ） 机 器 学 习 实 验 室 成 功 利 用   G A N   让 A I   模 仿 笔 迹 并 成 功 骗 过 专 业 笔 迹 鉴 定 专 家 。
C A A D 2 0 1 8   对 抗 样 本 攻 防 大 对 抗 样 本 攻 防 大 赛 赛 笔 迹 作 为 签 名 者 的 身 份 象 征 自 古 以 来 就 存 在 ， 因 为 那 时 签 名 是 可 信 的 ， 大 多 数 情 况 下 不 可 伪 造 。 但 是 现 在 机 器 掌 握 了 这 门 模 仿 技 艺 ， 可 以 充 当 司 法 证 据 的 笔 迹 鉴 定 遭 到 了 前 所 未 有 的 “ 灭 门 之 灾 ” 。 前 文 提 到 的   2 0 1 8   年 突 然 爆 火 的 “ 小 ” 视 频 换 脸 应 用   D e e p F a k e ， 同 样 采 用 了   G A N   技 术 。 G A N   的 发 展 似 乎 已 经 超 过 了 专 家 学 者 的 预 料 ， 连 假 新 闻 都 的 发 展 似 乎 已 经 超 过 了 专 家 学 者 的 预 料 ， 连 假 新 闻 都 “ 搞 不 定 搞 不 定 ” 的 人 类 又 该 如 何 面 对 危 机 四 伏 的 的 人 类 又 该 如 何 面 对 危 机 四 伏 的 假 图 、 假 视 频 、 假 笔 迹 呢 ？ 假 图 、 假 视 频 、 假 笔 迹 呢 ？ 现 在 现 在   D A R P A   想 要 解 决 的 这 个 问 题 ， 想 要 解 决 的 这 个 问 题 ， G e e k P w n   同 样 看 到 了 ， 而 且 同 样 看 到 了 ， 而 且 早 就 开 始 了 行 动 。 早 就 开 始 了 行 动 。 2 0 1 8   年 初 ， G e e k P w n   宣 布 联 合 谷 歌 大 脑 顶 级 专 家   A l e x e y   K u r a k i n   和   I a n   G o o d f e l l o w 、 美 国 加 州 大 学 伯 克 利 分 校   E E C S   教 授 宋 晓 冬 共 同 发 起 了 “ 2 0 1 8   对 抗 样 本 攻 防 赛 ” （ C o m p e t i t i o n   o n   A d v e r s a r i a l A t t a c k s   a n d   D e f e n s e s   2 0 1 8 ） ， 简 称   C A A D 2 0 1 8 。
本 届 比 赛 聚 焦 针 对 图 像 分 类 器 的 攻 防 技 术 ， 设 立 了 “ 定 向 对 抗 攻 击 ” 、 “ 非 定 向 对 抗 攻 击 ” 以 及 “ 对 抗 防 御 ” 三 大 项 目 ， 参 赛 者 可 以 同 时 报 名 ， 既 担 任 攻 击 者 也 可 以 扮 演 功 能 防 御 者 的 角 色 ， 分 别 提 交 程 序 。 非 定 向 对 抗 攻 击 非 定 向 对 抗 攻 击 ： 此 项 比 赛 的 目 标 是 轻 微 修 改 原 图 像 ， 使 得 未 知 分 类 器 将 修 改 后 的 图 像 错 误 分 类 。 定 向 对 抗 攻 击 定 向 对 抗 攻 击 ： 此 项 比 赛 的 目 标 是 轻 微 修 改 原 图 像 ， 使 得 未 知 分 类 器 将 修 改 后 的 图 像 错 误 分 类 到 指 定 的 类 。 对 抗 防 御 对 抗 防 御 ： 此 项 比 赛 的 目 标 是 生 成 基 于 机 器 学 习 的 分 类 器 ， 对 对 抗 样 本 有 强 的 防 御 力 ， 也 即 能 够 正 确 地 把 对 抗 样 本 进 行 分 类 。 为 了 让 大 家 更 好 理 解 这 个 规 则 ， 我 们 举 个 例 子 说 明 一 下 ： 非 定 向 对 抗 攻 击 非 定 向 对 抗 攻 击 ： 你 要 让   A I   以 为 看 到 的 苹 果 并 不 是 苹 果 。 定 向 对 抗 攻 击 定 向 对 抗 攻 击 ： 你 要 让   A I   以 为 看 到 的 苹 果 是 香 蕉 。 对 抗 防 御 对 抗 防 御 ： 无 论 是 苹 果 还 是 香 蕉 ， 你 要 让   A I   不 犯 错 。 参 赛 者 需 要 提 交 程 序 来 完 成 相 应 的 任 务 。 参 赛 过 程 中 有 任 何 疑 问 ， 请 发 送 邮 件 至   c a a d @ g e e k p w n . o r g 。 得 分 评 估 【 阶 段 一 】 首 先 使 用 基 准 攻 击 和 防 御 进 行 预 评 估 ， 在 三 个 项 目 中 各 挑 选 前   4 0   名 （ 如 果 第 4 0 名 处 有 比 分 非 常 接 近 的 情 况 ， 比 赛 组 委 将 再 挑 出 最 多   1 0   名 ） ； 【 阶 段 二 】 三 项 的 前   4 0   名 会 让 各 个 攻 击 对 防 御 进 行 单 循 环 对 抗 ， 计 算 总 的 分 数 并 决 出 名 次 。 评 分 公 式 评 分 公 式 非 定 向 对 抗 攻 击 定 向 对 抗 攻 击 对 抗 防 御
关 于 得 分 详 细 说 明 ， 欢 迎 前 往   c a a d . g e e k p w n . o r g 获 胜 选 手 奖 金 获 胜 选 手 奖 金 本 次 比 赛 三 个 项 目 各 取 前 五 名 前 五 名 颁 奖 ： 第 一 名 - 人 民 币   1 0 0 , 0 0 0   元 第 二 名 - 人 民 币   5 5 , 0 0 0   元 第 三 名 - 人 民 币   3 5 , 0 0 0   元 第 四 、 五 名 - 人 民 币   6 , 0 0 0   元 获 胜 队 伍 需 要 提 交 技 术 说 明 文 档 ， 根 据 文 档 最 高 得 分 者 可 另 得 技 术 奖 人 民 币   6 , 0 0 0   元 。 参 赛 时 间 参 赛 时 间 报 名 截 止 时 间 为   2 0 1 8   年 年   8   月 月   3 1   日 日 。 最 后 放 一 个 彩 蛋 ： C A A D   C T F   邀 请 赛 邀 请 赛 将 在   8   月 于 美 国 拉 斯 维 加 斯   G e e k P w n   大 赛 现 场 举 行 。 主 办 方 将 邀 请 全 球 顶 级   A I 研 究 团 队 ， 通 过   C T F   夺 旗 赛 的 形 式 结 合   G A N   进 行 攻 防 对 战 。 人 工 智 能 攻 防 与 网 络 安 全 的 跨 界 ， 将 会 带 来 哪 些 惊 喜 呢 ？ 关 注 并 置 顶 关 注 并 置 顶   G e e k P w n   微 信 公 众 号 ， 带 你 第 一 时 间 触 及 未 来 ！ - - - E N D - - - 关 注 一 下 ， 读 懂 黑 客 阅 读 原 文 界 世 全 让 想 遇 见 极 棒 的 你 G e e k P w n

回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理