搜索

[4859] 2018-02-23_谷歌为世界造AI,世界却用AI做AV

文档创建者：s7ckTeam
浏览次数：5
最后更新：2025-01-16
2018-02-23_谷歌为世界造AI,世界却用AI做AV 谷 歌 为 世 界 造 A I , 世 界 却 用 A I 做 A V 原 创   E 安 全   E 安 全   2 0 1 8 - 0 2 - 2 3 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 官 网 w w w . e a s y a q . c o m E 安 全 2 月 2 3 日 讯 ， 2 0 1 5 年 ， 谷 歌 公 司 发 布 了 其 原 本 内 部 使 用 的 人 工 智 能 算 法   T e n s o r F l o w 工 具 — — 此 举 彻 底 改 变 了 世 界 各 地 人 工 智 能 的 研 究 与 开 发 基 调 。 借 用 谷 歌 公 司 首 席 执 行 官 的 说 法 ， 这 意 味 着 全 球 开 发 者 将 免 费 以 开 放 、 易 用 的 方 式 利 用 T e n s o r F l o w   工 具 进 行 创 造 。 人 工 智 能 技 术 将 由 学 术 领 域 正 式 入 驻 用 户 个 人 笔 记 本 电 脑 。 关 于 关 于   T e n s o r F l o w T e n s o r F l o w ™   是 一 个 采 用 数 据 流 图 （ d a t a   f l o w   g r a p h s ） ， 用 于 数 值 计 算 的 开 源 软 件 库 。 节 点 （ N o d e s ） 在 图 中 表 示 数 学 操 作 ， 图 中 的 线 （ e d g e s ） 则 表 示 在 节 点 间 相 互 联 系 的 多 维 数 据 数 组 ， 即 张 量 （ t e n s o r ） 。 它 灵 活 的 架 构 让 你 可 以 在 多 种 平 台 上 展 开 计 算 ， 例 如 台 式 计 算 机 中 的 一 个 或 多 个 C P U （ 或 G P U ） ， 服 务 器 ， 移 动 设 备 等 等 。 T e n s o r F l o w   最 初 由 G o o g l e 大 脑 小 组 （ 隶 属 于 G o o g l e 机 器 智 能 研 究 机 构 ） 的 研 究 员 和 工 程 师 们 开 发 出 来 ， 用 于 机 器 学 习 和 深 度 神 经 网 络 方 面 的 研 究 ， 但 这 个 系 统 的 通 用 性 使 其 也 可 广 泛 用 于 其 他 计 算 领 域 。 T e n s o r F l o w 工 具 野 蛮 生 长 工 具 野 蛮 生 长 然 而 ， T e n s o r F l o w   的 “ 普 及 ” 的 力 量 强 大 到 彻 底 超 出 谷 歌 公 司 的 控 制 范 围 。 T e n s o r F l o w   工 具 公 开 发 布 以 来 ， 仅 仅 两 年 多 时 间 ， 尽 管 仍 然 由 学 术 界 与 硅 谷 主 导 着 软 件 领 域 的 发 展 方 向 ， 但 这 种 力 量 平 衡 正 在 发 生 变 化 ， 其 中 的 催 化 剂 正 是   d e e p f a k e s — — 某 匿 名 的   R e d d i t   用 户 。 你 看 的 片 儿 都 是 谁 的 脸 ？ 你 看 的 片 儿 都 是 谁 的 脸 ？
d e e p f a k e s   利 用   A I   软 件 成 功 实 现 了 将 任 意 面 部 图 像 以 几 乎 无 缝 化 方 式 自 动 拼 接 至 视 频 当 中 。 d e e p f a k e s   利 用 深 度 学 习 技 术 能 够 把 任 何 人 的 面 孔 （ 例 如 电 影 明 星 ） 放 在 色 情 演 员 身 上 。 d e e p f a k e s   被 披 露 后 又 建 立 了 自 己 的   s u b r e d d i t ， 并 迅 速 积 累 了 超 过 9 . 1 万 用 户 。 另 一 位 名 为   d e e p f a k e a p p   的   R e d d i t   用 户 则 发 布 了 一 款 名 为   F a k e A p p   的 工 具 ， 其 允 许 任 何 人 下 载   A I   软 件 并 在 正 确 的 硬 件 上 自 行 使 用 。 截 至 目 前 ， R e d d i t   已 经 禁 用 了 该 子 社 区 ， 并 表 示 其 中 违 反 了 网 站 提 出 了 强 制 性 色 情 控 制 政 策 。 根 据   F a k e A p p   发 布 的 用 户 指 南 ， 该 软 件 以   T e n s o r F l o w   为 基 础 。 谷 歌 公 司 的 员 工 利 用   T e n s o r F l o w   也 打 造 出 过 类 似 的 解 决 方 案 ， 只 是 设 置 与 主 题 略 有 不 同 ， 谷 歌 用 于 从 零 开 始 训 练 算 法 生 成 图 像 。 此 外 ， 用 户 还 可 以 利 用 其 发 挥 更 为 自 由 的 想 象 空 间 ， 例 如 将 尼 古 拉 斯 · 凯 奇 放 在 一 大 堆 其 它 电 影 当 中 。 有 9 1 0 0 0 人 订 阅 了 d e e p f a k e s 的 子 社 区 ， 单 纯 只 是 为 了 过 把 眼 瘾 。
A I   技 术 的 负 面 领 域 应 用 技 术 的 负 面 领 域 应 用 虽 然   T e n s o r F l o w   属 于 开 源 项 目 ， 但 正 如 潜 在 的 癌 症 检 测 算 法 一 样 ， F a k e A p p   代 表 着 开 源 领 域 的 黑 暗 面 。 谷 歌 （ 以 及 微 软 、 A m a z o n 乃 至 F a c e b o o k ） 放 弃 了 对 这 股 巨 大 技 术 力 量 的 控 制 权 ， 且 承 诺 不 对 相 关 使 用 行 为 作 出 任 何 约 束 。 任 何 人 都 能 够 下 载 T e n s o r F l o w   这 个 A I   软 件 ， 并 利 用 其 制 作 自 己 的 作 品 。 伪 造 政 治 演 讲 伪 造 政 治 演 讲 这 意 味 着 从 伪 造 政 治 演 讲 （ 配 合 现 有 声 音 模 拟 A I ） 到 生 成 报 复 性 伪 造 色 情 内 容 ， 人 工 智 能 正 以 人 们 难 以 预 见 的 方 式 发 挥 着 极 为 严 重 的 负 面 作 用 。 由 于 软 件 能 够 在 本 地 计 算 机 上 运 行 ， 因 此 大 型 科 技 公 司 只 能 对 这 种 远 离 中 央 服 务 器 的 使 用 行 为 熟 视 无 睹 。 “ 开 源 代 码 ” 决 定 了 企 业 将 无 法 干 涉 人 们 的 具 体 使 用 方 法 。 A I   由 创 造 性 工 具 转 化 为 潜 在 的 伤 害 性 武 器 。 而 且 各 大 企 业 也 没 有 动 机 对 此 作 出 改 变 ： 自 由 软 件 对 其 来 讲 是 种 好 事 ， 因 为 其 允 许 更 多 人 参 与 到   A I   开 发 工 作 中 来 。 目 前 每
一 家 大 型 科 技 企 业 都 在 尽 可 能 多 地 网 罗   A I   人 才 ， 而 涌 入 这 一 领 域 的 人 员 自 然 越 多 越 好 。 此 外 ， 更 多 人 员 的 加 入 还 能 够 带 来 更 多 新 产 品 代 码 以 供 项 目 开 发 ， 而 企 业 之 外 的 人 员 可 以 人 中 寻 找 并 修 复 错 误 ， 学 生 则 能 够 在 本 科 与 博 士 课 程 当 中 利 用 该 软 件 进 行 教 学 ， 此 外 其 还 将 帮 助 刚 刚 加 入 公 司 的 新 人 们 快 速 上 手 开 发 工 作 。 机 器 学 习 机 器 学 习 “ 开 放 开 放 ” 是 必 然 趋 势 是 必 然 趋 势 A T & T   公 司 先 进 技 术 副 总 裁 、 前 机 器 学 习 研 究 员 马 辛 · 吉 尔 伯 特 表 示 ， “ 过 去 五 年 当 中 ， 机 器 学 习 领 域 确 实 出 现 了 重 大 突 破 ， 但 真 正 的 重 大 突 破 并 不 在 于 算 法 ， 其 在 本 质 上 与 上 世 纪 七 十 、 八 十 乃 至 九 十 年 代 的 算 法 并 无 区 别 。 真 正 的 突 破 在 于 开 源 浪 潮 的 普 及 。 开 源 降 低 了 准 入 门 槛 ， 使 得 相 关 技 术 不 再 是 拥 有 雄 厚 财 力 的 I B M 、 谷 歌 以 及 F a c e b o o k 们 的 专 有 物 。 ” 当 然 ， 开 源 软 件 也 使 A I 开 发 当 中 的 道 德 问 题 变 得 更 为 复 杂 。 谷 歌 公 司 目 前 提 供 的 工 具 并 不 能 创 造 出 天 网 或 者 其 它 超 级 智 能 成 果 ， 但 其 仍 然 有 可 能 造 成 实 际 存 在 的 危 害 。 谷 歌 与 微 软 等 也 在 持 续 发 布 开 源 人 工 智 能 框 架 ， 并 表 示 人 工 智 能 在 伦 理 层 面 不 会 造 成 危 害 的 声 明 。 企 业 内 的 在 职 科 学 家 们 已 经 签 署 了 协 议 ， 并 成 立 了 专 门 研 究 这 一 主 题 的 研 究 小 组 。 然 而 ， 这 些 企 业 不 会 为 下 载 其 自 由 软 件 的 用 户 提 供 任 何 指 导 或 者 授 权 。 T e n s o r F l o w 网 站 上 展 示 了 软 件 的 运 行 说 明 ， 但 却 没 有 提 供 任 何 与 道 德 伦 理 相 关 、 或 者 要 求 用 户 确 保 数 据 集 不 存 在 偏 见 的 免 责 声 明 。 几 个 月 前 ， 在 采 访 微 软 公 司 人 工 智 能 副 总 裁 哈 利 · 沙 姆 时 ， 他 表 示 目 前 还 不 太 清 楚 该 公 司 要 如 何 引 导 那 些 使 用 开 源 软 件 与 付 费 开 发 者 工 具 的 用 户 创 建 出 符 合 道 德 标 准 的 机 器 学 习 系 统 。 他 表 示 ， “ 这 真 的 非 常 困 难 ， 我 认 为 目 前 还 不 存 在 简 单 的 解 决 方 案 。 我 们 正 逐 渐 意 识 到 ， 在 设 计 机 器 学 习 算 法 的 过 程 中 ， 我 们 需 要 努 力 找 到 其 中 的 盲 区 。 ” “ 自 我 封 闭 自 我 封 闭 ” 不 是 不 是 A I 滥 用 的 解 决 之 道 滥 用 的 解 决 之 道 谷 歌 公 司 并 没 有 就 类 似 的 问 题 作 出 回 应 。 将   A I   软 件 移 出 开 源 阵 营 同 样 不 是 个 理 想 的 解 决 办 法 。 如 果 选 择 自 我 封 闭 ， 那 将 很 难 了 解 这 些 科 技 企 业 如 何 开 发 自 己 的 人 工 智 能 算 法 。 目 前 的 研 究 成 果 在   A r X i v   等 网 站 上 免 费 发 布 ， 原 始 代 码 则 在   G i t H u b   上 直 接 共 享 ， 这 意 味 着 记 者 、 学 者 乃 至 伦 理 学 家 都 能 够 寻 找 其 中 的 潜 在 缺 陷 并 要 求 对 方 作 出 调 整 。 此 外 ， 也 有 很 多 人 正 在 利 用 这 些 A I 工 具 包 进 行 生 产 性 应 用 — — 例 如 在 应 用 程 序 当 中 实 现 标 准 图 像 识 别 等 。 即 将 大 量 出 现 的 其 它 伪 造 视 频 将 通 过 F a c e b o o k 以 及 T w i t t e 等 主 流 平 台 与 世 人 见 面 ， 并 在 政 治 宣 传 当 中 找 到 新 的 发 展 空 间 — — 这 绝 不 是 什 么 遥 不 可 及 的 妄 想 。 尽 管 人 工 智 能 研 究 人 员 一 直 希 望 能 够 在 大 型 技 术 企 业 的 职 责 范 围 之 外 为 此 找 到 潜 在 的 解 决 方 案 ， 但 这 样 的 尝 试 恐 怕 无 法 获 得 成 功 — — 毕 竟 人 工 智 能 工 具 的 民 主 化 进 程 已 经 无 法 阻 挡 。
由 于 这 类 核 心 技 术 的 开 发 者 无 需 为 自 己 创 造 的 内 容 负 责 ， 因 此 很 可 能 落 在 视 频 与 图 像 共 享 平 台 之 上 。 例 如 ， G f y c a t 删 除 了 其 网 站 上 托 管 的 全 部 D e e p f a k e s   G I F 动 图 。 R e d d i t 已 经 关 闭 了 该 子 社 区 。 P o r n H u b 在 采 访 中 表 示 ， 其 将 删 除 那 些 经 过 换 脸 的 色 情 视 频 。 然 而 ， 在 主 要 社 交 平 台 范 围 之 外 ， 仍 有 d e e p f a k e s . c l u b 这 类 网 站 的 存 在 ， 且 很 难 加 以 监 管 。 无 论 d e e p f a k e s 软 件 掀 起 了 怎 样 的 波 澜 ， 可 以 肯 定 的 是 ， 这 一 切 还 仅 仅 只 是 开 始 。 注 ： 本 文 由 E 安 全 编 译 报 道 , 转 载 请 注 明 原 文 地 址 h t t p s : / / w w w . e a s y a q . c o m / n e w s / 1 9 6 3 0 3 8 6 6 . s h t m l 推 荐 阅 读 ： 谷 歌 的 新 战 争 : 用 A I 消 灭 安 卓 恶 意 软 件 谷 歌 披 露 神 秘 的 以 色 列 间 谍 产 品 公 司 ： E q u u s   T e c h n o l o g i e s 2 . 7 2 亿 个 谷 歌 和 微 软 电 子 邮 件 账 号 被 窃 出 售   每 条 1 美 元 从 A I 到 智 障 只 有 一 个 像 素 的 距 离 新 版 O W A S P   T O P   1 0 ： 这 三 类 新 型 安 全 漏 洞 上 榜 G o o g l e 和 F a c e b o o k 在 内 的 互 联 网 巨 头 正 向 美 国 政 策 战 略 妥 协 预 测 ： 2 0 1 8 年 区 块 链 或 会 重 塑 网 络 安 全 行 业
▼ 点 击 “ 阅 读 原 文 ”   查 看 更 多 精 彩 内 容 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理