搜索

[17419] 2017-05-17_机器能思考，上帝会发笑吗？

文档创建者：s7ckTeam
浏览次数：18
最后更新：2025-01-18
2017-05-17_机器能思考，上帝会发笑吗？ 机 器 能 思 考 ， 上 帝 会 发 笑 吗 ？ 原 创   极 胖 君   G e e k P w n   2 0 1 7 - 0 5 - 1 7 思 考 思 考 1 9 5 0 年 ， “ 计 算 机 科 学 之 父 ” 阿 兰 · 图 灵 提 出 这 样 一 个 问 题 ： 机 器 会 思 考 吗 ？ 在 你 给 出 肯 定 或 否 定 的 回 答 之 前 ， 我 们 首 先 思 考 一 下 — — 什 么 是 什 么 是 “ 思 考 思 考 ” 。 自 然 界 中 ， 作 为 人 主 要 区 别 于 其 他 生 物 的 能 力 ， “ 思 考 ” 将 我 们 置 于 统 治 者 的 至 高 地 位 。 这 种 分 析 、 综 合 、 判 断 、 推 理 、 概 括 的 思 维 活 动 ， 让 人 类 善 于 发 现 事 物 发 展 规 律 ， 我 们 暂 且 简 单 粗 暴 地 将 其 归 纳 为 “ 学 习 能 力 ” 。 目 前 科 学 家 认 为 人 类 “ 学 习 ” 主 要 由 大 脑 皮 层 完 成 的 ， 人 类 平 均 拥 有 8 6 0 亿 个 神 经 元 ， 其 中 大 脑 皮 层 占 据 了 1 6 0 亿 个 。 神 经 元 的 神 奇 之 处 在 于 它 们 之 间 的 连 接 数 量 巨 大 ， 每 个 神 经 元 可 能 有 成 千 上 万 个 连 接 ， 而 这 些 连 接 以 毫 秒 级 的 速 度 传 递 着 “ 信 息 ” 。
人 脑 是 物 种 进 化 的 产 物 ， 这 是 大 自 然 的 馈 赠 。 在 大 脑 的 驱 使 下 ， 人 类 继 续 在 探 寻 着 大 脑 的 秘 密 。 机 器 机 器 “ 我 发 现 了 人 脑 是 如 何 工 作 的 ！ 我 发 现 了 人 脑 是 如 何 工 作 的 ！ ” 多 伦 多 大 学 的 一 个 实 验 室 每 周 都 会 传 出 这 样 的 呐 喊 声 ， 从 事 人 工 智 能 研 究 已 经 四 十 余 年 的 杰 弗 里 · 欣 顿 （ G e o f f r e y   H i n t o n ） 终 于 从 非 主 流 变 成 主 流 。 再 次 验 证 了 “ 科 学 没 有 主 流 ” 的 说 法 。 1 9 7 2 年 ， 离 开 剑 桥 大 学 的 欣 顿 进 入 了 爱 丁 堡 大 学 研 究 人 工 智 能 人 工 智 能 — — 这 个 从 诞 生 之 初 便 带 有 科 幻 色 彩 的 学 科 。 他 执 着 于 寻 找 大 脑 工 作 的 原 理 ， 直 到 遇 见 了 发 明 于 2 0 世 纪 5 0 年 代 的 神 经 网 络 ， 他 找 到 自 己 的 “ 缪 斯 ” 。 神 经 网 络 是 一 种 模 仿 大 脑 结 构 和 功 能 的 数 据 模 型 ， 模 仿 人 类 神 经 网 络 ， 经 典 神 经 网 络 包 含 了 输 入 层 、 中 间 层 与 输 出 层 。 1 9 5 8 年 ， 由 两 层 神 经 元 组 成 的 神 经 网 络 “ 感 知 器 ” 被 计 算 科 学 家   F r a n k   R o s e n b l a t t   提 出 ， 他 证 明 了 机 器 识 别 手 写 字 母 的 潜 力 。 但 那 时 “ 感 知 器 ” 只 能 处 理 简 单 的 线 性 分 类 任 务 ， 因 此 获 得 人 们 言 过 其 实 的 赞 誉 后 便 进 入 了 冰 河 期 ， 连 人 工 智 能 领 域 权 威 人 士 马 文 · 明 斯 基 都 曾 著 书 称 “ 神 经 网 络 实 际 上 无 法 实 现 人 们 期 望 的 功 能 ” 。
尽 管 如 此 ， 欣 顿 始 终 相 信 大 脑 一 定 是 通 过 某 种 原 理 进 行 工 作 的 。 上 世 纪 7 0 年 代 时 他 的 研 究 方 向 一 直 受 到 质 疑 ， 念 研 究 生 的 他 不 断 央 求 导 师 再 给 他 六 个 月 的 时 间 ， 他 一 定 可 以 证 明 大 脑 是 如 何 工 作 的 。 而 六 个 月 之 后 ， 这 样 的 执 拗 会 继 续 上 演 。 事 实 上 ， 早 期 科 研 人 员 曾 分 成 了 人 工 智 能 （ A I ） 和 智 能 增 强 （ I A ） 两 大 阵 营 ， “ 用 计 算 机 取 代 人 类 ” 的   A I   两 度 陷 入 困 境 ， “ 用 计 算 机 来 增 强 人 类 智 慧 ” 的   I A   则 在 迅 猛 发 展 ， 从 鼠 标 、 个 人 计 算 机 到 智 能 手 机 的 普 及 似 乎 让 人 们 逐 渐 淡 忘 了 人 工 智 能 的 童 话 。 欣 顿 博 士 毕 业 后 在 英 国 找 不 到 工 作 糊 口 ， 便 去 了 美 国 。 但 是 他 发 现 在 那 里 从 事 人 工 智 能 领 域 研 究 仍 存 在 局 限 ， 因 为 相 关 研 究 的 资 金 支 持 几 乎 都 来 源 于 军 队 。 欣 顿 曾 半 开 玩 笑 地 说 ： “ 计 算 机 会 比 美 国 人 先 理 解 讽 刺 。 ” 相 比 之 下 ， 加 拿 大 的 研 究 环 境 更 加 自 由 ， 后 来 他 加 入 多 伦 多 大 学 任 教 。
那 时 ， 学 界 对 神 经 网 络 的 态 度 还 充 斥 着 偏 见 ， 想 要 发 表 提 及 “ 神 经 元 ” 或 者 “ 神 经 网 络 ” 的 论 文 都 十 分 困 难 。 即 便 如 此 ， 欣 顿 始 终 进 行 着 这 些 看 似 “ 浪 费 ” 的 基 础 性 研 究 ， 并 用 一 些 比 较 含 糊 的 描 述 方 式 发 表 关 于 神 经 网 络 的 论 文 。 欣 顿 的 实 验 室 一 度 被 奉 为 多 伦 多 大 学 “ 不 可 久 留 之 地 ” ， 他 的 研 究 方 向 也 从 未 被 看 好 。 实 验 室 每 周 的 “ 呐 喊 ” 还 是 会 继 续 ， 作 为 深 度 学 习 的 积 极 推 动 者 ， 欣 顿 培 育 影 响 了 一 批 现 在 卓 有 成 就 的 科 学 家 ， 其 中 包 括 “ 卷 积 神 经 网 络 之 父 ” 、 现   F a c e b o o k   人 工 智 能 实 验 室 （ F A I R ） 负 责 人 杨 立 昆 （   Y a n n   L e C u n ） 。
杨 立 昆 出 生 于 法 国 巴 黎 ， 后 来 与 欣 顿 一 样 走 上 了 神 经 网 络 研 究 的 “ 不 归 路 ” 。 同 样 经 历 人 工 智 能 寒 冬 的 杨 立 昆 经 历 过 质 疑 和 批 评 ， 甚 至 在 团 队 研 究 取 得 成 功 的 那 天 项 目 被 解 散 。 将 神 经 网 络 运 用 于 计 算 机 视 觉 在 上 世 纪 8 0 年 代 的 主 流 学 界 看 来 “ 并 不 科 学 ” 。 哪 怕 到 了 2 1 世 纪 初 ， 其 他 学 者 仍 不 允 许 杨 立 昆 其 会 议 上 发 表 论 文 。 几 乎 一 夜 之 间 ， 计 算 机 视 觉 领 域 出 现 了 爆 炸 式 增 长 。 随 着 计 算 能 力 的 增 强 和 互 联 网 的 海 量 数 据 ， 加 之 欣 顿 与 杨 立 昆 、 约 书 亚 · 本 吉 奥 等 许 多 同 行 在 过 去 十 几 年 中 踩 过 的 坑 ， 他 们 “ 信 仰 ” 的 神 经 网 络 终 于 征 服 了 世 界 。 在 2 0 1 2 年 斯 坦 福 大 学 人 工 智 能 实 验 室 主 任 李 飞 飞 组 织 的   I m a g e N e t   视 觉 识 别 挑 战 赛 上 ， 欣 顿 与 他 的 研 究 生 凭 借 “ 卷 积 神 经 网 络 ” （ C N N ） 一 鸣 惊 人 ， 不 仅 识 别 出 了 猫 ， 还 区 分 出 了 不 同 品 种 的 猫 。 这 样 颠 覆 式 的 识 别 方 式 ， 准 确 率 超 过 第 二 名 东 京 大 学 1 0 % 以 上 ， 获 得 冠 军 。 而 自 2 0 1 5 年 起 ， 人 工 智 能 在   I m a g e N e t   的 错 误 率 已 经 低 于 人 类 水 平 。
同 样 是 2 0 1 2 年 ， 谷 歌 大 脑 的 一 名 实 习 生   Q u o c   L e   从   Y o u T u b e   中 获 取 了 大 量 数 据 之 后 训 练 神 经 网 络 总 结 出 一 张 图 片 ， 于 是 机 器 视 觉 中 的 “ 猫 ” 就 诞 生 了 。 深 度 学 习 一 炮 而 红 。 次 年 谷 歌 收 购 了 欣 顿 的 初 创 公 司 D N N r e s e a r c h ， 这 位 神 经 网 络 领 域 的 先 驱 成 了 谷 歌 门 下 的 “ 实 习 生 ” 。 发 笑 发 笑 “ 我 不 能 创 造 的 东 西 ， 我 就 不 了 解 。 我 不 能 创 造 的 东 西 ， 我 就 不 了 解 。 ” 现 在 就 职 于 谷 歌 人 工 智 能 实 验 室 的 伊 恩 · 古 德 费 洛 （ I a n   G o o d f e l l o w ） 引 用 了 物 理 学 家 理 查 德 · 费 曼 （ R i c h a r d   F e y n m a n ） 的 这 句 话 ， 想 要 表 达 的 却 是 “ 人 工 智 能 不 能 创 造 的 东 西 ， 它 就 不 了 解 。 人 工 智 能 不 能 创 造 的 东 西 ， 它 就 不 了 解 。 ”
面 对 已 经 可 以 识 别 图 像 的 人 工 智 能 ， 这 位 曾 梦 想 成 为 一 名 作 家 的 年 轻 人 工 智 能 研 究 者 说 ： “ 如 果 一 个 人 工 智 能 可 以 基 于 逼 真 的 细 节 来 想 象 这 个 世 界 ， 学 习 如 何 想 象 出 逼 真 的 图 像 和 逼 真 的 声 音 ， 这 将 鼓 励 人 工 智 能 学 习 实 际 存 在 的 世 界 的 结 构 。 ” 2 0 1 4 年 ， 还 在 加 拿 大 蒙 特 利 尔 大 学 攻 读 博 士 的 古 德 费 洛 构 想 出 “ 生 成 对 抗 网 络 ” （ G A N s ） — — 生 成 逼 真 的 模 生 成 逼 真 的 模 型 型 “ 愚 弄 愚 弄 ” 人 工 智 能 人 工 智 能 。 杨 立 昆 曾 称 赞 “ 生 成 对 抗 网 络 ” （ G A N s ） 是 “ 过 去 2 0 年 深 度 学 习 领 域 最 酷 的 想 法 ” 。 在 古 德 费 洛 的 试 验 中 ， 小 狗 图 像 被 机 器 识 别 成 鸵 鸟 ， 不 同 的 物 体 都 能 被 识 别 成 飞 机 ， 甚 至 连 下 图 中 的 高 斯 噪 声 也 被 识 别 为 一 架 飞 机 。
他 们 将 加 过 噪 点 的 样 本 称 为 “ 对 抗 性 样 本 ” ， 对 抗 性 样 本 的 实 际 应 用 场 景 包 括 欺 骗 恶 意 软 件 检 测 器 网 络 、 欺 骗 通 过 远 程 托 管 的 A P I （ M e t a M i n d 、 亚 马 逊 、 谷 歌 ） 训 练 的 真 实 分 类 器 等 。 古 德 费 洛 在 2 0 1 6 年 1 0 月 份 参 加 了   G e e k P w n 硅 谷 站 ， 与 来 自 谷 歌 的 A l e x e y   K u r a k i n 博 士 现 场 分 享 了 “ 对 抗 性 图 像 在 物 理 世 界 中 欺 骗 机 器 学 习 ” 的 成 果 。 如 果 仅 仅 用 一 张 计 算 机 生 成 的 图 片 传 给 机 器 进 行 识 别 ， 这 便 剔 除 了 外 部 环 境 中 众 多 的 不 可 抗 干 扰 。 于 是 ， 他 们 采 用 了 白 盒 攻 击 模 型 （ 即 在 攻 击 者 已 经 获 得 机 器 学 习 使 用 算 法 和 参 数 的 情 况 下 进 行 攻 击 ） 。 结 果 表 明 8 7 % 的 对 抗 性 图 像 在 外 接 环 境 中 仍 能 成 功 欺 骗 机 器 ， 因 此 对 抗 样 本 在 真 实 环 境 下 仍 然 有 效 。
此 外 ， 有 研 究 表 明 对 抗 样 本 针 对 强 化 学 习 （ R e i n f o r c e m e n t   L e a r n i n g ） 同 样 有 作 用 。 在 深 度 学 习 取 得 突 破 性 进 展 的 情 况 下 ， 随 着 A l p h a G o 的 成 功 ， 强 化 学 习 也 得 到 了 越 来 越 多 的 关 注 。 但 是 伯 克 利 大 学 、 O p e n A I 、 宾 大 以 及 内 达 华 大 学 等 研 究 者 发 现 强 化 学 习 智 能 体 也 能 被 对 抗 性 样 本 操 控 强 化 学 习 智 能 体 也 能 被 对 抗 性 样 本 操 控 。 造 就 造 就 现 在 机 器 学 习 正 处 于 风 口 浪 尖 ， 无 论 是 “ 人 工 智 能 面 临 第 三 次 寒 冬 ” 或 者 “ 奇 点 降 临 ” 的 论 调 都 不 绝 于 耳 。 好 在 这 些 鼓 吹 、 唱 衰 都 还 是 人 类 干 的 。 个 人 助 理 、 安 防 终 端 、 自 动 驾 驶 、 医 疗 诊 断 、 电 商 零 售 、 金 融 以 及 教 育 . . . . . . 人 类 将 会 被 这 些 人 工 智 能 裹 挟 ， 当 算 法 统 治 世 界 时 ， 人 类 是 否 还 有 能 力 控 制 算 法 ？ 以 史 蒂 芬 · 霍 金 、 比 尔 · 盖 茨 等 为 代 表 的 众 多 科 技 界 人 士 纷 纷 表 示 ， 人 类 应 该 警 惕 人 工 智 能 ， 超 人 工 智 能 是 对 人 类 最 大 的 威 胁 。 伊 隆 · 马 斯 克 更 是 担 心 “ 人 类 是 在 召 唤 魔 鬼 ” 。
人 工 智 能 作 为 人 类 创 造 的 程 序 ， 和 人 一 样 并 不 完 美 。 不 管 是 被 人 教 坏 的 微 软 聊 天 机 器 人 T a y ， 还 是 因 为 搜 索 特 定 职 业 图 片 而 出 现 的 性 别 歧 视 、 需 要 人 工 干 预 的 谷 歌 搜 索 ， 偏 见 依 旧 存 在 于 人 工 智 能 。 有 的 时 候 可 能 不 是 算 法 错 了 ， 而 是 样 本 的 祸 。 人 工 智 能 思 考 的 边 界 在 哪 里 、 奇 点 何 时 降 临 ， 这 些 或 许 没 人 知 道 。 但 是 黑 客 开 始 对 人 工 智 能 发 起 挑 战 ， 如 果 机 器 仅 仅 是 在 “ 复 制 人 类 的 创 造 力 ” ， 那 么 黑 客 要 在 它 犯 错 误 前 制 止 它 ； 如 果 机 器 拥 有 了 “ 超 越 人 类 的 创 造 力 ” ， 那 些 最 出 色 的 黑 客 依 旧 相 信 “ 任 何 事 都 是 可 能 的 ” 。 “ 我 们 现 在 是 帮 助 人 工 智 能 成 长 ， 希 望 有 朝 一 日 ， 黑 客 可 以 成 为 保 护 人 类 的 那 群 人 。 ” 碁 震 K E E N 公 司 创 始 人 兼 C E O 、 G e e k P w n 发 起 人 王 琦 近 日 在 一 个 《 人 “ 攻 ” 智 能 》 的 分 享 中 如 是 说 道 。 参 考 资 料 ： 《 U   o f   T   p r o f e s s o r   G e o f f r e y   H i n t o n   h a i l e d   a s   g u r u   o f   n e w   c o m p u t i n g   e r a 》 v i a   T h e   G l o b e   A n d M a i l 。   《 深 度   |   I a n   G o o d f e l l o w   A I W T B 开 发 者 大 会 演 讲 ： 对 抗 样 本 与 差 分 隐 私 》 v i a   机 器 之 心 。 《 G e o f f r e y   H i n t o n :   T h e   G o d f a t h e r   o f   D e e p   L e a r n i n g 》 v i a   Y o u T u b e 。 《 机 器 学 习 对 抗 性 攻 击 报 告   |   极 棒 硅 谷 站 深 度 》 v i a   百 度 安 全 实 验 室 。 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理