搜索

[9893] 2016-03-09_战胜棋王后，人工智能是否可以颠覆安全？

文档创建者：s7ckTeam
浏览次数：8
最后更新：2025-01-18
2016-03-09_战胜棋王后，人工智能是否可以颠覆安全？ 战 胜 棋 王 后 ， 人 工 智 能 是 否 可 以 颠 覆 安 全 ？ 哆 啦 A 梦   F r e e B u f   2 0 1 6 - 0 3 - 0 9 继 谷 歌 宣 布 人 工 智 能 项 目 继 谷 歌 宣 布 人 工 智 能 项 目 A l p h a G o 实 现 突 破 性 研 究 实 现 突 破 性 研 究 — — 计 算 机 程 序 首 次 击 败 专 业 棋 手 之 后 ， 计 算 机 程 序 首 次 击 败 专 业 棋 手 之 后 ，   谷 歌 谷 歌 D e e p M i n d 公 布 了 将 公 布 了 将 与 过 去 十 年 最 佳 围 棋 手 李 世 石 之 间 的 终 极 挑 战 的 详 细 情 况 。 与 过 去 十 年 最 佳 围 棋 手 李 世 石 之 间 的 终 极 挑 战 的 详 细 情 况 。 3 月 月 9 日 至 日 至 3 月 月 1 5 日 ， 日 ， A l p h a G o 将 在 韩 国 首 尔 与 李 世 石 进 行 将 在 韩 国 首 尔 与 李 世 石 进 行 5 场 挑 战 赛 。 比 赛 完 全 平 等 ， 获 胜 者 将 得 到 一 百 万 美 元 奖 金 。 场 挑 战 赛 。 比 赛 完 全 平 等 ， 获 胜 者 将 得 到 一 百 万 美 元 奖 金 。 今 天 下 午 ， 谷 歌 人 工 智 能 A l p h a G o 与 韩 国 棋 手 李 世 石 的 第 一 场 比 赛 结 束 ， A l p h a G o 获 得 今 日 比 赛 的 胜 利 。 双 方 在 较 量 3 个 半 小 时 后 ， 李 世 石 宣 布 认 输 。 今 日 比 赛 结 束 后 ， 双 方 还 将 分 别 在 1 0 日 、 1 2 日 、 1 3 日 、 1 5 日 的 北 京 时 间 中 午 1 2 点 进 行 剩 余 4 场 比 赛 。 赛 后 ， 求 此 时 人 类 棋 王 的 心 理 阴 影 面 积 A l p h a G o 开 发 者 D e e p M i n d 公 司 在 今 年 1 月 的 学 术 杂 志 《 N a t u r e 》 刊 登 封 面 文 章 ， 展 示 了 围 棋 人 工 智 能 领 域 突 破 性 进 展 的 详 细 情 况 。 这 次 对 弈 中 ， 坐 在 李 世 石 对 面 正 是 《 N a t u r e 》 封 面 文 章 作 者 之 一 黄 士 杰 ( A j a   H u a n g ) ， 他 本 人 来 代 替 A l p h a G o 在 棋 盘 上 落 子 。 A l p h a G o 一 方 的 旗 帜 是 英 国 国 旗 ， 因 为 这 次 参 赛 的 谷 歌 围 棋 程 序 A l p h a G o 来 自 英 国 人 工 智 能 公 司 D e e p M i n d 。 谷 歌 A l p h a G o 在 第 一 次 与 世 界 顶 尖 围 棋 手 的 较 量 中 取 得 胜 利 ， 这 是 人 工 智 能 发 展 史 上 重 要 的 里 程 碑 ， 代 表 人 工 智 能 已 经 能 在 诸 如 围 棋 等 高 度 复 杂 的 项 目 中 发 挥 出 超 过 人 类 的 作 用 。 　
谷 歌 的 谷 歌 的 A l p h a G o 有 多 强 大 有 多 强 大 传 统 的 人 工 智 能 方 法 是 将 所 有 可 能 的 走 法 构 建 成 一 棵 搜 索 树   ， 但 这 种 方 法 对 围 棋 并 不 适 用 。 此 次 谷 歌 推 出 的 A l p h a G o ， 将 高 级 搜 索 树 与 深 度 神 经 网 络 结 合 在 一 起 。 这 些 神 经 网 络 通 过 1 2 个 处 理 层 传 递 对 棋 盘 的 描 述 ， 处 理 层 则 包 含 数 百 万 个 类 似 于 神 经 的 连 接 点 。 其 中 一 个 神 经 网 络 “ 决 策 网 络 ” ( p o l i c y   n e t w o r k ) 负 责 选 择 下 一 步 走 法 ， 另 一 个 神 经 网 络 “ 值 网 络 ” ( “ v a l u e   n e t w o r k ) 则 预 测 比 赛 胜 利 方 。 谷 歌 方 面 用 人 类 围 棋 高 手 的 三 千 万 步 围 棋 走 法 训 练 神 经 网 络 ， 与 此 同 时 ， A l p h a G o 也 自 行 研 究 新 战 略 ， 在 它 的 神 经 网 络 之 间 运 行 了 数 千 局 围 棋 ， 利 用 反 复 试 验 调 整 连 接 点 ， 这 个 流 程 也 称 为 巩 固 学 习 ( r e i n f o r c e m e n t   l e a r n i n g ) ， 通 过 广 泛 使 用 G o o g l e 云 平 台 ， 完 成 了 大 量 研 究 工 作 。 A l p h a G o 在 与 人 的 对 弈 中 用 了 “ 两 个 大 脑 ” 来 解 决 问 题 ： “ 决 策 网 络 ” 和 “ 值 网 络 ” 。 通 俗 来 说 就 是 ， 一 个 大 脑 用 来 决 策 当 前 应 该 如 何 落 子 ， 另 一 个 大 脑 来 预 测 比 赛 最 终 的 胜 利 方 。 谷 歌 希 望 能 把 这 套 人 工 智 能 算 法 用 于 灾 害 预 测 、 风 险 控 制 、 医 疗 健 康 和 机 器 人 等 复 杂 领 域 。 也 就 是 说 谷 歌 的 目 的 还 是 为 了 更 好 的 服 务 人 类 ， 没 有 任 何 恶 意 。 D e e p M i n d ( A l p h a G o 的 研 究 公 司 ) 创 始 人 哈 萨 比 斯 说 ： 公 众 对 人 工 智 能 的 警 示 掩 盖 了 人 工 智 能 带 来 的 帮 助 。 距 离 人 脑 水 平 的 人 工 智 能 仍 然 相 当 遥 远 ， 可 能 还 需 要 几 十 年 。 在 昨 天 的 赛 前 发 布 会 上 ， 谷 歌 董 事 长 施 密 特 表 示 ， 输 赢 都 是 人 类 的 胜 利 。 因 为 正 是 人 类 的 努 力 才 让 人 工 智 能 有 了 现 在 的 突 破 。 人 工 智 能 在 安 全 领 域 也 表 现 不 俗 人 工 智 能 在 安 全 领 域 也 表 现 不 俗 今 年 八 月 一 场 名 为 D a r p a ' s   C y b e r   G r a n d   C h a l l e n g e 网 络 挑 战 赛 将 举 行 ， 参 加 决 赛 的 七 支 团 队 必 须 利 用 对 手 漏 洞 进 行 攻 击 的 同 时 ， 还 要 发 现 并 自 动 修 复 自 身 漏 洞 、 维 护 性 能 与 功 能 正 常 。 与 其 他 “ 夺 旗 ” 竞 赛 不 同 ，   这 是 世 界 第 一 个 完 全 由 计 算 机 软 件 主 导 的 黑 客 比 赛 。 获 胜 者 最 后 会 赢 得 2 0 0 万 美 元 大 奖 ， D a r p a 其 实 就 是 美 国 国 防 部 高 级 研 究 计 划 局 ， 不 怪 人 家 就 是 财 大 气 粗 ！   机 器 黑 客 ： 自 动 挖 洞 、 打 补 丁 机 器 黑 客 ： 自 动 挖 洞 、 打 补 丁 加 州 大 学 圣 芭 芭 拉 分 校 计 算 机 科 学 教 授 G i o v a n n i   V i g n a 是 黑 客 团 队 “ S h e l l p h i s h ” 的 创 始 人 ， 他 们 建 立 了 一 个 叫 做 “ M e c h a n i c a l P h i s h ” （ 机 械 钓 鱼 ） 的 系 统 将 参 加 本 次 比 赛 。 V i g n a 在 在 2 0 1 6 年 美 国 年 美 国 R S A 安 全 大 会 上 表 示 ： 安 全 大 会 上 表 示 ： 完 全 自 动 化 的 h a c k i n g 系 统 是 我 们 最 终 的 边 界 。 人 类 能 发 现 漏 洞 ， 却 没 办 法 对 数 以 百 万 计 的 项 目 进 行 分 析 。 ” 现 实 中 的 黑 客 并 不 如 电 影 描 述 的 那 么 “ 性 感 ” ， 他 说 ： 黑 客 通 常 只 是 一 堆 围 在 桌 边 的 人 ， 很 疲 惫 却 仍 在 笔 记 本 上 敲 击 键 盘 。 而 我 们 之 所 以 当 黑 客 ， 要 么 是 因 为 我 们 想 攻 击 别 人 ， 要 么 是 想 找 出 漏 洞 ， 或 者 仅 仅 是 因 为 好 玩 。 ” “ 机 器 黑 客 ” 在 保 护 网 络 、 快 速 识 别 、 系 统 补 丁 等 过 程 表 现 出 色 ， 从 而 避 免 了 漏 洞 的 利 用 、 数 据 被 盗 或 网 络 服 务 遭 到 攻 击 的 情 况 。 人 工 智 能 快 速 通 关 人 工 智 能 快 速 通 关 “ 超 级 玛 丽 超 级 玛 丽 ”
除 了 C y b e r   G r a n d   C h a l l e n g e 之 外 ， 其 他 组 织 也 已 经 开 始 将 人 工 智 能 运 用 于 h a c k i n g 机 器 中 。 K o n s t a n t i n o s   K a r a g i a n n i s 利 用 神 经 网 络 （ 模 拟 人 类 大 脑 学 习 和 解 决 问 题 ） 建 立 了 一 个 h a c k i n g 系 统 。 据 他 介 绍 ， 这 个 名 为 M a r I / O 的 人 工 智 能 程 序 可 以 在 没 有 任 何 先 验 知 识 的 情 况 下 ， 只 经 过 3 4 次 尝 试 便 通 关 了 “ 超 级 玛 丽 ” 。 最 初 ， 它 只 有 几 个 简 单 的 参 数 设 置 ， 经 过 几 次 不 同 尝 试 之 后 它 就 “ 了 解 ” 到 应 该 怎 么 玩 ， 它 “ 学 会 了 ” 。 视 频 视 频 K a r a g i a n n i s 说 ： 采 用 了 A I 技 术 的 安 全 扫 描 器 可 以 识 别 复 杂 的 漏 洞 ， 那 些 具 有 极 具 创 意 的 手 法 是 人 们 不 曾 想 到 过 的 。 它 可 以 采 用 非 常 低 端 硬 件 ， 价 值 一 千 美 金 的 G P U （ 图 形 处 理 单 元 ， 通 常 用 在 游 戏 当 中 ） 就 可 以 超 过 一 台 十 年 前 的 超 级 计 算 机 。 ” K a r a g i a n n i s 希 望 能 在 今 年 夏 天 演 示 这 个 P O C 。 每 个 硬 币 都 有 另 一 面 每 个 硬 币 都 有 另 一 面 尽 管 尽 管 “ 机 器 黑 客 机 器 黑 客 ” 能 为 安 全 专 家 的 弹 药 库 提 供 颇 具 杀 伤 力 的 武 器 ， 但 是 更 大 的 风 险 在 于 这 些 武 器 也 可 能 落 入 错 误 的 人 能 为 安 全 专 家 的 弹 药 库 提 供 颇 具 杀 伤 力 的 武 器 ， 但 是 更 大 的 风 险 在 于 这 些 武 器 也 可 能 落 入 错 误 的 人 手 中 。 手 中 。 K a r a g i a n n i s 告 诉 卫 报 ， 攻 击 者 如 果 在 一 年 内 使 用 了 这 些 技 术 ， 他 并 不 会 感 到 惊 讶 。 告 诉 卫 报 ， 攻 击 者 如 果 在 一 年 内 使 用 了 这 些 技 术 ， 他 并 不 会 感 到 惊 讶 。 H a c k e r O n e 安 全 公 司 联 合 创 始 人 A l e x   R i c e 同 意 这 一 观 点 ， 他 认 为 任 何 可 以 用 来 发 现 漏 洞 的 防 御 手 段 都 可 能 被 罪 犯 利 用 — — 技 术 最 终 都 会 成 为 一 把 双 刃 剑 。 尽 管 如 此 ， R i c e 认 为 自 动 化 安 全 措 施 的 兴 起 是 一 件 好 事 ： 人 人 都 在 努 力 跟 上 趋 势 。 几 乎 所 有 组 织 都 经 历 过 网 络 攻 击 ， 这 关 系 到 生 死 存 亡 ， 显 然 之 前 我 们 所 做 的 一 切 都 是 失 败 的 。 而 最 好 的 解 决 办 法 就 是 将 人 类 与 机 器 的 技 能 加 以 结 合 ， 人 类 最 擅 长 的 东 西 目 前 我 们 还 没 发 现 。 而 即 使 未 来 我 们 拥 有 了 有 感 知 的 机 器 时 ， 它 们 依 然 要 接 受 人 类 的 指 挥 。 ” 结 尾 彩 蛋 ， 微 博 网 友 对 于 这 场 比 赛 精 彩 点 评 ：
@ H a w a i i _ g u i t a r 谷 歌 高 级 软 件 测 试 工 程 师   李 世 石                         @ 畋 潋       【 第 五 局 】   朴 槿 惠 ： “ 准 备 好 了 没 有 ！ ” “ 准 备 好 了 . . . ” 朴 槿 惠 ： " 李 世 石 快 输 了 ， 拉 闸 ！ 快 拉 闸 ！ " A l p h a G o ： " 艹 你 - - - - - " * 参 考 来 源 ： T h e G u a r d i a n 、 H a c k r e a d ， 哆 啦 A 梦 编 译 ， 转 载 请 注 明 来 自 F r e e B u f 黑 客 与 极 客 （ F r e e B u f . C O M ） 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理