搜索

[17445] 2017-07-13_DeepMind联合OpenAI最新研究成果：用人工完善人工智能

文档创建者：s7ckTeam
浏览次数：53
最后更新：2025-01-18
2017-07-13_DeepMind联合OpenAI最新研究成果：用人工完善人工智能 ” D e e p M i n d   联 合   O p e n A I   最 新 研 究 成 果 ： 用 人 工 完 善 人 工 智 能 原 创   小 明   G e e k P w n   2 0 1 7 - 0 7 - 1 3 极 客 关 注   G e e k P w n   ↗ ↗ “   如 果 说 大 数 据 是 钉 子 ， 可 以 说   A I   就 是 那 个 锤 子 。 万 万 没 想 到 ， 史 蒂 芬 · 霍 金 和 伊 隆 · 马 斯 克 都 曾 共 同 获 得 了   2 0 1 5   年 “ 卢 德 奖 ” （ L u d d i t e   A w a r d ） 。 和 金 酸 梅 一 样 ， “ 卢 德 奖 ” 专 门 颁 发 给 那 些 试 图 阻 碍 科 技 创 新 阻 碍 科 技 创 新 的 人 。 “ 卢 德 ” 一 词 起 源 于   1 9   世 纪 的 英 格 兰 ， 当 时 ， 以 卢 德 为 代 表 的 纺 织 工 人 反 对 使 用 动 力 织 布 机 和 其 他 节 省 劳 动 力 的 设 备 ， 而 展 开 捣 毁 机 器 的 运 动 。 后 来 《 韦 氏 词 典 》 便 将 “ 卢 德 ” 引 申 为 反 对 科 技 进 步 的 人 。
但 是 ， 将 但 是 ， 将 “ 阻 碍 科 技 创 新 阻 碍 科 技 创 新 ” 颁 给 现 代 最 伟 大 的 物 理 学 家 和 人 称 颁 给 现 代 最 伟 大 的 物 理 学 家 和 人 称 “ 真 人 钢 铁 侠 真 人 钢 铁 侠 ” 的 著 名 企 业 家 马 斯 克 ， 不 免 让 人 质 疑 该 奖 是 在 的 著 名 企 业 家 马 斯 克 ， 不 免 让 人 质 疑 该 奖 是 在 哗 众 取 宠 。 哗 众 取 宠 。 对 此 ， 设 立 “ 卢 德 奖 ” 的 基 金 会   I T I F   创 始 人 阿 特 金 森 解 释 说 ： “ 马 斯 克 是 卢 德 的 对 立 面 ， 但 是 我 认 为 他 给 了 卢 德 社 区 以 帮 助 和 便 利 。 他 们 一 直 挂 在 嘴 边 的 警 告 ‘ 人 工 智 能 将 是 人 类 的 终 结 者 ’ ， 非 常 苍 白 无 力 。 ” 实 际 上 ， 包 括 马 斯 克 、 霍 金 、 比 尔 · 盖 茨 等 众 多 科 技 大 佬 在 内 ， 他 们 都 曾 预 警 人 工 智 能 对 人 类 存 在 极 大 威 胁 。 马 斯 克 曾 一 度 宣 马 斯 克 曾 一 度 宣 称 ： 研 究 人 工 智 能 ， 就 是 召 唤 魔 鬼 。 称 ： 研 究 人 工 智 能 ， 就 是 召 唤 魔 鬼 。
而 另 一 方 面 ， 马 斯 克 本 人 参 与 创 立 了 非 盈 利 性 的 人 工 智 能 公 司   O p e n A I ， 进 行 探 索 面 向 未 来 、 “ 召 唤 魔 鬼 ” 的 技 术 研 究 。 日 前 ， 谷 歌   D e e p m i n d   实 验 室   A I   S a f e   团 队 和   O p e n A I   的 人 工 智 能 专 家 联 合 致 力 于 解 决 未 来 人 工 智 能 可 能 出 现 的 未 来 人 工 智 能 可 能 出 现 的 “ 叛 变 叛 变 ” 问 问 题 题 。 众 所 周 知 ， D e e p M i n d   的 “ 棋 王 ”   A l p h a G o   便 是 利 用 强 化 学 习 ， 即 强 调 基 于 环 境 而 行 动 并 获 得 最 大 化 的 预 期 利 益 。 不 幸 的 是 ， 基 于 奖 励 函 数 的 强 化 学 习 并 不 容 易 掌 控 。 当 当   A I   需 要 完 成 一 个 艰 巨 、 疯 狂 的 任 务 时 ， 它 可 能 会 和 人 一 样 选 择 其 需 要 完 成 一 个 艰 巨 、 疯 狂 的 任 务 时 ， 它 可 能 会 和 人 一 样 选 择 其 他 他 “ 捷 径 捷 径 ” 。 。 《 连 线 》 曾 提 及 ，   O p e n A I   用 强 化 学 习 教 一 个 系 统 如 何 玩 划 船 比 赛 的 游 戏 ， 当 系 统 发 现 能 够 通 过 “ 转 圈 圈 ” 的 方 式 得 分 后 ， 它 便 不 再 进 行 正 常 的 游 戏 了 。
而 现 在 ， D e e p M i n d   和   O p e n A I   的 这 项 研 究 对 对 “ 强 化 学 习 强 化 学 习 ” 进 行 了 修 正 进 行 了 修 正 。 他 们 公 开 了 一 项 联 合 研 究 ， 演 示 了 如 何 避 免 自 动 化 系 统 成 为 叛 徒 。 他 们 通 过 人 工 介 入 的 方 式 教 他 们 通 过 人 工 介 入 的 方 式 教   A I   系 统 新 的 任 务 ， 而 非 系 统 新 的 任 务 ， 而 非   A I 系 统 进 行 自 学 。 这 个 新 的 模 型 可 以 用 于 禁 止 系 统 进 行 自 学 。 这 个 新 的 模 型 可 以 用 于 禁 止   A I   进 行 无 可 预 测 或 者 意 外 的 举 动 。 进 行 无 可 预 测 或 者 意 外 的 举 动 。 试 验 中 ， 一 个 为 被 称 为   H o p p e r   的 虚 拟 机 器 人 在 处 理 了   9 0 0   个 人 类 反 馈 之 后 学 会 了 如 何 后 空 翻 。
在 四 十 五 分 钟 内 ， H o p p e r   接 受 了 非 专 家 的 反 馈 非 专 家 的 反 馈 从 而 学 会 了 完 成 一 个 优 雅 的 后 空 翻 。 相 比 之 下 ， O p e n A I   研 究 者 花 了 两 个 小 时 时 间 才 一 个 奖 励 函 数 完 成 了 一 个 不 太 优 雅 的 翻 转 。 当 然 ， 研 究 人 员 解 释 道 从 人 类 反 馈 中 得 到 了 “ 姿 态 更 好 ” 的 后 空 翻 仅 仅 是 人 类 审 美 角 度 的 判 断 。 不 仅 如 此 ， 研 究 者 表 示 对 人 工 智 能 的 学 习 行 为 进 行 干 预 、 提 升 时 应 当 非 常 谨 慎 。 一 旦 一 旦   A I   对 其 预 期 功 能 出 现 偏 离 ， 人 类 安 全 对 其 预 期 功 能 出 现 偏 离 ， 人 类 安 全 可 能 会 收 到 威 胁 。 可 能 会 收 到 威 胁 。 极 棒 实 验 室 人 工 智 能 安 全 研 究 员 认 为 ， 如 果 人 类 把   A I   当 做 自 己 的 孩 子 一 样 ， 教 他 本 领 ， 同 时 也 教 他 人 类 认 为 正 确 的 价 同 时 也 教 他 人 类 认 为 正 确 的 价 值 观 ， 值 观 ， A I   的 成 长 会 更 加 快 速 而 健 康 。 的 成 长 会 更 加 快 速 而 健 康 。
将 “ 人 类 元 素 ” 直 接 加 入 到   A I   学 习 行 为 中 ， 目 前 看 来 ， 不 失 为 一 种 有 效 防 御 手 段 。 万 一 ， 是 万 一 ， 是 “ 坏 人 元 素 坏 人 元 素 ” 呢 ？ 呢 ？ 参 考 资 料 《 T w o   G i a n t s   o f   A I   T e a m   U p   t o   H e a d   O f f   t h e   R o b o t   A p o c a l y p s e 》 ， v i a   W I R E D 论 文 地 址 h t t p s : / / a r x i v . o r g / a b s / 1 7 0 6 . 0 3 7 4 1   你 可 能 还 对 这 些 感 兴 趣 你 可 能 还 对 这 些 感 兴 趣 . . . . . . 半 年 三 篇 博 文 ， 对 机 器 学 习 的 安 全 隐 私 来 了 个 大 起 底 完 善 强 化 学 习 安 全 性 ： U C   B e r k e l e y   优 化 新 算 法 机 器 学 习 对 抗 性 攻 击 报 告   |   极 棒 硅 谷 站 当 谈 论 人 工 智 能 时 ， 黑 客 们 在 谈 论 什 么   |   现 场 G e o H o t ： 人 工 智 能 或 是 最 后 的 边 界 （ 含 视 频 ） 嗨 S i r i ， 麻 烦 帮 我 转 个 账 吧 . . . . . .   |   极 棒 硅 谷 站 脑 洞 题 ： 选 个   A I   当 总 统 怎 么 样 ？ 机 器 能 思 考 ， 上 帝 会 发 笑 吗 ？
  关 于 关 于   G e e k P w n   （ 极 棒 ） （ 极 棒 ） G e e k   意 为 “ 极 客 ” ， P w n   是 指 “ 突 破 事 物 的 原 有 规 则 ” 。 G e e k P w n   是 由 碁 震 （ 是 由 碁 震 （ K E E N ） 发 起 并 主 办 的 全 球 首 个 关 注 智 能 生 活 的 安 全 极 客 嘉 年 华 。 ） 发 起 并 主 办 的 全 球 首 个 关 注 智 能 生 活 的 安 全 极 客 嘉 年 华 。 2 0 1 4   年   1 0   月   2 4   日 首 次 举 办 ，   2 0 1 6   年 起   G e e k P w n   由 一 年 一 赛 变 为 一 年 两 赛 ， 至 今 已 成 功 举 行 五 届 六 场 ， 踏 足 北 京 、 上 海 、 澳 门 、 香 港 以 及 美 国 硅 谷 。 除 了 聚 焦 智 能 软 硬 件 安 全 ， G e e k P w n   在 人 工 智 能 安 全 和 打 破 技 术 结 界 的 安 全 创 新 领 域 都 有 所 突 破 。 大 赛 不 对 选 手 项 目 进 行 限 制 ， 鼓 励 脑 洞 大 开 的 极 客 挣 脱 思 维 的 枷 锁 ， 将 原 本 的 “ 不 可 能 、 不 存 在 ” 变 为 极 棒 舞 台 上 最 精 彩 的 挑 战 。 2 0 1 7   年 年   5   月 月   G e e k P w n   年 中 赛 已 经 结 束 ， 年 中 赛 已 经 结 束 ， G e e k P w n   嘉 年 华 将 于 嘉 年 华 将 于   1 0   月 月   2 4   日 在 上 海 与 日 在 上 海 与   1 1   月 月 1 1   日 在 硅 谷 举 行 。 日 在 硅 谷 举 行 。 继   2 0 1 6   年 的 “ 机 器 特 工 ” 和 “ 跨 次 元   C T F   挑 战 ” 之 后 ， 2 0 1 7   年   G e e k P w n   与   N e x t   I d e a   联 合 发 起 “ 人 工 智 能 安 全 挑 战 专 项 ” 即 将 震 撼 登 场 ， 同 时 主 办 方 向 广 大 安 全 研 究 者 以 及 人 工 智 能 研 究 者 发 出 诚 挚 邀 请 。 报 名 截 止 时 间 ： 报 名 截 止 时 间 ： 9   月 月   3 0   日 （ 上 海 站 ） 日 （ 上 海 站 ） 1 0   月 月 1 0   日 （ 硅 谷 站 ） 日 （ 硅 谷 站 ）   请 留 下 你 指 尖 的 温 度 记 得 常 来 看 看
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理