搜索

[17425] 2017-06-05_黑客要怼人工智能了极棒黑客大赛新规上线

文档创建者：s7ckTeam
浏览次数：31
最后更新：2025-01-18
2017-06-05_黑客要怼人工智能了极棒黑客大赛新规上线 黑 客 要 怼 人 工 智 能 了   |   极 棒 黑 客 大 赛 新 规 上 线 原 创   胖 君   G e e k P w n   2 0 1 7 - 0 6 - 0 5 不 久 前 ， A l p h a G o   与 柯 洁 的 巅 峰 对 决 终 于 落 下 帷 幕 ， 结 局 不 免 令 人 失 望 却 没 有 悬 念 — — 人 类 又 一 次 败 给 了   A I 。 “ 不 像 是 个 人 ， 像 是 一 个 神 ， ” 赛 后 年 仅   1 9   岁 的 柯 洁 如 此 评 价 。 有 学 者 指 出 ，   A l p h a G o   模 型 本 身 是 为 了 能 赢 而 设 计 最 佳 算 法 ， A l p h a G o   会 倾 向 于 以   9 9 . 9 9 9 9 9 %   的 概 率 用 0 . 5   分 的 优 势 勉 强 胜 利 ， 而 不 是   9 9 . 9 9 %   的 概 率 以   1 0   分 的 巨 大 比 分 碾 压 对 手 。 至 于 媒 体 报 道 中 的 “ 人 类 是 否 还 有 希 望 ” 、 “ 捍 卫 人 类 尊 严 ” 等 耸 人 听 闻 的 言 论 ， 忽 视 了   A l p h a G o   还 不 具 备 除 下 围 棋 之 外 的 “ 特 异 功 能 ” 。
鲜 有 媒 体 提 到 的 是 鲜 有 媒 体 提 到 的 是   A l p h a G o   也 输 给 了 人 类 。 也 输 给 了 人 类 。 在 双 人 配 对 战 中 ， 棋 手 连 笑   8   段 和   A l p h a G o   1   对 弈 古 力   9   段 和   A l p h a G o   2 。 对 弈 中 在 对 方 开 始 取 得 优 势 的 情 况 下 ， A l p h a G o   2   竟 然 自 动 举 牌 认 输 。 即 便 是 古 力 拒 不 认 输 ， 而 在 随 后 的 比 赛 中   A l p h a G o   2   消 极 应 战 ， 提 前 终 结 了 一 场 精 彩 的 对 决 。 是 的 ， “ 神 一 般 存 在 ” 的 A l p h a G o   也 会 输 。 D e e p M i n d   创 始 人   D e m i s   H a s s a b i s   说 ： “ 只 有 和 人 对 战 才 能 发 现 只 有 和 人 对 战 才 能 发 现   A I   的 弱 点 ， 予 以 修 正 。 的 弱 点 ， 予 以 修 正 。 仅 仅 通 过 开 发 算 法 以 及   A l p h a G o   和 自 己 对 弈 是 不 够 的 。 ” A I   的 弱 点 ， 看 似 人 工 智 能 的 错 误 和 不 完 善 ， 但 其 实 在 黑 客 眼 里 就 有 可 能 变 成 可 以 被 利 用 的 漏 洞 。 G e e k P w n   国 际 安 全 极 客 嘉 年 华 已 经 迈 出 “ 黑 客   V S   人 工 智 能 ” 的 脚 步 。 2 0 1 6   年 ， G e e k P w n   首 提 人 工 智 能 安 全 问 题 人 工 智 能 安 全 问 题 ， 并 在 硅 谷 站 上 邀 请 到 来 自 谷 歌 大 脑   I a n   G o o d f e l l o w   和 A l e x e y   K u r a k i n   研 究 员 ， 加 州 大 学 伯 克 利 分 校   D a w n   S o n g   教 授 和   C h a n g   L i u   分 享 了 在 人 工 智 能 领 域 的 安 全 研 究 ； 人 工 智 能 黑 客   C l a r e n c e   C h i o     则 在 上 海 站 分 享 了 他 利 用 “ D e e p - P w n i n g ”   黑 掉 人 工 智 能 掉 过 程 。
2 0 1 7 年 年 1 0 月 月 2 4 日 将 在 上 海 和 硅 谷 举 行 的 极 棒 嘉 年 华 延 续 日 将 在 上 海 和 硅 谷 举 行 的 极 棒 嘉 年 华 延 续 “ 无 所 不 无 所 不   P W N ” 的 自 由 规 则 ， 初 始 奖 金 池 为 的 自 由 规 则 ， 初 始 奖 金 池 为   5 0 0 万 人 民 币 ， 继 续 鼓 励 广 大 白 帽 黑 客 在 智 能 安 全 领 域 的 探 索 。 万 人 民 币 ， 继 续 鼓 励 广 大 白 帽 黑 客 在 智 能 安 全 领 域 的 探 索 。 极 棒 组 委 会 重 磅 推 出 极 棒 组 委 会 重 磅 推 出 “ 人 工 智 能 安 全 挑 战 专 项 人 工 智 能 安 全 挑 战 专 项 ” ， 人 工 智 能 可 以 成 为 黑 客 的 助 手 ， 黑 客 亦 可 能 ， 人 工 智 能 可 以 成 为 黑 客 的 助 手 ， 黑 客 亦 可 能 “ 黑 掉 黑 掉 ” 人 工 智 人 工 智 能 。 能 。 在 人 工 智 能 领 域 ， 深 度 学 习 依 赖 对 大 量 样 本 进 行 学 习 ， 最 后 产 生 决 策 的 过 程 ， 和 安 全 领 域 里 通 过 产 生 大 量 模 糊 测 试 样 本 引 发 计 算 机 异 常 ， 从 而 发 掘 出 漏 洞 ， 最 终 执 行 流 程 可 以 被 改 变 ， 进 而 导 致 安 全 危 害 的 过 程 非 常 相 似 ， 如 果 说 正 确 样 本 能 够 产 生 正 确 的 决 策 ， 那 么 黑 客 通 过 离 线 模 拟 产 生 的   A I   攻 击 样 本 ， 则 可 能 给 人 工 智 能 带 来 错 误 的 决 策 和 行 为 。 从 对 抗 的 思 路 出 发 ， 创 办 “ 人 工 智 能 安 全 挑 战 专 项 ” 是 为 了 寻 找 A I 潜 藏 的 风 险 并 不 断 帮 助 其 完 善 ， 帮 助 人 工 智 能 安 全 健 康 成 长 。 也 许 有 朝 一 日 ， 黑 客 可 以 成 为 保 护 人 类 的 那 群 人 。 极 棒 嘉 年 华 比 赛 规 则 极 棒 嘉 年 华 比 赛 规 则 无 所 不 无 所 不   P W N  
目 标 范 围 目 标 范 围 市 场 在 售 的 所 有 智 能 设 备 、 物 联 网 （ I o T ） 产 品 或 产 品 中 的 安 全 模 块 。 在 合 理 的 攻 击 条 件 下 ， 对 于 范 围 内 的 产 品 或 者 模 块 ， 实 现 越 权 控 制 、 越 权 访 问 数 据 或 者 突 破 原 有 安 全 机 制 。 参 考 实 例 参 考 实 例 黑 客 通 过 一 台 受 恶 意 软 件 感 染 的 打 印 机 ， 从 物 理 隔 绝 的 网 络 中 提 取 数 据 ， 并 通 过 激 光 将 数 据 发 给 装 有 摄 像 头 的 无 人 机 。
智 能 穿 戴 可 能 透 露 使 用 者 的 密 码 ： 恢 复 出 用 户 手 掌 的 运 动 轨 迹 ， 随 后 获 得 访 问   A T M   机 、 电 子 门 禁 以 及 用 键 盘 控 制 的 企 业 服 务 器 的 密 码 。 人 工 智 能 安 全 挑 战 专 项 人 工 智 能 安 全 挑 战 专 项 正 如 硬 币 的 两 面 ， 科 技 的 发 展 与 生 活 的 关 系 愈 发 紧 密 ， 人 工 智 能 的 快 速 发 展 可 能 已 经 引 发 了 人 们 的 思 考 。 人 工 智 能 会 成 为 黑 客 的 助 手 ， 黑 客 亦 可 能 “ 黑 掉 ” 人 工 智 能 。 G e e k P w n   与   N e x t   I d e a   联 合 发 起 了 “ 人 工 智 能 安 全 挑 战 专 项 ” 。 人 工 智 能 安 全 挑 战 专 项 分 为   P W N   A I   与   A I P W N   两 部 分 。 P W N   A I   是 将   A I   作 为 挑 战 对 象 ， 人 工 智 能 算 法 会 因 选 手 影 响 而 做 出 错 误 判 断 或 让 程 序 崩 溃 。 A I   P W N   是 将   A I 作 为 工 具 ， 选 手 通 过 利 用   A I   技 术 实 现 对 于 指 定 目 标 的 攻 击 ， 引 导 其 犯 错 或 崩 溃 。
P W N   A I 目 标 范 围 目 标 范 围 对 于 已 发 布 的   A I   服 务 、 产 品 、 库 、 框 架 ， 采 取 手 段 使 得 在 学 习 或 者 实 际 使 用 中 ， 发 生 意 外 情 况 导 致 系 统 停 止 工 作 或 系 统 被 欺 骗 、 误 导 ， 做 出 违 反 常 规 或 者 错 误 的 判 断 、 决 策 。 方 向 包 括 但 不 限 于 图 像 识 别 、 语 音 识 别 、 自 然 语 言 处 理 、 自 动 驾 驶 、 恶 意 软 件 识 别 等 ， A I   框 架 主 要 是 指 流 行 框 架 如   T e n s o r f l o w 、 T o r c h N e t 、 C a f f e   等 。 参 考 实 例 参 考 实 例 突 破 人 脸 识 别 手 机 解 锁 ， 以 任 意 人 脸 解 锁 手 机 。 在 自 动 驾 驶 系 统 中 找 到 安 全 问 题 ， 使 其 不 能 够 正 确 识 别 障 碍 物 的 存 在 。 在   A I   开 源 框 架 中 找 到 问 题 ， 使 得 部 署 的   A I   系 统 在 得 到 某 种 输 入 的 情 况 下 停 止 响 应 。
A I   P W N 场 景 场 景 选 手 以   A I （ 包 括 图 像 ， 语 音 ， 自 然 语 言 ， 自 动 驾 驶 等 各 个 领 域 的 各 种 人 工 智 能 方 法 ） 作 为 主 要 或 者 辅 助 的 手 段 ， 突 破 原 有 系 统 设 定 的 限 制 ， 导 致 目 标 系 统 的 功 能 、 机 制 失 效 ， 或 者 信 息 泄 露 。 参 考 实 例 参 考 实 例 用 人 工 智 能 的 方 法 进 行 语 音 合 成 ， 生 成 目 标 模 拟 对 象 的 语 音 并 以 高 的 概 率 通 过 语 音 身 份 验 证 系 统 。 用 人 工 智 能 的 方 法 进 行 动 作 的 判 别 ， 从 视 频 中 识 别 出 门 禁 密 码 输 入 并 达 到 较 高 的 正 确 识 别 概 率 。 用 人 工 智 能 的 方 法 识 别 复 杂 的 机 器 验 证 码 ， 正 确 识 别 率 较 高 ， 使 得 目 标 验 证 码 机 制 失 去 作 用 。
报 名 须 知 报 名 须 知 选 手 报 名 ： 选 手 报 名 ： 在 线 填 写 、 提 交 报 名 表   h t t p s : / / w j . q q . c o m / s / 1 3 4 3 8 7 6 / 0 5 3 0 （ 从   G e e k P w n   官 网 进 入 或 者 直 接 复 制 链 接 ） 。 评 委 初 审 ： 评 委 初 审 ： 极 棒 组 委 会 根 据 报 名 信 息 在 五 个 工 作 日 内 完 成 对 选 手 的 评 审 。 复 审 确 定 ： 复 审 确 定 ： 一 旦 选 手 资 格 确 定 ， 比 赛 时 将 由 主 办 方 准 备 目 标 设 备 （ 或   A I   产 品 ） 及 展 示 环 境 。 报 名 截 止 时 间 ： 报 名 截 止 时 间 ： 2 0 1 7   年 年   9   月 月   2 4   日 日 （ 报 名 参 赛 过 程 中 有 任 何 疑 问 ， 请 发 送 邮 件 至 ： c f p @ g e e k p w n . o r g ） 人 工 智 能 会 成 为 黑 客 攻 击 的 对 象 ， 人 工 智 能 会 成 为 黑 客 攻 击 的 对 象 ， 人 工 智 能 会 成 为 黑 客 攻 击 的 武 器 。 人 工 智 能 会 成 为 黑 客 攻 击 的 武 器 。 G e e k P w n   依 旧 致 力 于 打 破 安 全 领 域 的 边 界 ， 继 去 年 特 设 依 旧 致 力 于 打 破 安 全 领 域 的 边 界 ， 继 去 年 特 设 “ 机 器 特 工 挑 战 机 器 特 工 挑 战 ” 与 与 “ 跨 次 元 跨 次 元   C T F ” 之 后 ， 今 年 还 将 之 后 ， 今 年 还 将 有 哪 些 变 化 ， 新 的 专 项 规 则 会 在 有 哪 些 变 化 ， 新 的 专 项 规 则 会 在   7   月 初 全 面 公 开 ， 敬 请 期 待 。 月 初 全 面 公 开 ， 敬 请 期 待 。   极 棒 官 网 重 大 更 新 ， 快 去 看 看 吧 ！ 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理