搜索

[11675] 2017-08-17_马斯克的人工智能才会让人类毁灭？那AI还是安全行业的未来吗？

文档创建者：s7ckTeam
浏览次数：17
最后更新：2025-01-18
2017-08-17_马斯克的人工智能才会让人类毁灭？那AI还是安全行业的未来吗？ 马 斯 克 的 人 工 智 能 才 会 让 人 类 毁 灭 ？ 那 A I 还 是 安 全 行 业 的 未 来 吗 ？ 原 创   欧 阳 洋 葱   F r e e B u f   2 0 1 7 - 0 8 - 1 7 人 工 智 能 （ A I ） 从 来 都 不 是 近 两 年 才 出 现 的 概 念 ， 人 工 智 能 从   1 9 5 6   年 开 始 至 今 历 经 了 三 波 浪 潮 。 在   1 9 5 6   年 的 达 特 茅 斯 会 议 上 ， 4   名 图 灵 奖 得 主 ，   1   名 诺 贝 尔 奖 得 主 ， 另 外 加 上 信 息 论 创 始 人 香 农 ， 被 认 为 是 最 早 提 出 人 工 智 能 的 一 批 人 。 下 面 这 张 图 是   2 0 0 6   年 达 特 茅 斯 会 议 上 ， 健 在 几 个 人 的 合 影 ， 这 个 时 间 已 经 是 人 工 智 能 问 世   5 0   周 年 。 左 起 ： 摩 尔 ， 麦 卡 锡 ， 明 斯 基 ， 赛 弗 里 奇 ， 所 罗 门 诺 夫 而 人 工 智 能 先 后 历 经 三 波 浪 潮 ， 1 9 9 0   年 迎 来 第 二 次 黄 金 时 期 ， 那 一 时 期 日 本 意 欲 打 造 传 说 中 的 “ 第 五 代 计 算 机 ” ， 日 本 当 时 宣 称 第 五 代 计 算 机 的 能 力 就 是 能 够 自 主 学 习 ， 而 随 着 第 五 代 计 算 机 研 制 的 失 败 ， 人 工 智 能 再 被 搁 置 ； 到   2 0 0 6   年 深 度 学 习 的 出 现 ， 成 为 迄 今 为 止 人 工 智 能 的 又 一 波 浪 潮 。 这 些 是 在 北 京 国 家 会 议 中 心 举 办 北 京 国 家 会 议 中 心 举 办 的 的   C S S   2 0 1 7   第 三 届 中 国 领 袖 互 联 网 安 全 大 会 ， 人 工 智 能 和 安 全 伦 理 分 论 坛 之 上 ， 科 大 讯 飞 语 音 云 技 第 三 届 中 国 领 袖 互 联 网 安 全 大 会 ， 人 工 智 能 和 安 全 伦 理 分 论 坛 之 上 ， 科 大 讯 飞 语 音 云 技 术 总 负 责 人 向 我 们 科 普 的 内 容 。 术 总 负 责 人 向 我 们 科 普 的 内 容 。 今 年   C S S   大 会 的 一 大 主 题 就 是 人 工 智 能 ， 所 以 我 们 才 在 主 论 坛 上 听 到   U C B   的 宋 晓 东 教 授 提 人 工 智 能 与 安 全 的 关 系 。 也 不 光 是 如 此 ， 这 两 年 云 服 务 提 供 商 悉 数 在 提 大 数 据 、 云 计 算 和 人 工 智 能 ， 腾 讯 云 也 不 例 外 。 在 昨 天 大 会 次 日 的 “ 大 数 据 及 云 安 全 ” 分 会 场 ， 腾 讯 云 副 总 裁 ， 腾 讯 社 交 网 络 与 腾 讯 云 安 全 负 责 人 黎 巍 提 到 ， 腾 讯 云 的 各 部 分 安 全 产 品 ， 包 括 天 御 、 云 镜 、 乐 固 、 数 盾 等 都 已 经 用 上 了 “ 安 全   A I   大 脑 ” 。 其 实 云 服 务 提 供 商 高 举 人 工 智 能 大 旗 搞 安 全 是 种 必 然 ， 一 方 面 当 前 正 处 于 单 点 防 护 收 效 甚 微 的 时 代 ， 传 统 安 全 工 具 已 经 具 备 很 大 的 局 限 性 ； 另 一 方 面 这 个 时 代 所 谓 的 人 工 智 能 ， 主 体 也 就 是 机 器 学 习 ， 而 机 器 学 习 最 需 要 的 就 是 数 据 — — 数 据 是 云 服 务 提 供 商 的 天 然 优 势 项 ， 更 何 况 是 腾 讯 这 种 体 量 不 光 只 有 云 数 据 的 企 业 。 不 过 这 真 的 是 件 好 事 吗 ？ C S S   2 0 1 7   的 这 两 场 分 论 坛 对 人 工 智 能 的 攻 防 作 了 更 为 细 致 的 扩 展 ， 黎 巍 午 间 在 接 受 媒 体 采 访 时 被 问 得 最 多 的 的 这 两 场 分 论 坛 对 人 工 智 能 的 攻 防 作 了 更 为 细 致 的 扩 展 ， 黎 巍 午 间 在 接 受 媒 体 采 访 时 被 问 得 最 多 的 一 个 问 题 ， 就 是 宋 晓 东 在 主 论 坛 上 提 到 的 ， 攻 击 者 滥 用 人 工 智 能 或 攻 击 人 工 智 能 ， 安 全 厂 商 又 做 何 感 想 。 一 个 问 题 ， 就 是 宋 晓 东 在 主 论 坛 上 提 到 的 ， 攻 击 者 滥 用 人 工 智 能 或 攻 击 人 工 智 能 ， 安 全 厂 商 又 做 何 感 想 。
数 据 是 数 据 是   A I   的 基 石 ， 安 全 更 是 如 此 的 基 石 ， 安 全 更 是 如 此 比 较 有 趣 的 是 ， 北 京 派 网 软 件 有 限 公 司   C E O   孙 朝 晖 已 经 不 是 第 一 次 被 请 到 安 全 论 坛 现 场 了 ， 他 也 照 例 说 ， 派 网 并 非 安 全 企 业 ， 而 是 一 家 做 流 控 和 优 化 解 决 方 案 的 企 业 。 去 年 的 阿 里 云 安 全 峰 会 上 ， 我 们 也 看 到 了 孙 朝 晖 。 他 这 次 解 读 了 P a n a b i t   观 察 到 暗 云   D D o S   攻 击 爆 发 期 间 的 流 量 异 常   — —   长 期 关 注   F r e e B u f   的 同 学 应 该 很 清 楚 腾 讯 针 对 暗 云   I I I   发 了 好 几 波   分 析 文 章 。 实 际 上 ， 派 网 软 件 在   5   月 下 旬 就 已 经 发 现 集 中 针 对 某 些   I P   的 攻 击 行 为 ， 但 攻 击 源 分 散 ， 而 且 不 是 一 次 就 产 生 针 对 性 的 超 大 规 模 攻 击 ， 属 于 “ 脉 冲 压 力 型   D D o S   攻 击 ” ， 所 以 诸 多 抗   D D o S   和 防 火 墙 一 类 安 全 设 备 最 初 都 没 有 检 测 到 。 腾 讯 发 布 暗 云   I I I   的 预 警 和 分 析 时 至   6   月   9   日 。 像 孙 朝 晖 去 年 就 说 的 ， 如   P a n a b i t   这 样 的 企 业 虽 手 持 数 据 ， 却 因 为 并 非 安 全 企 业 而 无 法 有 所 行 动 。 但 孙 朝 晖 经 常 出 现 在 安 全 大 会 的 视 野 中 ， 就 是 数 据 价 值 的 体 现 。 微 软 中 国 首 席 安 全 官 ， 政 府 与 公 共 事 业 部 首 席 架 构 师 邵 江 宁 在 主 题 演 讲 中 ， 直 接 将 微 软 定 义 为 人 工 智 能 “ 最 强 企 业 之 一 ” 。 他 在 针 对 机 器 学 习 模 型 的 解 读 下 定 义 为 ： 模 型   =   数 据   +   算 法 “ 安 全 公 司 最 欠 缺 的 是 数 据 ” ， 而 数 据 可 能 也 会 成 为 人 工 智 能 时 代 ， 企 业 间 能 力 博 弈 的 关 键 所 在 。 这 大 概 也 是 微 软 敢 于 说 出 这 番 话 的 关 键 所 在 ， 谁 让 人 家 又 是 云 服 务 提 供 商 ， 又 是 系 统 制 造 商 呢 ？ 这 才 是 手 持 规 模 数 据 的 集 大 成 者 ， 恶 意 程 序 之 类 的 数 据 分 析 和 统 计 几 乎 是 信 手 拈 来 的 。 微 软 宣 称 自 己 有 “ 宇 宙 级 的 安 全 告 警 数 据 ” ， 如 数 十   P B   的 日 志 ， 3   亿 活 跃 微 软 账 户 用 户 等 等 。 腾 讯 云 专 家 工 程 师 成 杰 峰 博 士 分 享 的 议 题 名 为 《 图 计 算 遇 见 深 度 学 习 ： 安 全   A I   篇 》 。 他 在 演 讲 中 分 享 了 腾 讯 云 利 用 机 器 学 习 取 缔 恶 意 帐 号 遇 到 的 难 点 ， 或 许 我 们 可 以 总 结 认 为 ， 机 器 学 习 在 安 全 领 域 的 应 用 难 点 就 在 数 据 量 方 面 。
腾 讯 云 专 家 工 程 师   成 杰 峰 即 便 我 们 知 道 ， 如 早 年 斯 坦 福 大 学 、 普 林 斯 顿 大 学 和 哥 伦 比 亚 大 学 启 动 的   I m a g e N e t   C h a l l e n g e   挑 战 赛 ， 令 计 算 机 视 觉 的 识 别 精 度 超 越 了 人 类 肉 眼 ， 但 这 更 像 是 人 们 “ 画 饼 ” ， 更 是 给 安 全 界 画 饼 。 成 杰 峰 认 为 ， 计 算 机 视 觉 取 得 的 这 种 阶 段 性 成 功 ， 其 根 源 在 于 我 们 原 本 就 有 大 量 图 片 可 以 作 为 素 材 源 使 用 ， 比 如 猫 和 狗 的 图 片 。 A l p h a G o   取 得 成 功 的 原 因 相 似 ， 就 是 因 为 有 大 量 现 成 样 本 。 但 对 安 全 领 域 来 说 ， 这 种 量 级 的 样 本 是 很 难 取 得 的 。 一 方 面 在 于 可 用 于 机 器 学 习 的 大 量 数 据 ， 实 际 上 是 事 件 已 经 发 生 之 后 的 数 据 ； 另 外 安 全 本 身 是 个 动 态 平 衡 的 过 程 ， 当 我 们 建 立 起 某 个 协 议 规 则 ， 攻 击 者 绕 过 之 后 ， 防 御 方 再 做 更 新 ， 并 不 断 发 生 变 化 。 异 常 识 别 对 于 机 器 学 习 的 要 求 很 高 ， 而 且 这 其 中 还 面 临 更 多 复 杂 的 问 题 。 从 对 主 机 、 业 务 、 终 端 和 网 络 的 分 析 来 看 ， 恶 意 帐 号 往 往 是 产 生 攻 击 和 欺 诈 犯 罪 行 为 的 一 大 来 源 。 而 要 利 用 机 器 学 习 从 几 十 亿 帐 号 中 识 别 出 恶 意 帐 号 ， 比 如 从 恶 意 帐 号 头 像 来 识 别 非 法 色 情 帐 号 ， 那 些 色 情 帐 号 有 些 头 像 很 性 感 ， 有 些 则 直 接 露 点 ， 有 些 则 带 文 字 内 容 。 但 其 实 各 类 色 情 投 头 像 实 际 上 只 有 很 少 的 比 例 ， 比 如 “ 黑 框 ” 不 良 图 像 占 比 仅 有   0 . 0 0 5 % 以 下 ， 这 让 机 器 学 习 如 何 谈 起 ？ 如 果 仅 以 “ 性 感 ” 为 头 像 的 考 察 维 度 ， 甚 至 是 带 文 字 的 头 像 为 特 征 ， 则 会 出 现 大 规 模 的 误 杀 。 所 以 最 终 需 要 抽 取 黑 产 相 关 信 息 ， 结 合 恶 意 帐 号 、 黑 手 机 号 、 黑 设 备 、 I P 地 址 ， “ 子 图 嵌 入 深 度 计 算 ” 来 完 成 最 终 色 情 团 伙 信 号 识 别 不 良 图 像 。 最 终 据 成 杰 峰 所 说 ， 其 识 别 准 确 率 可 以 达 到   9 9 % 。
这 其 实 是 腾 讯 云 融 合 人 工 智 能 的 一 个 实 例 ， 说 到 底 ， 补 足 其 短 板 的 仍 然 是 数 据 。 首 日 主 论 坛 上 ， 云 鼎 实 验 室 负 责 人 董 志 强 在 《 云 鼎 视 点 ： 公 有 云 恶 意 代 码 趋 势 解 读 》 演 讲 中 就 提 到 了 暗 云   I I I ， 对   W a n n a C r y   的 预 先 把 控 ， 并 展 示 了 当 前 服 务 器 安 全 软 件 使 用 分 析 、 木 马 病 毒 趋 势 统 计 ， 甚 至   W e b S h e l l   的 特 点 分 析 ， 这 些 都 是 云 服 务 提 供 商 数 据 优 势 的 体 现 。 A I   真 的 是 安 全 行 业 的 未 来 ？ 真 的 是 安 全 行 业 的 未 来 ？ 当 数 据 变 得 极 为 海 量 之 后 ， 自 动 化 是 个 必 行 的 策 略 ， 而 且 由 于 恶 意 代 码 的 “ 多 态 性 ” ， 如 果 防 御 方 要 扰 乱 攻 击 者 的 攻 击 链 ， 需 要 比 攻 击 者 更 快 ， 所 以 自 动 化 也 是 必 须 的 。 但   G e e k P w n   L a b   总 监 王 海 兵 ， 却 在 《 G e e k p w n   黑 客 眼 中 的   A I   安 全 》 议 题 中 ， 阐 述 了 从 攻 击 者 的 角 度 ， 与   A I   作 对 抗 的 方 式 。 这 个 议 题 实 际 上 和 主 论 坛 上 加 州 大 学 伯 克 利 分 校 宋 晓 东 教 授 提 到 对 于   A I   安 全 的 担 忧 是 异 曲 同 工 的 。 从 黑 客 的 常 规 角 度 出 发 ， 针 对 不 同 设 备 的 攻 破 方 法 其 实 是 差 不 多 的 。 比 如 说 腾 讯 科 恩 实 验 室 破 解 特 斯 拉 ， 看 似 是 个 全 新 的 领 域 ， 实 际 也 就 是 针 对 其 建 基 于   L i n u x   系 统 之 上 的 固 件 作 深 入 研 究 ； 再 比 如 针 对 许 多 路 由 器 的 攻 击 ， 找 准 的 也 不 过 是 其 中 类 似   w e b   s e r v e r   这 样 的 组 成 部 分 的 漏 洞 。 从 这 个 角 度 来 说 ， A I   并 没 有 多 么 神 秘 ， 它 首 先 也 需 要 运 行 在 信 息 系 统 环 境 中 。 比 如 许 多 人 脸 识 别 算 法 ， 可 以 认 为 是 深 度 学 习 的 应 用 ， 而 黑 客 绕 过 门 禁 的 人 脸 识 别 ， 主 要 利 用 的 是 系 统 漏 洞 ， 而 不 是   A I   本 身 的 问 题 。 这 本 身 就 是   A I   应 该 考 虑 的 问 题 。 再 者 ， 现 如 今 的 从 业 者 开 发 人 工 智 能 也 并 不 需 要 从 头 进 行 ， 而 是 又 现 成 的 库 和 框 架 可 以 用 。 比 如 计 算 机 视 觉 库 O p e n C V ， 还 有 谷 歌 著 名 的   T e n s o r F l o w   框 架 ， 很 多 都 已 经 发 现 相 当 数 量 的 安 全 漏 洞 。
最 精 彩 的 部 分 也 就 是 算 法 被 攻 击 的 情 况 了 。 比 较 经 典 的 例 子 就 是 上 面 这 张 熊 猫 图 片 ， 在 经 过 攻 击 者 的 精 心 干 扰 后 ， 最 终 产 生 的 所 谓 对 抗 样 本 ， 以 肉 眼 是 很 难 看 出 差 别 的 ， 但 感 染 的 偏 差 量 被 精 心 设 计 过 ， 这 张 图 片 就 可 以 让 神 经 网 络 对 其 作 错 误 分 类 。 去 年   1 0   月 份 的 极 棒 硅 谷 站 ， I a n   G o o d f e l l o w   就 发 表 过 题 为 《 P h y s i c a l   A d v e r s a r i a l   E x a m p l e s 》 的 演 讲 ， 当 我 们 把 一 张 鸟 的 图 片 经 过 对 抗 干 扰 后 ， 用 打 印 机 将 其 打 印 出 来 ， 然 后 再 经 由 设 备 识 别 ， 居 然 仍 然 会 将 其 识 别 成 飞 机 。 这 项 研 究 就 与 宋 晓 东 参 与 的 ， 交 通 标 志 被 篡 改 后 ， 可 对 自 动 驾 驶 汽 车 的 识 别 系 统 产 生 恶 意 影 响 相 关 研 究 有 关 系 。 不 过 伊 利 诺 伊 大 学 香 槟 分 校 的 研 究 却 认 为 ， 针 对 交 通 标 志 的 对 抗 样 本 ， 自 动 驾 驶 汽 车 对 其 识 别 ， 可 能 会 因 为 距 离 和 角 度 的 关 系 而 产 生 变 化 ， 比 如 在 某 个 距 离 下 识 别 ， 对 抗 样 本 就 不 产 生 作 用 了 ； 但 不 久 ， O p e n A I   贴 出 了 一 只 猫 ， 即 便 随 观 察 识 别 的 距 离 和 角 度 差 异 ， 这 只 猫 由 于 经 过 了 精 心 的 干 扰 ， 所 以 绝 大 部 分 情 况 下 还 是 会 被 识 别 为 台 式 电 脑 。 从 上 述 三 个 层 面 ， A I   存 在 的 安 全 问 题 也 是 值 得 未 来 技 术 发 展 深 究 的 。 但 实 际 上 ， 我 们 到 目 前 为 止 ， 也 并 没 有 听 说 哪 家
A I   研 究 企 业 针 对   A I   本 身 在 安 全 方 面 下 功 夫 。 所 以 王 海 兵 才 说 ： “ 很 多 搞 很 多 搞   A I   的 并 没 有 安 全 这 根 弦 。 的 并 没 有 安 全 这 根 弦 。 ” 这 依 旧 应 了 开 发 和 安 全 割 裂 的 固 有 特 点 ， 只 不 过 在 这 个 场 景 下 ， 开 发 正 在 为 安 全 服 务 ， 但 其 自 身 的 安 全 问 题 却 又 一 次 被 忽 视 了 。 这 实 际 上 还 只 陷 入 宋 晓 东 所 说 针 对   A I   攻 击 的 其 中 一 部 分 （ 攻 击   A I   和 滥 用   A I   中 的 攻 击   A I 。 ） 现 如 今 应 用 机 器 学 习 的 安 全 产 品 已 经 越 来 越 多 了 ， 比 如 许 多 “ 下 一 代 终 端 ” 产 品 ， 如   C y l a n c e 、 C r o w d S t r i k e 、 S e n t i n e l O n e   等 等 。 不 过 滴 滴   L a b s   安 全 研 究 负 责 人 蔺 毅 翀 认 为 单 就 机 器 学 习 模 型 迭 代 效 率 ， 实 际 上 赶 不 上 攻 击 的 速 度 ， 其 迭 代 频 率 至 少 仍 以 周 为 单 位 行 进 。 所 以 机 器 学 习 、 深 度 学 习 应 用 到 类 似 离 线 学 习 这 样 的 场 景 ， 从 既 有 数 据 中 发 现 关 联 和 异 常 是 有 价 值 的 。 这 也 决 定 了 就 当 下 ， 机 器 学 习 可 能 仍 然 只 能 当 作 多 维 度 中 的 一 个 维 度 来 作 安 全 ， 典 型 如 风 控 ， 几 乎 不 可 能 单 以 人 脸 识 别 为 方 式 ， 必 然 辅 以 用 户 画 像 和 策 略 模 型 。 不 过 蔺 毅 翀 在 演 讲 最 后 说 了 一 句 话 ： A I   是 否 是 安 全 这 条 路 上 正 确 的 方 式 ， 不 知 道 … 腾 讯 云 副 总 裁 ， 腾 讯 社 交 网 络 与 腾 讯 云 安 全 负 责 人   黎 巍 （ 中 ） 腾 讯 云 副 总 裁 ， 腾 讯 社 交 网 络 与 腾 讯 云 安 全 负 责 人 黎 巍 在 接 受 媒 体 群 访 时 谈 到 ， 腾 讯 云 曾 经 遭 遇 过 一 个 案 例 ， 某 犯 罪 团 伙 进 行 验 证 码 识 别 的 方 式 已 经 不 是 雇 人 了 ， 而 是 租 用 某 云 厂 商 的 多 台 主 机 ， 应 用 人 工 智 能 ， 对 其 进 行 识 别 。 这 一 个 案 例 就 足 以 说 明 ， 攻 击 者 也 已 经 相 中 人 工 智 能 在 攻 击 技 术 中 的 应 用 。 上 文 提 到 那 些 研 究 人 员 设 定 的 场 景 也 从 来 不 是 随 意   Y Y   的 。 A I   成 功 的 标 准 是 什 么 ？ 成 功 的 标 准 是 什 么 ？ E l o n   M u s k   早 前 提 出 过 一 个 观 点 ， 即 人 工 智 能 未 来 可 能 会 强 大 到 足 以 支 配 人 类 ， 为 了 避 免 这 一 惨 剧 的 发 生 ， M u s k   成 立 新 公 司   N e u r a l i n k   意 图 将 人 脑 和 计 算 机 作 融 合 ， 他 认 为 这 是 人 类 的 唯 一 出 路 。 他 甚 至 还 提 到 ， “ 脑 机 界 面 ” 能 进 行 人 类 意 识 的 实 时 翻 译 ， 将 之 转 化 为 可 输 出 的 电 子 信 号 ， 从 而 可 以 连 接 甚 至 控 制 外 部 设 备 。 但 这 个 想 法 被 人 工 智 能 与 安 全 伦 理 分 会 场 上 的 翟 振 明 教 授 彻 底 否 定 。 中 山 大 学 人 机 互 联 实 验 室 教 授 翟 振 明 最 早 从 北 京 钢 铁 学 院 毕 业 （ 用 他 自 己 的 话 说 是 炼 钢 铁 的 ） ， 随 后 前 往 美 国 搞 哲 学 研 究 成 为 哲 学 博 士 ， 后 来 开 始 深 造   V R   和 人 工 智 能 。 现 如 今 他 有 自 己 的   V R   实 验 室 ， 将 物 联 网 和   V R   进 行 融 合 ， 形 成 所 谓 的   E R   （ 扩 展 现 实 ） 。
中 山 大 学 人 机 互 联 实 验 室 教 授   翟 振 明 （ 他 实 际 上 是 个 哲 学 博 士 ） 从 他 的 阐 述 来 看 ， 在 实 验 室 里 戴 上   V R   眼 镜 ， 从 眼 镜 里 看 到 的 首 先 仍 然 是 实 验 室 真 实 环 境 ， 但 佩 戴 者 并 不 清 楚 从 何 时 开 始 ， 真 正 步 入 虚 拟 现 实 环 境 ， 便 无 从 了 解 自 己 究 竟 在 现 实 还 是 在 虚 拟 现 实 中 ， 因 为 期 间 的 整 个 过 程 ， 佩 戴 者 还 与 I o T   设 备 发 生 了 真 实 的 交 互 ， 这 很 容 易 欺 骗 人 类 。 翟 振 明 否 认   M u s k   的 立 足 点 首 先 在 于 ， 基 于 他 和 美 国 量 子 物 理 学 家   H e n r y   S t a p p   的 讨 论 ， 我 们 现 在 所 谓 的 人 工 智 能 ， 是 不 可 能 产 生 真 正 的 自 我 意 识 的 ， 或 者 说 图 灵 模 型 、 冯 诺 依 曼 模 型 产 生 的 图 灵 模 型 、 冯 诺 依 曼 模 型 产 生 的   A I   都 无 法 有 自 我 意 识 都 无 法 有 自 我 意 识 。 他 提 出 一 个 有 趣 的 思 考 ： 给 人 类 戴 上   V R   眼 镜 ， 和 给 一 台 机 器 戴 上   V R   眼 镜 ， 其 判 定 差 异 究 竟 在 哪 里 ？ 不 管 是   A l p h a G o ， 还 是 “ 阿 尔 法 猫 ” ， 哪 怕 “ 卷 积 层   5 0 0   万 层 ” ， V R   眼 镜 后 面 的 人 工 智 能 ， 都 和 人 的 自 我 意 识 有 着 本 质 差 异 。 这 张 图 值 得 深 思 这 其 中 的 核 心 在 于 ， 人 类 接 受 外 部 认 知 性 信 息 ， 靠 的 是 自 然 感 官 ， 而 不 是 外 来 的 控 制 信 号 ， 这 是 人 类 个 体 维 系 主 体 地
位 的 基 础 。 如 果 开 始 给 人 脑 直 接 灌 输 控 制 信 号 ， 那 么 人 的 自 我 意 识 可 能 会 无 从 谈 起 ， 甚 至 人 类 的 自 我 意 识 可 能 被 彻 底 抹 除 ， 因 为   M u s k   的 的   N e u r a l i n k   意 图 绕 过 人 的 自 然 感 官 去 直 接 刺 激 脑 中 枢 ， 这 本 身 就 是 自 我 意 识 的 坍 塌 ， 并 最 意 图 绕 过 人 的 自 然 感 官 去 直 接 刺 激 脑 中 枢 ， 这 本 身 就 是 自 我 意 识 的 坍 塌 ， 并 最 终 导 致 人 类 的 毁 灭 。 终 导 致 人 类 的 毁 灭 。 不 过 更 有 趣 的 ， 和 主 论 坛 上 卡 巴 斯 基 实 验 室 安 全 专 家   V l a d i m i r   D a s h c h e n k o   说 的 一 样 ， 这 种 绕 过 方 式 ， 为 攻 击 者 控 制 人 类 提 供 了 更 大 的 便 利 。 而   E R   （ 扩 展 现 实 ） 如 果 能 够 大 范 围 取 得 成 功 ， 迷 惑 佩 戴 者 究 竟 身 处 现 实 还 是 数 字 世 界 ， 其 危 害 和   M u s k   的 脑 机 融 合 大 约 也 是 差 不 多 的 。 回 头 再 看 看 机 器 佩 戴   V R   眼 镜 和 人 类 佩 戴   V R   眼 镜 的 差 异 ， 你 能 感 觉 出 其 中 的 鸿 沟 吗 ？ 这 扯 得 有 点 儿 远 了 ， 或 者 说 未 免 过 于 超 前 ， 这 里 近 作 简 单 分 享 ， 有 兴 趣 的 同 学 可 以 自 行 搜 索 翟 振 明 教 授 的 研 究 （ 可 搜   人 机 交 互 三 原 则 ） 。 我 们 说 了 这 么 多   A I   的 毛 病 和 问 题 ， 以 人 工 智 能 来 助 力 安 全 却 依 旧 是 主 旋 律 ， 因 为 人 工 智 能 的 确 是 有 效 的 ， 即 便 还 不 是 完 全 有 效 。 就 现 阶 段 来 看 ， A I   在 安 全 领 域 应 用 成 功 与 否 ， 微 软 的 邵 江 宁 给 出 了 总 结 ： 可 适 应 性 （ A d a p t a b l e ） 、 可 解 释 （ E x p l a i n a b l e ） 、 可 行 动 （ A c t i o n a b l e ） 其 中 的 可 适 应 性 ， 可 列 举 为 可 以 适 应 恶 意 程 序 的 新 变 种 ； 可 解 释 则 是 说 人 类 可 以 理 解 ， 不 会 是 无 法 归 因 和 解 释 的 ； 可 执 行 则 要 求 提 高 响 应 速 度 。 成 功 的 数 据 检 测 需 要 离 散 的 数 据 集 和 规 则 与 安 全 专 业 知 识 的 结 合 。 最 终   A I   应 用 成 功 与 否 在 于 速 度 （ 速 度 （ R e a l - t i m e d e t e c t i o n ， 实 时 检 测 ） 、 质 量 （ ， 实 时 检 测 ） 、 质 量 （ R e d u c e   f a l s e   p o s i t i v e s ， 减 少 误 报 ） 和 响 应 （ ， 减 少 误 报 ） 和 响 应 （ F a s t   t r i a g e ） ） 。 至 少 邵 江 宁 说 ， 微 软 内 部 的   A I   研 发 都 是 以 此 为 判 断 标 准 的 。 然 而 我 们 依 然 未 能 从 这 些 检 验 标 准 中 看 到 ， 对   A I   本 身 安 全 性 的 规 范 ， 所 以   A I   仍 然 充 满 了 各 种 不 确 定 性 。 其 有 待 解 决 的 问 题 可 能 还 非 常 多 样 ， 比 如 中 国 信 息 安 全 认 证 中 心 体 系 与 服 务 认 证 部 主 任 张 剑 提 到 的 大 数 据 环 境 下 的 个 人 隐 私 保 护 — — 大 部 分 国 家 针 对 大 数 据 的 指 导 文 件 ， 前 期 出 台 的 都 只 是 以 如 何 发 展 这 种 技 术 为 方 向 ， 个 人 隐 私 似 乎 都 是 其 次 的 问 题 。 可 能 人 们 在 某 种 技 术 真 正 发 展 起 来 之 前 ， 关 注 的 焦 点 都 只 在 其 究 竟 能 实 现 什 么 ， 而 不 是 它 存 在 着 多 少 问 题 ， 安 全 就 是 其 中 一 环 。 黎 巍 和 成 杰 峰 在 采 访 中 都 说 ， 黑 产 的 确 有 可 能 利 用 人 工 智 能 ， 但 我 们 先 发 地 投 入 了 研 究 ， 这 就 是 优 势 ， 在 “ 坏 人 还 没 有 打 造 出 矛 之 前 ， 我 们 就 要 开 发 抵 抗 性 很 强 的 盾 ” 。 未 知 在 攻 击 者 手 中 ， A I   是 否 真 能 如 此 乐 观 。 更 多 花 絮 ： 更 多 花 絮 ：
腾 讯 云 宣 布 建 立   D D o S   防 护 联 盟 腾 讯 云 安 全 技 术 总 监   方 勇 谈 《 公 有 云   D D o S   挑 战 的 应 对 之 道 》
中 山 大 学 人 机 互 联 实 验 室 教 授   翟 振 明 上 台 就 说 早 前 他 储 备 了   7 0 0   个 左 右 的 比 特 币 ， 卖 掉   3 0 0   个 ， 又 赶 上   M t .   G o x   破 产 ， 损 失 了   1 0 0   个 ， 3 0 0 个 比 特 币 又 在 同 一 天 被 窃 … 分 论 坛 的 女 主 持
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理