搜索

[10711] 2016-11-13_当人工智能应用于黑色产业

文档创建者：s7ckTeam
浏览次数：4
最后更新：2025-01-18
2016-11-13_当人工智能应用于黑色产业 当 人 工 智 能 应 用 于 黑 色 产 业 A l p h a _ h 4 c k   F r e e B u f   2 0 1 6 - 1 1 - 1 3 请 各 位 同 学 想 象 一 下 这 个 场 景 ： 你 老 妈 打 电 话 跟 你 说 她 把 银 行 密 码 忘 记 了 ， 让 你 告 诉 她 银 行 卡 密 码 。 想 必 你 也 知 道 了 ， 跟 请 各 位 同 学 想 象 一 下 这 个 场 景 ： 你 老 妈 打 电 话 跟 你 说 她 把 银 行 密 码 忘 记 了 ， 让 你 告 诉 她 银 行 卡 密 码 。 想 必 你 也 知 道 了 ， 跟 你 通 话 的 其 实 不 是 她 本 人 ， 而 是 电 脑 合 成 的 声 音 ， 只 是 听 起 来 很 像 而 已 ， 这 就 是 人 工 智 能 技 术 的 杰 作 。 你 通 话 的 其 实 不 是 她 本 人 ， 而 是 电 脑 合 成 的 声 音 ， 只 是 听 起 来 很 像 而 已 ， 这 就 是 人 工 智 能 技 术 的 杰 作 。 人 工 智 能 技 术 正 在 不 断 发 展 人 工 智 能 技 术 正 在 不 断 发 展 虽 然 利 用 人 工 智 能 在 电 话 中 伪 装 某 人 的 这 种 技 术 仍 然 只 会 出 现 在 科 幻 电 影 中 ， 但 这 种 高 科 技 犯 罪 手 法 在 未 来 很 可 能 会 成 为 现 实 。 目 前 ， 这 种 伪 装 技 术 所 需 要 的 软 件 组 件 正 在 飞 速 发 展 之 中 。 例 如 ， 最 近 A l p h a b e t 公 司 旗 下 的 子 公 司 D e e p M i n d （ 该 公 司 开 发 了 一 款 能 打 败 顶 尖 棋 手 的 人 工 智 能 围 棋 程 序 A l p h a G o ） 宣 布 ， 他 们 已 经 设 计 出 了 一 款 能 够 模 仿 人 类 声 音 的 新 程 序 ， 而 且 声 音 听 起 来 比 目 前 最 好 的 文 本 语 音 转 换 系 统 更 自 然 ， 并 且 成 功 将 机 器 语 音 与 人 类 声 音 的 差 异 缩 小 了 5 0 % 以 上 。 需 要 注 意 的 是 ， 年 收 入 高 达 7 5 0 亿 美 元 的 计 算 机 安 全 行 业 已 开 始 讨 论 机 器 学 习 这 个 话 题 了 。 因 为 信 息 安 全 研 究 人 员 打 算 通 过 机 器 学 习 和 模 式 识 别 技 术 来 改 善 目 前 计 算 机 安 全 方 面 的 糟 糕 状 况 。 人 工 智 能 的 阿 喀 琉 斯 之 踵 人 工 智 能 的 阿 喀 琉 斯 之 踵 虽 然 一 切 听 起 来 十 分 美 好 ， 但 人 工 智 能 技 术 也 有 其 自 身 的 缺 陷 。 M a r c   G o o d m a n 是 某 执 法 机 构 的 一 名 顾 问 ， 同 时 他 也 是 《 F u t u r e C r i m e s 》 的 作 者 ， 他 表 示 ： “ 可 能 很 多 人 现 在 还 没 有 意 识 到 ， 网 络 犯 罪 正 趋 向 于 自 动 化 ， 而 且 扩 张 速 度 惊 人 。 现 在 已 经 不 是 M a t t h e w   B r o d e r i c k 躲 在 地 下 室 去 攻 击 别 人 计 算 机 的 年 代 了 （ 电 影 《 战 争 游 戏 》 （ 1 9 8 3 年 ） 中 的 情 节 ） 。 ” 今 年 年 初 ， 美 国 国 家 情 报 局 的 负 责 人 J a m e s R .   C l a p p e r 发 出 了 关 于 恶 意 使 用 人 工 智 能 技 术 的 警 告 。 C l a p p e r 在 他 的 年 度 安 全 报 告 中 强 调 ， 虽 然 人 工 智 能 系 统 可 以 让 我 们 的 生 活 变 得 更 加 简 单 ， 但 与 此 同 时 网 络 世 界 中 的 “ 薄 弱 之 处 ” 也 会 因 为 人 工 智 能 的 出 现 而 不 断 被 放 大 。
如 今 计 算 机 犯 罪 活 动 日 益 复 杂 化 ， 从 不 断 升 级 更 新 的 攻 击 工 具 身 上 就 可 以 看 出 了 。 比 如 目 前 得 到 了 广 泛 使 用 的 恶 意 软 件 B l a c k s h a d e s ， 这 款 恶 意 软 件 的 开 发 者 叫 G o o d m a n ， 他 是 个 瑞 典 人 。 不 过 悲 剧 的 是 ， 他 已 于 去 年 在 美 国 被 定 罪 了 。 这 款 恶 意 软 件 在 地 下 黑 市 的 销 量 非 常 高 ， 据 G o o d m a n 所 说 ， 由 于 B l a c k s h a d e s 可 以 为 犯 罪 分 子 提 供 很 多 强 大 的 功 能 ， 因 此 这 款 恶 意 软 件 也 被 大 家 称 为 “ 网 络 犯 罪 分 子 的 潘 多 拉 魔 盒 ” 。 在 B l a c k s h a d e s 的 帮 助 下 ， 使 用 者 压 根 不 需 要 懂 得 任 何 的 黑 客 技 术 ， 用 户 只 需 要 点 击 几 下 鼠 标 便 可 以 实 现 攻 击 。 这 款 恶 意 软 件 不 仅 可 以 轻 易 地 让 目 标 计 算 机 感 染 勒 索 软 件 ， 而 且 还 能 对 目 标 进 行 视 频 和 音 频 监 控 。 人 工 智 能 领 域 的 研 究 人 员 目 前 正 在 研 究 如 何 提 升 机 器 学 习 的 能 力 ， 因 为 他 们 希 望 改 善 计 算 机 视 觉 、 语 音 理 解 、 语 音 合 成 和 自 然 语 言 理 解 的 处 理 质 量 。 但 这 也 会 带 来 一 些 不 好 的 影 响 ， 因 为 犯 罪 分 子 也 可 以 在 下 一 代 恶 意 软 件 中 增 加 这 种 机 器 学 习 的 能 力 。 有 一 些 安 全 研 究 专 家 则 认 为 ， 其 实 早 在 五 年 前 就 已 经 有 犯 罪 分 子 在 利 用 人 工 智 能 技 术 进 行 网 络 犯 罪 活 动 了 。 安 全 保 护 技 术 与 人 工 智 能 的 博 弈 安 全 保 护 技 术 与 人 工 智 能 的 博 弈 现 在 ， 几 乎 所 有 的 互 联 网 服 务 都 会 要 求 用 户 在 使 用 前 输 入 验 证 码 ， 而 犯 罪 分 子 们 一 直 都 在 试 图 破 解 验 证 码 技 术 。 验 证 码 （ C a p t c h a ） 的 全 称 是 “ 全 自 动 区 分 计 算 机 和 人 类 的 图 灵 测 试 ” ， 这 项 技 术 是 美 国 卡 内 基 梅 隆 大 学 的 研 究 员 于 2 0 0 3 年 发 明 的 ， 网 站 运 营 者 可 以 利 用 这 项 技 术 来 防 止 自 动 化 程 序 盗 取 用 户 的 网 络 账 户 数 据 。 来 自 加 利 福 尼 亚 大 学 的 计 算 机 安 全 研 究 专 家 来 自 加 利 福 尼 亚 大 学 的 计 算 机 安 全 研 究 专 家 S t e f a n S a v a g e 表 示 ： 表 示 ： “ 近 五 年 来 ， 人 工 智 能 专 家 和 网 络 犯 罪 分 子 都 在 尝 试 使 用 计 算 机 视 觉 软 件 来 破 解 验 证 码 技 术 。 如 果 你 两 年 来 都 没 有 更 改 过 你 的 验 证 码 ， 那 么 你 的 验 证 码 肯 定 会 被 计 算 机 视 觉 算 法 搞 定 。 ” 社 会 工 程 学 社 会 工 程 学 毫 无 疑 问 ， 随 着 科 技 的 不 断 发 展 ， 网 络 犯 罪 分 子 肯 定 会 尝 试 利 用 新 兴 的 技 术 来 进 行 犯 罪 活 动 。 像 苹 果 的 S i r i 和 微 软 的 C o r t a n a 这 样 的 语 音 识 别 技 术 目 前 已 经 得 到 了 广 泛 使 用 。 亚 马 逊 的 声 控 智 能 音 箱 E c h o 和 F a c e b o o k 的 人 工 智 能 聊 天 机 器 人 也 成 为 了 电 商 与 顾 客 之 间 的 沟 通 工 具 。 与 以 前 一 样 ， 每 当 类 似 语 音 识 别 技 术 这 样 的 新 型 技 术 成 为 了 市 场 上 的 主 流 之 后 ， 犯 罪 分 子 一 定 会 利 用 这 项 技 术 去 大 做 文 章 。
调 查 记 者 调 查 记 者 B r i a n   K r e b s 在 在 k r e b s o n s e c u r i t y . c o m 上 发 表 文 章 称 ： 上 发 表 文 章 称 ： “ 在 我 看 来 ， 那 些 为 客 户 提 供 了 智 能 聊 天 服 务 的 公 司 绝 对 忽 略 了 一 个 问 题 ： 在 信 息 安 全 领 域 中 ， 想 要 获 得 便 捷 性 ， 往 往 就 会 以 牺 牲 安 全 性 作 为 代 价 。 通 过 聊 天 机 器 人 来 服 务 客 户 ， 这 一 切 看 似 非 常 方 便 ， 但 这 也 使 得 攻 击 者 有 可 能 通 过 社 会 工 程 学 技 术 来 攻 击 这 些 网 络 服 务 。 ” 社 会 工 程 学 技 术 针 对 的 是 人 性 的 弱 点 ， 而 这 也 是 计 算 机 安 全 链 中 最 薄 弱 的 一 个 环 节 ， 网 络 犯 罪 分 子 通 常 会 把 那 些 容 易 轻 信 别 人 或 乐 于 助 人 的 人 们 作 为 攻 击 目 标 。 假 如 犯 罪 分 子 有 能 力 去 研 发 人 工 智 能 恶 意 软 件 ， 并 利 用 这 种 恶 意 软 件 在 网 上 进 行 犯 罪 活 动 的 话 ， 那 么 计 算 机 安 全 形 势 将 会 变 得 更 加 严 峻 。 话 虽 如 此 ， 但 是 智 能 聊 天 机 器 人 目 前 仍 然 得 到 了 广 泛 的 应 用 。 例 如 政 府 在 进 行 某 些 宣 传 时 ， 或 者 在 政 治 选 举 之 类 的 活 动 中 ， 我 们 都 可 以 看 到 智 能 聊 天 机 器 人 的 身 影 。 值 得 一 提 的 是 ， 政 治 聊 天 机 器 人 在 英 国 脱 欧 公 投 中 可 是 扮 演 了 一 个 非 常 重 要 的 角 色 啊 ！ 总 结 总 结 总 之 ， 网 络 犯 罪 分 子 迟 早 会 利 用 人 工 智 能 技 术 来 进 行 攻 击 ， 一 切 只 是 时 间 问 题 。 但 值 得 庆 幸 的 是 ， 目 前 还 没 有 人 利 用 机 器 学 习 技 术 来 进 行 网 络 犯 罪 活 动 。 * 参 考 来 源 ： n y t i m e s   ， F B 小 编 A l p h a _ h 4 c k 编 译 ， 转 载 请 注 明 来 自 F r e e B u f 黑 客 与 极 客 （ F r e e B u f . C O M ）
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理