搜索

[9830] 2016-02-19_外媒质疑美国安局（NSA）天网，或已误杀千人

文档创建者：s7ckTeam
浏览次数：8
最后更新：2025-01-18
2016-02-19_外媒质疑美国安局（NSA）天网，或已误杀千人 外 媒 质 疑 美 国 安 局 （ N S A ） 天 网 ， 或 已 误 杀 千 人 明 明 知 道   F r e e B u f   2 0 1 6 - 0 2 - 1 9 F r e e B u f 曾 经 报 道 过 美 国 国 安 局 曾 经 报 道 过 美 国 国 安 局 N S A 一 项 名 为 一 项 名 为 “ 天 网 天 网 ” S K Y N E T 的 计 划 ， 根 据 的 计 划 ， 根 据 T h e   I n t e r c e p t 公 布 了 一 份 文 档 显 示 ， 公 布 了 一 份 文 档 显 示 ， “ 天 天 网 网 ” 使 用 机 器 学 习 算 法 分 析 帮 助 使 用 机 器 学 习 算 法 分 析 帮 助 N S A 寻 找 潜 在 恐 怖 分 子 。 如 今 ， 外 媒 却 在 质 疑 ， 这 个 项 目 可 能 已 经 在 巴 勒 斯 坦 寻 找 潜 在 恐 怖 分 子 。 如 今 ， 外 媒 却 在 质 疑 ， 这 个 项 目 可 能 已 经 在 巴 勒 斯 坦 “ 误 杀 误 杀 上 千 无 辜 平 民 上 千 无 辜 平 民 ” 。 。 N S A ： 数 据 说 了 算 ： 数 据 说 了 算   V S   专 家 ： 你 们 一 派 胡 言 专 家 ： 你 们 一 派 胡 言 2 0 1 4 年 ， 一 名 C I A 和 N S A 前 负 责 人 宣 称 ： 我 们 杀 人 是 基 于 元 数 据 的 我 们 杀 人 是 基 于 元 数 据 的 。 其 本 意 大 概 是 ， 我 们 不 会 滥 杀 无 辜 … … 但 是 ， 一 名 来 自 “ 人 权 数 据 分 析 组 织 ” （ H u m a n   R i g h t s   D a t a   A n a l y s i s   G r o u p ） 的 数 据 科 学 家 P a t r i c k   B a l l 对 N S A 提 出 强 烈 质 疑 ， 他 曾 评 价 N S A 机 器 学 习 算 法 “ 盲 目 乐 观 ” 并 且 “ 一 派 胡 言 ” 。 自 2 0 0 4 年 以 来 ， 巴 基 斯 坦 地 区 死 于 无 人 机 轰 炸 下 的 人 数 介 于 2 5 0 0 至 4 0 0 0 人 ， 其 中 绝 大 部 分 人 被 美 国 政 府 定 义 为 “ 极 端 分 子 ” 。 而 从 此 前 流 出 的 幻 灯 片 不 难 发 现 ， S K Y N E T 机 器 学 习 程 序 早 在 2 0 0 7 年 就 在 秘 密 开 发 中 了 。 S K Y N E T ： 披 着 大 数 据 外 衣 的 丧 钟 ： 披 着 大 数 据 外 衣 的 丧 钟 “ 天 网 ” 就 是 一 个 很 典 型 的 大 数 据 业 务 应 用 ， 程 序 进 行 元 数 据 收 集 并 储 存 到 N S A 云 服 务 器 ， 在 提 取 所 需 相 关 信 息 之 后 运 用 机 器 学 习 从 事 有 针 对 性 的 识 别 。 N S A 将 其 运 用 于 巴 基 斯 坦 地 区 ， 分 析 了 巴 基 斯 坦 地 区 5 5 0 0 万 移 动 电 话 记 录 ， 其 中 包 括 手 机 通 话 数 据 （ 就 是 所 谓 的 “ D N R ” 或 号 码 识 别 数 据 ， 如 通 话 时 间 、 持 续 时 间 、 通 话 对 象 等 等 ） ， 用 户 定 位 和 旅 程 详 细 情 况 ， 以 及 关 机 或 换 S I M 卡 操 作 。 任 何 可 疑 的 行 为 都 会 被 做 上 记 号 。
简 而 言 之 ， N S A 通 过 生 活 模 式 、 社 交 网 络 以 及 旅 游 行 为 三 个 维 度 来 进 行 数 据 的 收 集 和 计 算 。 在 得 到 了 较 为 完 整 的 元 数 据 集 之 后 ， S K Y N E T 可 以 速 写 出 人 们 典 型 的 日 常 生 活 — — 某 些 人 一 起 旅 行 、 分 享 联 系 人 、 在 一 起 过 夜 、 访 问 其 他 国 家 或 永 久 移 居 。 最 终 ， N S A 机 器 学 习 算 法 使 用 超 过 8 0 种 不 同 属 性 为 人 们 的 “ 恐 怖 分 子 率 ” 打 分 。 然 而 ， 就 是 这 一 权 威 机 构 的 科 学 算 法 却 出 现 一 个 令 人 大 跌 眼 镜 的 结 果 ： 然 而 ， 就 是 这 一 权 威 机 构 的 科 学 算 法 却 出 现 一 个 令 人 大 跌 眼 镜 的 结 果 ： 去 年 T h e   I n t e r c e p t 公 开 了 根 据 这 一 算 法 得 分 最 高 的 “ 恐 怖 分 子 ” — — 竟 然 是 一 名 受 人 敬 仰 的 记 者 A h m a d   M u a f f a q   Z a i d a n 。 作 为 记 者 ， Z a i d a n 有 着 广 泛 的 通 讯 网 络 ， 并 采 访 过 包 括 本 拉 登 在 内 的 多 名 基 地 组 织 领 导 人 。 对 于 “ 天 网 ” 系 统 的 误 杀 ， Z a i d a n 十 分 愤 慨 。
解 密 解 密 “ 天 网 天 网 ” 为 何 疏 而 有 漏 为 何 疏 而 有 漏 S K Y N E T 的 分 类 算 法 对 元 数 据 与 基 础 事 实 进 行 分 析 ， 然 后 为 每 个 人 进 行 打 分 。 理 论 上 真 正 的 恐 怖 分 子 会 得 到 高 分 。 想 要 训 练 出 这 样 的 机 器 学 习 算 法 就 像 训 练 B a y e s i a n 垃 圾 邮 件 过 滤 器 一 样 ： 你 要 给 它 “ 喂 食 ” 已 知 的 垃 圾 邮 件 和 非 垃 圾 邮 件 。 从 这 些 最 为 基 本 的 “ 真 理 ” 中 ， 算 法 便 会 掌 握 怎 样 才 能 正 确 过 滤 垃 圾 邮 件 。 同 理 ， “ 天 网 ” 项 目 中 最 为 关 键 的 部 分 便 是 算 法 的 训 练 ， 而 为 数 不 多 “ 已 知 恐 怖 分 子 ” 造 成 的 局 限 性 就 显 现 出 来 。 F r e e B u f 从 华 盛 顿 大 学 D a t a   L a b 数 据 学 研 究 者 C H I 那 里 了 解 到 ， N S A 在 “ 天 网 ” 中 采 用 的 随 机 森 林 算 法 在 机 器 学 习 中 很 常 用 ， 而 且 一 般 来 说 效 果 也 很 好 的 ， 但 是 在 用 于 发 现 恐 怖 分 子 时 还 存 在 诸 多 问 题 。 F r e e B u f   百 科 ： 随 机 森 林 算 法 百 科 ： 随 机 森 林 算 法 随 机 森 林 算 法 是 采 用 用 随 机 的 方 式 建 立 一 个 有 很 多 不 相 关 决 策 树 的 森 林 ， 在 得 到 森 林 之 后 ， 当 有 一 个 新 的 输 入 样 本 进 入 的 时 候 ， 就 让 森 林 中 的 每 一 棵 决 策 树 分 别 进 行 一 下 判 断 ， 看 看 这 个 样 本 应 该 属 于 哪 一 类 ， 然 后 看 看 哪 一 类 被 选 择 最 多 ， 就 预 测 这 个 样 本 为 那 一 类 。 B a l l 解 释 道 “ 天 网 ” 算 法 是 通 过 1 0 万 随 机 挑 选 的 个 体 和 已 知 的 7 名 恐 怖 分 子 进 行 训 练 。 N S A 给 算 法 提 供 6 名 恐 怖 分 子 ， 让 它 找 出 第 7 个 。 安 全 专 家 B r u c e   S c h n e i e r 认 为 政 府 在 使 用 大 数 据 时 不 同 于 其 他 情 况 ： 如 果 谷 歌 犯 了 个 错 误 ， 人 们 最 多 是 看 到 一 辆 汽 车 的 广 告 而 并 不 会 想 要 购 买 。 可 如 果 政 府 犯 了 个 错 ， 可 能 会 伤 及 无 辜 人 的 性 命 。 在 N S A 的 测 试 中 甚 至 出 现 了 0 . 1 8 % 的 错 误 率 ， 这 就 意 味 着 在 5 5 0 0 万 样 本 中 将 近 9 . 9 万 人 进 行 了 错 误 标 记 ， 而 A r s 暗 示 这 一 结 果 可 能 导 致 N S A 对 目 标 发 起 无 人 机 轰 炸 。 科 技 之 光 ， 还 是 科 技 之 殇 ？ 科 技 之 光 ， 还 是 科 技 之 殇 ？ 算 法 已 经 开 始 统 治 我 们 的 生 活 ， 用 “ 天 网 ” 寻 找 恐 怖 分 子 这 仅 仅 是 个 开 始 ， 采 用 相 同 逻 辑 寻 找 “ 毒 贩 ” 、 “ 抗 议 者 ” 或 “ 异 见 人
士 ” 的 手 段 可 能 不 久 之 后 或 已 经 出 现 了 。 基 于 元 数 据 的 “ 杀 人 游 戏 ” 此 刻 就 在 进 行 着 ， 而 千 里 之 外 的 我 们 对 此 视 而 不 见 。 倘 若 有 天 ， “ 天 网 ” 认 定 了 你 是 恐 怖 分 子 ， 那 时 你 该 怎 么 办 ？ * 参 考 来 源 ： A r s 、 H a c k e r n e w s ， F B 小 编 明 明 知 道 编 译 ， 转 载 请 注 明 来 自 F r e e B u f 黑 客 与 极 客 （ F r e e B u f . C O M ） 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理