搜索

[2529] 2015-12-27_还原算法的真相：4大挑战与6大方法

文档创建者：s7ckTeam
浏览次数：4
最后更新：2025-01-16
2015-12-27_还原算法的真相：4大挑战与6大方法 还 原 算 法 的 真 相 ： 4 大 挑 战 与 6 大 方 法 机 器 之 心   E 安 全   2 0 1 5 - 1 2 - 2 7 鉴 于 算 法 的 重 要 性 ， 社 会 学 家 也 应 该 重 视 算 法 对 社 会 发 展 的 影 响 。 那 么 我 们 应 该 如 何 正 确 认 识 算 法 呢 ？ R o b   K i t c h i n 的 论 文 提 供 了 一 个 很 好 的 思 路 ， 他 提 到 了 算 法 研 究 中 的 四 大 挑 战 和 六 个 解 决 思 路 。 如 今 ， 算 法 非 常 重 要 。 算 法 是 现 代 数 据 收 集 、 分 析 挖 掘 网 络 的 中 枢 ， 也 是 A I 和 机 器 人 发 展 的 动 力 。 从 概 念 层 面 来 说 ， 所 谓 算 法 可 以 简 单 理 解 为 程 序 一 步 步 录 入 任 务 并 输 出 结 果 的 过 程 ， 但 从 实 际 操 作 而 言 ， 这 个 过 程 其 实 非 常 复 杂 。 究 其 原 因 ， 算 法 在 执 行 的 过 程 中 有 两 个 步 骤 构 成 ， 其 一 是 把 任 务 转 换 成 一 系 列 逻 辑 步 骤 ， 其 二 则 是 把 逻 辑 步 骤 转 化 为 计 算 机 代 码 。 鉴 于 算 法 的 重 要 性 ， 社 会 学 家 也 应 该 重 视 算 法 对 社 会 发 展 的 影 响 。 那 么 我 们 应 该 如 何 正 确 认 识 算 法 呢 ？ R o b   K i t c h i n 的 论 文 T h i n k i n g   c r i t i c a l l y   a b o u t   a n d   r e s e a r c h i n g   a l g o r i t h m s 提 供 了 一 个 很 好 的 思 路 ， 他 提 到 了 算 法 研 究 中 的 四 大 挑 战 和 六 个 解 决 思 路 。 本 文 将 尝 试 对 该 论 文 进 行 一 些 总 结 。 1 、 算 法 研 究 中 的 四 大 挑 战 、 算 法 研 究 中 的 四 大 挑 战 首 先 ， 我 们 来 看 看 有 哪 些 挑 战 。 正 如 前 文 所 言 ， 算 法 从 概 念 层 面 理 解 是 直 线 的 ， 他 们 可 以 被 理 解 为 按 照 逻 辑 和 次 序 完 成 输 入 输 出 。 这 样 的 说 法 可 以 被 普 通 人 完 全 理 解 。 但 在 实 际 应 用 中 却 并 非 如 此 。 这 其 中 有 很 多 原 因 ， 包 括 法 律 / 文 化 层 面 ， 也 有 技 术 层 面 的 。 研 究 人 员 必 须 避 免 每 一 个 可 能 的 原 因 或 者 留 意 这 些 潜 在 的 障 碍 。 K i t c h i n 提 到 了 四 点 ： 第 一 ， 算 法 可 以 不 对 外 界 暴 露 具 体 内 容 第 一 ， 算 法 可 以 不 对 外 界 暴 露 具 体 内 容 。 算 法 经 常 是 私 人 所 有 的 。 公 司 或 者 政 府 创 造 并 拥 有 它 ， 具 体 的 机 制 也 并 不 对 外 界 公 开 。 我 们 因 此 说 它 是 在 「 黑 盒 」 中 。 我 们 看 得 到 它 们 在 现 实 中 产 生 的 效 果 （ 它 们 的 输 出 ） ， 但 看 不 到 它 们 内 在 运 转 的 机 制 （ 盒 子 中 的 东 西 ） 。 这 种 「 黑 盒 」 现 象 有 它 存 在 的 理 由 ， 有 时 仅 仅 是 为 了 保 护 创 造 者 的 知 识 产 权 ， 有 时 是 为 了 让 该 算 法 持 续 产 生 它 们 的 效 用 。 举 个 例 子 ， 谷 歌 一 直 担 心 如 果 它 公 布 了 P a g e r a n k 算 法 是 如 何 工 作 的 ， 人 们 就 会 开 始 利 用 这 些 规 则 来 作 弊 ， 削 弱 算 法 的 有 效 性 。 如 果 你 想 更 多 地 了 解 「 黑 盒 」 现 象 ， F r a n k   P a s q u a l e 写 了 一 本 关 于 它 的 书 ， 你 可 以 找 来 读 读 。
第 二 ， 算 法 之 间 差 别 很 大 ， 而 且 与 上 下 文 紧 密 联 系 第 二 ， 算 法 之 间 差 别 很 大 ， 而 且 与 上 下 文 紧 密 联 系 。 一 个 人 可 以 从 头 开 始 编 写 一 个 简 单 的 算 法 ， 完 成 单 个 任 务 。 在 这 种 情 况 下 ， 写 出 来 的 算 法 往 往 易 于 分 解 和 理 解 。 现 实 中 ， 大 多 数 有 趣 且 社 会 影 响 大 的 算 法 并 不 是 由 一 个 人 编 写 ， 也 不 会 从 头 开 始 ， 而 是 由 大 的 团 队 把 已 有 的 方 案 和 混 杂 的 代 码 片 段 组 合 成 一 个 完 整 的 算 法 网 络 。 这 样 得 出 的 是 一 个 算 法 体 系 ， 分 解 和 理 解 它 都 要 难 得 多 。 第 三 ， 算 法 是 自 发 育 和 施 为 性 的 （ 第 三 ， 算 法 是 自 发 育 和 施 为 性 的 （ o n t o g e n e t i c   a n d   p e r f o r m a t i v e ） ） 。 现 代 的 算 法 不 仅 与 上 下 文 联 系 紧 密 ， 它 们 通 常 还 是 自 发 育 的 。 这 是 个 有 些 爱 说 行 话 的 人 的 说 法 ， 源 自 生 物 学 。 在 这 里 它 只 是 指 算 法 都 不 是 静 态 和 不 变 的 。 它 们 一 旦 发 布 了 出 来 ， 人 们 就 常 常 修 改 它 们 以 适 应 自 己 的 需 求 。 程 序 员 研 究 用 户 交 互 后 相 应 地 修 改 代 码 。 他 们 经 常 尝 试 算 法 的 不 同 版 本 来 确 定 哪 个 最 好 。 而 且 ， 有 些 算 法 具 有 自 我 学 习 和 适 应 的 能 力 。 这 种 动 态 和 发 育 的 特 点 意 味 着 它 们 难 于 被 学 习 和 研 究 。 之 后 某 个 时 候 这 个 算 法 系 统 也 许 已 经 和 你 之 前 研 究 时 的 它 不 一 样 了 。 第 四 ， 算 法 不 会 受 到 约 束 第 四 ， 算 法 不 会 受 到 约 束 。 一 旦 人 们 开 始 使 用 这 些 算 法 ， 它 们 就 经 常 以 不 受 控 制 的 方 式 发 展 和 变 化 起 来 。 发 生 这 种 情 况 最 明 显 的 例 子 就 是 当 算 法 产 生 意 料 之 外 的 结 果 或 者 以 预 想 不 到 的 方 式 使 用 的 时 候 。 如 果 我 们 不 能 根 据 一 个 算 法 过 去 的 使 用 和 效 果 做 出 有 效 推 测 ， 我 们 就 很 难 把 它 推 广 到 未 来 的 使 用 中 。 从 这 点 来 看 ， 算 法 的 这 种 特 性 就 成 为 了 研 究 它 的 一 个 挑 战 。 这 四 个 问 题 还 经 常 混 合 起 来 ， 给 研 究 人 员 提 出 了 更 多 的 挑 战 。 2 、 六 种 算 法 研 究 的 方 法 、 六 种 算 法 研 究 的 方 法 挑 战 是 存 在 的 ， 然 而 算 法 在 社 会 和 技 术 上 的 重 要 性 使 得 对 它 有 必 要 进 行 研 究 。 研 究 者 如 何 能 够 理 解 算 法 结 构 的 复 杂 且 前 后 相 关 的 性 质 和 用 法 呢 ？ 单 一 的 研 究 方 法 绝 不 可 能 对 付 ， 我 们 或 许 需 要 使 用 结 合 的 方 法 。 K i t c h i n 在 论 文 里 认 同 了 六 种 可 能 的 方 法 ， 各 有 优 劣 。 我 在 下 边 会 简 单 描 述 ： 1 . 研 究 伪 代 码 和 源 代 码 研 究 伪 代 码 和 源 代 码 ： 第 一 种 方 法 是 最 明 显 的 ， 它 研 究 构 建 算 法 的 代 码 。 我 在 以 前 的 帖 子 中 论 述 过 ， 这 包 括 两 点 ： 首 先 ， 「 伪 代 码 」 ， 这 是 形 式 化 的 人 类 语 言 规 则 集 合 ， 任 务 在 此 被 翻 译 （ 伪 代 码 遵 循 一 些 编 程 语 言 惯 例 ， 但 是 目 标 是 人 类 阅 读 ） 。 其 次 ， 「 源 代 码 」 ， 这 是 计 算 机 语 言 ， 人 类 语 言 规 则 集 在 此 被 翻 译 。 同 时 研 究 两 者 有 助 于 研 究 者 理 解 算 法 如 何 工 作 。 对 这 种 方 法 ， K i t c h i n 提 了 三 个 更 明 确 的 变 异 ： 解 构 ： 解 构 ： 只 通 读 代 码 和 相 关 文 件 ， 找 出 算 法 工 作 方 式 。 家 系 图 谱 家 系 图 谱 ： 当 算 法 用 不 同 版 本 的 代 码 改 进 和 重 写 时 ， 绘 出 算 法 变 化 和 发 展 的 家 系 图 ( K i t c h i n   2 0 1 4 ) 。 当 算 法 是 动 态 的 、 并 且 语 意 镶 嵌 时 ， 这 很 重 要 。 比 较 分 析 比 较 分 析 ： 你 通 过 此 法 可 以 看 到 同 样 的 基 础 任 务 如 何 被 翻 译 成 不 同 的 编 程 语 言 并 通 过 一 系 列 操 作 系 统 执 行 。 这 经 常 会 揭 示
出 一 些 微 妙 而 不 曾 预 料 到 的 变 量 。 这 些 方 法 的 问 题 ： 代 码 经 常 是 散 乱 的 ， 需 要 大 量 翻 译 工 作 ； 研 究 者 将 需 要 一 些 技 术 专 家 ； 仅 集 中 于 代 码 意 味 着 算 法 结 构 和 用 法 的 上 下 文 方 面 信 息 丢 失 。 2 . 自 反 生 成 代 码 自 反 生 成 代 码 ： 第 二 种 方 法 涉 及 坐 下 来 勾 画 出 你 自 己 如 何 把 一 项 任 务 转 成 代 码 。 K i t c h i n   把 这 称 为 「 自 我 民 族 志 （ a u t o - e t h n o g r a p h y ） 」 ， 听 起 来 很 恰 当 。 这 种 自 动 人 种 学 或 多 或 少 有 些 用 处 。 理 想 情 况 下 ， 研 究 者 应 当 精 密 地 反 映 这 个 把 任 务 转 换 成 规 则 集 合 计 算 机 语 言 的 过 程 ， 并 且 考 虑 各 种 社 会 、 法 律 和 技 术 框 架 来 勾 画 出 着 手 方 式 。 这 些 有 明 显 的 限 制 ， 因 为 这 过 程 是 主 观 的 ， 容 易 有 个 人 偏 见 和 缺 点 。 但 它 能 够 很 好 地 为 别 的 研 究 方 法 提 供 补 充 。 3 . 反 向 工 程 反 向 工 程 ： 这 第 三 种 方 法 需 要 做 一 些 解 释 。 如 上 所 述 ， 研 究 者 面 对 的 障 碍 之 一 ， 就 是 很 多 算 法 是 「 黑 箱 」 。 这 意 味 着 ， 为 了 找 出 算 法 如 何 运 作 ， 你 必 须 反 向 在 黑 箱 里 进 行 的 工 程 。 你 需 要 研 究 算 法 的 输 入 输 出 ， 也 许 加 上 有 着 不 同 输 入 的 实 验 。 人 们 经 常 在 g o o g l e 的 网 页 排 名 上 来 这 么 做 ， 通 常 使 他 们 自 己 的 网 页 在 搜 索 结 果 里 更 靠 前 。 这 种 方 法 也 有 明 显 的 局 限 ， 即 对 算 法 运 的 了 解 不 完 全 、 不 完 美 。 4 . 对 编 程 团 队 进 行 采 访 并 了 解 人 文 构 造 对 编 程 团 队 进 行 采 访 并 了 解 人 文 构 造 ： 第 四 个 方 法 对 于 纠 正 前 面 的 几 个 方 法 中 缺 乏 前 后 联 系 的 的 问 题 有 很 大 的 帮 助 。 这 个 方 法 随 着 编 程 小 组 建 立 算 法 来 采 访 他 们 ， 或 者 小 心 地 观 察 他 们 （ 使 用 文 化 人 类 学 的 手 法 ） 。 这 个 方 法 有 助 于 研 者 确 定 算 法 构 建 后 背 后 的 原 因 ， 以 及 塑 造 工 程 决 定 背 后 的 社 会 文 化 原 因 。 也 许 接 触 这 样 的 编 程 小 组 很 困 难 ， 但 是 K i t c h i n 特 别 指 出 ， 有 一 个 叫 T a k h t e y e v 的 研 究 人 员 曾 经 在 他 自 己 参 与 的 一 个 开 源 小 组 中 展 开 研 究 。 5 . 解 包 全 部 社 会 型 技 术 组 合 解 包 全 部 社 会 型 技 术 组 合 （ U n p a c k i n g   t h e   f u l l   s o c i o - t e c h n i c a l   a s s e m b l a g e ） ： 要 用 有 点 难 懂 的 术 语 来 描 述 第 五 种 方 法 。 所 谓 「 社 会 技 术 性 组 合 （ s o c i o - t e c h n i c a l   a s s e m b l a g e ） 」 集 中 了 全 部 型 塑 算 法 建 构 的 法 律 、 经 济 、 制 度 、 技 术 、 政 府 、 政 治 等 因 素 。 采 访 编 程 团 队 并 对 他 们 进 行 人 种 学 研 究 有 助 于 理 解 其 中 一 些 影 响 因 素 ， 但 是 ， 如 果 我 们 希 望 完 全 解 开 这 些 因 素 （ 当 然 ， 我 们 不 可 能 完 全 理 解 某 种 现 象 ） ， 还 需 要 知 道 更 多 。 K i t c h i n 认 为 ， 对 合 作 报 告 、 法 律 框 架 、 政 府 政 策 文 件 、 金 融 、 核 心 权 力 人 物 的 传 记 以 及 其 他 类 似 材 料 进 行 研 究 ， 有 助 于 促 进 这 类 研 究 。 6 . 研 究 算 法 在 真 实 世 界 中 的 效 果 研 究 算 法 在 真 实 世 界 中 的 效 果 ： 这 是 显 而 易 见 的 另 一 种 方 法 。 不 是 关 注 于 如 何 产 生 算 法 以 及 哪 些 因 素 影 响 算 法 生 产 ， 而 是 去 研 究 算 法 在 真 实 世 界 的 效 果 。 比 如 ， 它 如 何 影 响 使 用 者 ？ 它 会 造 成 什 么 样 的 意 料 之 外 的 后 果 ？ 有 各 种 促 进 这 种 研 究 的 研 究 方 法 。 用 户 体 验 ， 用 户 采 访 以 及 用 户 的 人 文 结 构 都 是 可 能 采 用 的 方 法 。 好 的 研 究 会 关 注 算 法 如 何 改 变 用 户 行 为 以 及 使 用 者 可 能 采 取 的 抗 拒 或 者 颠 覆 算 法 的 预 期 功 能 的 方 式 （ 例 如 ， 使 用 者 试 图 「 玩 弄 」 g o o g l e 的 P a g e r a n k ） 。
微 信 名 ： 微 信 名 ： E 安 全 安 全 微 信 微 信 I D ： ： E A Q a p p 当 然 ， 没 有 哪 种 单 一 方 法 足 以 解 决 问 题 ， 需 要 结 合 起 来 使 用 。 不 过 ， 这 些 情 况 总 会 让 人 想 起 盲 人 摸 象 的 老 故 事 。 虽 然 每 个 人 触 摸 的 是 大 象 的 不 同 部 分 ， 但 是 ， 他 们 都 在 研 究 同 一 个 潜 在 对 象 。 想 参 加 上 海 想 参 加 上 海 F r e e b u f 互 联 网 安 全 创 新 大 会 （ 互 联 网 安 全 创 新 大 会 （ F I T ） 的 朋 友 可 以 微 信 找 ） 的 朋 友 可 以 微 信 找 E 安 全 小 编 （ 微 信 号 安 全 小 编 （ 微 信 号 : z h u - g e l i a n g ） ， 免 费 发 放 限 量 门 票 。 ） ， 免 费 发 放 限 量 门 票 。 转 载 请 注 明 来 自   E 安 全   （ w w w . e a s y a q . c o m ） 您 也 可 以 下 载 E 安 全 a p p 获 取 及 时 最 及 时 的 安 全 资 讯 ❶   点 击 往 期 内 容 ， 查 看 更 多 内 容 ❷   复 制 网 址 在 浏 览 器 打 开 w w w . e a s y a q . c o m ❸   长 按 右 侧 二 维 码 ， 关 注 E 安 全 点 击 下 方 “ 阅 读 原 文 阅 读 原 文 ” 查 看 更 多 内 容 。 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理