搜索

[11910] 2017-10-19_机器学习黄金时代下，业务安全攻与防：Qcon2017上海「直击黑产」专题回顾

文档创建者：s7ckTeam
浏览次数：5
最后更新：2025-01-18
2017-10-19_机器学习黄金时代下，业务安全攻与防：Qcon2017上海「直击黑产」专题回顾 机 器 学 习 黄 金 时 代 下 ， 业 务 安 全 攻 与 防 ： Q c o n 2 0 1 7 上 海 「 直 击 黑 产 」 专 题 回 顾 E l a i n e _ z   F r e e B u f   2 0 1 7 - 1 0 - 1 9 这 是 一 个 最 好 最 好 的 时 代 ， 这 是 一 个 最 坏 最 坏 的 时 代 ； 这 是 一 个 智 慧 智 慧 的 年 代 ， 这 是 一 个 愚 蠢 愚 蠢 的 年 代 ； 这 是 一 个 光 明 光 明 的 季 节 ， 也 是 一 个 黑 暗 黑 暗 的 季 节 … … 伴 随 着 中 国 互 联 网 的 快 速 发 展 ， 国 内 黑 产 规 模 早 已 达 到 千 亿 级 别 ： 盗 号 、 羊 毛 党 、 水 军 、 骗 贷 — — 黑 产 攻 击 给 很 多 互 联 网 公 司 带 来 灭 顶 之 灾 。 这 些 欺 诈 是 如 何 产 生 的 ？ 企 业 面 对 的 攻 击 者 究 竟 是 谁 ？ 遭 遇 攻 击 后 ， 如 何 复 盘 并 制 定 有 效 防 御 策 略 ？ 我 们 如 何 这 些 欺 诈 是 如 何 产 生 的 ？ 企 业 面 对 的 攻 击 者 究 竟 是 谁 ？ 遭 遇 攻 击 后 ， 如 何 复 盘 并 制 定 有 效 防 御 策 略 ？ 我 们 如 何 拦 截 才 不 会 误 杀 真 实 用 户 ？ 大 数 据 时 代 的 来 临 、 机 器 学 习 的 发 展 和 应 用 是 否 会 是 新 的 浪 潮 和 希 望 ？ 机 器 学 习 又 拦 截 才 不 会 误 杀 真 实 用 户 ？ 大 数 据 时 代 的 来 临 、 机 器 学 习 的 发 展 和 应 用 是 否 会 是 新 的 浪 潮 和 希 望 ？ 机 器 学 习 又 是 否 能 够 改 变 安 全 防 护 一 直 以 来 的 黑 白 名 单 和 规 则 拦 截 ？ 而 面 对 机 器 学 习 发 展 带 来 的 挑 战 ， 企 业 又 该 如 何 应 是 否 能 够 改 变 安 全 防 护 一 直 以 来 的 黑 白 名 单 和 规 则 拦 截 ？ 而 面 对 机 器 学 习 发 展 带 来 的 挑 战 ， 企 业 又 该 如 何 应 对 ？ 对 ？   Q c o n   是 由 是 由   I n f o Q   主 办 的 全 球 软 件 开 发 大 会 ， 主 办 的 全 球 软 件 开 发 大 会 ，   今 年 今 年   1 0   月 月   1 7   日 日 -   1 0   月 月   1 9   日 的 日 的   Q c o n   上 海 站 的 会 议 是 继 伦 敦 、 上 海 站 的 会 议 是 继 伦 敦 、 北 京 、 圣 保 罗 、 纽 约 之 后 的 第 五 站 。 本 次 大 会 的 主 题 都 是 根 据 当 年 的 热 点 话 题 而 制 定 ， 昨 天 北 京 、 圣 保 罗 、 纽 约 之 后 的 第 五 站 。 本 次 大 会 的 主 题 都 是 根 据 当 年 的 热 点 话 题 而 制 定 ， 昨 天   F r e e B u f   也 来 到 了 Q c o n   的 现 场 ， 参 加 了 第 二 天 的 「 直 击 黑 产 ： 业 务 安 全 的 攻 与 防 」 主 题 分 享 会 。 会 上 分 别 有 来 自 百 度 百 度 、 携 程 携 程 、 美 丽 联 合 集 团 美 丽 联 合 集 团 、 新 浪 微 博 新 浪 微 博 、 科 大 讯 飞 等 科 大 讯 飞 等 企 业 的 嘉 宾 围 绕 各 自 业 务 安 全 目 前 面 临 的 威 胁 ， 安 全 防 护 的 有 效 建 设 、 以 及 机 器 学 习 在 其 中 的 应 用 等 内 容 ， 分 别 就 其 对 抗 黑 产 的 安 全 攻 防 思 路 进 行 了 细 致 的 说 明 。 机 器 学 习 风 控 实 践 与 未 来 机 器 学 习 风 控 实 践 与 未 来   |   百 度 百 度   吴 广 柱 吴 广 柱 当 今 时 代 黑 色 产 业 的 发 展 很 快 ， 风 险 控 制 策 略 除 了 在 常 见 的 金 融 机 构 普 遍 得 到 重 视 （ 信 贷 、 交 易 、 保 险 ） 之 外 ， 在 其 他 互 联 网 场 景 下 的 企 业 中 （ 刷 量 、 刷 点 击 、 垃 圾 注 册 、 薅 羊 毛 等 ） 也 应 当 得 到 重 视 。 从   2 0 1 1 - 2 0 1 6   可 以 统 计 到 的 数 据 来 看 ， 金 融 行 业 中 银 行 卡 盗 刷 情 况 基 本 保 持 在 百 分 之 几 的 比 例 。 2 0 1 6   年 英 国 统 计 的 数 据 中 ， 在   6 4   % 的 盗 刷 拦 截 情 况 下 ， 银 行 卡 盗 刷 而 带 来 的 实 际 损 失 也 高 达   7 . 6 9   亿 英 镑 。
而 从 传 统 的 风 险 控 制 技 术 上 来 看 ， 最 早 的 方 法 是 通 过 黑 白 名 单 过 滤 ， 之 后 逐 渐 开 始 使 用 专 家 制 定 的 规 则 引 擎 进 行 过 滤 ， 但 这 种 方 法 还 是 会 出 现 维 护 上 的 复 杂 和 其 他 问 题 。 在 如 今 企 业 的 大 数 据 架 构 之 下 ， 应 用 机 器 学 习 则 可 能 便 于 了 解 复 杂 数 据 与 欺 诈 事 件 之 间 的 关 系 ， 进 行 实 时 诈 骗 预 测 。 嘉 宾 同 时 也 提 到 目 前 人 工 智 能 的 发 展 还 只 是 保 持 在 一 个 低 级 别 的 弱 人 工 智 能 层 次 ， 因 此 当 前 还 只 是 针 对 业 务 问 题 进 行 问 题 的 解 决 ， 例 如 应 用 关 联 分 析 和 机 器 学 习 方 法 。 具 体 来 说 ， 百 度 在 监 测 恶 意 行 为 时 建 设 了 关 联 分 析 系 统 和 滑 动 窗 口 动 态 模 型 进 行 风 险 管 理 。 前 一 个 分 析 系 统 ， 是 使 用 图 数 据 库 对   I M E I   、   I M S I   、 T o k e n   、 W i F i   和   I P   、   A P P   和   U R L   数 据 进 行 监 控 和 关 联 分 析 。 而 后 一 个 的 滑 动 窗 口 动 态 模 型 ， 则 是 针 对 单 纯 的 有 监 督 学 习 和 无 监 督 学 习 中 算 法 的 置 信 度 获 取 困 难 ， 风 控 系 统 数 据 变 化 大 （ 如 用 户 的 购 买 行 为 不 断 变 化 ） ， 核 验 难 （ 滞 后 ） 的 问 题 进 行 了 改 进 后 提 出 的 风 险 管 理 模 型 。
深 度 学 习 与 业 务 安 全 对 抗 实 践 深 度 学 习 与 业 务 安 全 对 抗 实 践   |   携 程 携 程   张 亮 张 亮 携 程 业 务 各 线 常 见 的 安 全 对 抗 在 于 平 台 的 运 营 活 动 ， 如 批 量 垃 圾 账 号 的 登 录 注 册 ， 留 存 和 拉 新 时 的 优 惠 领 取 ， 内 容 交 互 中 的 无 效 内 容 。 所 有 的 业 务 风 险 可 以 分 为 垃 圾 注 册 、 扫 号 、 薅 羊 毛 、 爬 虫 、 合 规 和 信 息 泄 漏 6 个 方 面 ， 造 成 侵 占 活 动 资 源 ， 扰 乱 正 常 P V ／ U V ， 用 户 和 权 限 越 级 等 各 类 问 题 。 因 此 ， 在 携 程 的 业 务 安 全 防 护 上 他 们 也 应 用 了 黑 白 名 单 、 信 誉 库 设 备 指 纹 、 规 则 策 略 ， 目 前 也 逐 渐 应 用 了 机 器 学 习 和 深 度 学 习 方 法 。 最 常 见 的 安 全 对 抗 中 应 用 的 功 能 是 短 信 认 证 、 验 证 码 、 风 控 和 历 史 习 惯 来 对 非 正 常 行 为 进 行 身 份 核 实 。 基 于 机 器 学 习 的 携 程 风 险 值 计 算 引 擎 能 够 结 合 用 户 行 为 、   f p   和 日 志 进 行 数 据 汇 聚 和 分 析 利 用 决 策 树 、 朴 素 贝 叶 斯 算 法 （ N B ） 和 卷 积 神 经 网 络 （ C N N ）   进 行 风 险 判 定 。 最 后 ， 嘉 宾 还 对 携 程 的 敏 感 词 监 测 系 统 进 行 了 介 绍 。 该 系 统 的 目 标 是 对 无 效 内 容 、 不 合 法 内 容 、 广 告 内 容 进 行 监 测 。 在 旧 的 系 统 版 本 中 ， 监 测 仅 仅 是 通 过 关 键 词 匹 配 ， 由 于 没 有 上 下 文 概 念 ， 导 致 人 工 成 本 高 却 无 法 满 足 实 际 监 测 需 求 。 而 在   2 . 0   版 本 中 ， 携 程 则 建 立 了 大 数 据 系 统 ， 将 搜 集 的 数 据 清 洗 后 用 在 内 部 拖 拽 式 训 练 平 台 上 ， 结 合 算 法 和 模 型 最 终 形 成 了 可 调 用 的 A P I 。   针 对 不 定 长 输 入 和 定 长 输 出 的 监 测 系 统 要 求 ， 使 用 的 是 R N N 实 现 L S T M 。
  机 器 学 习 在 微 博 业 务 安 全 中 的 定 位 机 器 学 习 在 微 博 业 务 安 全 中 的 定 位   |   何 为 舟 何 为 舟 何 为 舟 嘉 宾 认 为 ， 微 博 业 务 上 涉 及 安 全 问 题 的 部 分 主 要 在 于 账 号 、 关 注 、 内 容 和 金 融 服 务 上 ， 例 如 虚 拟 注 册 、 信 息 泄 漏 、 垃 圾 内 容 、 账 号 扫 库 、 批 量 关 注 、 恶 意 营 销 、 金 融 欺 诈 套 现 等 等 。 安 全 业 务 的 主 要 目 标 也 是 围 绕 识 别 用 户 和 区 分 机 器 行 为 。 以 不 伤 及 真 实 用 户 的 前 提 下 ， 避 免 机 器 的 恶 意 行 为 。 而 近 年 来 机 器 学 习 的 发 展 ， 在 图 像 识 别 、 特 征 描 述 和 自 然 语 言 处 理 上 都 实 现 了 很 大 的 进 展 ， 但 目 前 的 机 器 学 习 的 热 度 中 还 是 存 在 一 定 的 泡 沫 。 但 想 在 安 全 业 务 上 实 际 应 用 机 器 学 习 ， 目 前 还 有 几 大 问 题 ／ 挑 战 急 需 解 决 ， 否 则 会 给 业 务 安 全 的 处 理 埋 下 隐 患 — — 训 练 集 的 缺 陷 （ 准 确 性 、 全 面 性 、 数 量 、 实 时 性 ） 会 导 致 模 型 的 准 确 性 降 低 ； 数 据 处 理 流 程 中 一 大 部 分 对 人 工 的 依 赖 则 会 导 致 数 据 本 身 存 在 偏 向 ； 机 器 学 习 算 法 在 面 对 针 对 性 攻 击 时 （ 如 图 片 识 别 中 增 加 噪 点 ） 是 否 能 够 稳 定 表 现 都 还 存 在 疑 虑 。 但 从 新 浪 微 博 自 身 的 风 险 控 制 体 系 来 看 ， 根 据 需 求 寻 找 合 适 的 方 法 还 是 能 够 起 到 帮 助 。 业 务 的 需 求 决 定 了 ， 这 个 系 统 需 要 能 在 少 量 数 据 训 练 集 下 ， 算 法 也 能 取 得 较 好 的 效 果 ； 结 果 需 要 尽 可 能 地 准 确 ， 做 到 零 误 伤 ， 并 对 每 一 个 评 判 结 果 能 给 出 合 理 解 释 ， 出 现 误 伤 时 也 能 够 对 模 型 及 时 纠 正 ； 模 型 还 需 要 随 着 时 间 ／ 模 型 集 的 变 化 ， 能 够 进 行 实 时 更 新 。
而 在 训 练 集 问 题 的 处 理 上 ， 微 博 会 扩 大 来 源 ， 加 强 与 客 服 的 对 接 和 用 户 的 反 馈 ， 来 获 得 尽 可 能 准 确 的 数 据 。 其 次 ， 选 择 采 用 的 是 相 对 准 确 率 较 高 而 训 练 集 数 量 要 求 不 高 的 弱 监 督 学 习 方 法 （ 其 中 的   N e g a t i v e - U n l a b e l e d 分 类 ） 来 实 现 。 出 于 可 控 性 的 考 虑 ， 在 微 博 风 险 控 制 系 统 的 整 体 架 构 上 ， 规 则 系 统 （ 7 0 % 异 常 数 据 的 监 测 ） 、 机 器 学 习 和 反 馈 系 统 一 起 发 挥 作 用 ， 为 用 户 安 全 保 驾 护 航 。 在 黑 产 升 级 变 化 的 同 时 ， 风 控 系 统 的 规 则 以 及 模 型 都 会 发 生 变 化 。 嘉 宾 表 示 ， 原 始 数 据 中 来 自 用 户 的 反 馈 也 会 有 一 定 程 序 的 错 误 （ 用 户 记 忆 错 误 之 类 ） ， 这 样 训 练 集 的 准 确 度 就 会 损 失 ； 其 次 ， 目 前 的 机 器 学 习 监 测 方 法 由 于 对 特 征 工 程 的 依 赖 性 也 很 大 ， 一 旦 某 种 威 胁 无 法 通 过 现 有 特 征 来 发 现 ， 就 会 顺 利 逃 过 机 器 监 测 ； 分 类 得 到 的 结 果 无 法 评 估 机 器 判 断 的 准 确 性 ； 而 目 前 系 统 中 采 集 用 户 反 馈 的 机 制 也 很 有 可 能 被 黑 产 攻 击 和 反 向 利 用 ， 之 后 会 考 虑 利 用   R N N   深 度 学 习 的 方 法 来 降 低 对 人 工 的 依 赖 。 信 息 安 全 没 有 银 弹 ， 也 许 因 为 攻 防 之 战 永 不 停 歇 ， 安 全 从 业 者 不 可 能 也 无 法 高 估 任 何 方 法 的 应 用 。 在 与 黑 色 产 业 的 对 抗 中 ， 安 全 从 业 者 需 要 不 断 学 习 新 的 知 识 和 技 能 ， 跟 紧 时 代 的 发 展 ， 同 时 也 需 要 以 客 观 的 态 度 面 对 任 何 一 种 技 术 和 技 术 中 出 现 的 漏 洞 ， 并 不 断 改 进 解 决 问 题 的 方 案 。 【 P P T 资 料 下 载 ： 点 击 阅 读 原 文 获 取 】 * 本 文 作 者 E l a i n e ， F r e e B u f 官 方 报 道 ， 转 载 请 注 明 来 自 F r e e B u f . C O M
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理