搜索

[16263] 2020-12-30_人工智能与物联网安全前沿论坛圆满落幕，全程精彩回顾

文档创建者：s7ckTeam
浏览次数：14
最后更新：2025-01-18
2020-12-30_人工智能与物联网安全前沿论坛圆满落幕，全程精彩回顾 人 工 智 能 与 物 联 网 安 全 前 沿 论 坛 圆 满 落 幕 ， 全 程 精 彩 回 顾 A d a l y n n   F r e e B u f   2 0 2 0 - 1 2 - 3 0 1 2 月 3 0 日 下 午 ， 由 百 度 安 全 部 主 任 架 构 师 包 沉 浮 ， 小 米 集 团 信 息 安 全 与 私 有 委 员 会 秘 书 长 宋 文 宽 ， 看 雪 学 院 创 始 百 度 安 全 部 主 任 架 构 师 包 沉 浮 ， 小 米 集 团 信 息 安 全 与 私 有 委 员 会 秘 书 长 宋 文 宽 ， 看 雪 学 院 创 始 人 段 钢 ， 以 及 第 五 空 间 研 究 院 理 事 长 、 翼 盾 智 能 人 段 钢 ， 以 及 第 五 空 间 研 究 院 理 事 长 、 翼 盾 智 能 C E O 朱 易 翔 朱 易 翔 担 任 出 品 人 的 人 工 智 能 与 物 联 网 安 全 前 沿 论 坛 顺 利 举 行 ， 现 场 座 无 虚 席 ， 观 众 们 热 情 高 涨 。 人 工 智 能 与 物 联 网 的 发 展 日 益 壮 大 ， 其 安 全 问 题 不 容 忽 视 。 本 场 论 坛 的 六 位 嘉 宾 通 过 线 上 和 线 下 的 方 式 ， 从 自 动 驾 驶 到 换 脸 技 术 ， 从 电 子 芯 片 到 物 流 联 网 ， 为 我 们 带 来 了 一 场 精 彩 的 A I 安 全 建 设 、 漏 洞 防 护 经 验 分 享 盛 宴 。 A I 模 型 的 现 实 风 险 及 应 对 模 型 的 现 实 风 险 及 应 对 包 沉 浮   百 度 安 全 部 主 任 架 构 师 随 着 A I 技 术 的 不 断 发 展 ， 针 对 A I 模 型 的 安 全 问 题 也 日 益 突 出 。 包 沉 浮 在 简 单 回 顾 针 对 A I 模 型 的 对 抗 样 本 攻 击 后 ， 引 出 了 自 动 驾 驶 因 A I 模 型 出 错 导 致 的 现 实 安 全 问 题 ， 例 如 今 年 6 月 在 台 湾 ， 一 辆 自 动 驾 驶 轿 车 未 能 识 别 前 方 路 障 与 其 直 接 相 撞 ， 造 成 了 严 重 车 祸 。 他 提 出 ， 现 实 环 境 影 响 例 如 输 入 信 号 失 真 导 致 的 A I 模 型 问 题 带 来 的 安 全 隐 患 可 能 比 黑 客 攻 击 还 大 。 那 么 该 如 何 应 对 A I 模 型 的 现 实 风 险 呢 ？ 他 认 为 ， 最 重 要 的 是 将 模 型 的 鲁 棒 性 进 行 量 化 。 除 了 通 过 理 论 计 算 ， 还 以 更 重 要 的 实 验 扰 动 的 方 式 ， 逐 渐 逼 近 模 型 能 力 的 真 实 边 界 。
然 后 ， 再 对 量 化 后 的 模 型 做 鲁 棒 性 提 升 ， 其 中 最 有 帮 助 的 就 是 对 抗 训 练 ， 不 断 迭 代 。 他 分 享 了 一 种 针 对 大 型 目 标 监 测 场 景 的 两 阶 段 对 抗 训 练 方 式 ， 在 提 升 鲁 棒 性 的 同 时 ， 也 没 有 降 低 传 统 意 义 上 的 准 确 性 ： 第 一 阶 段 ： 使 用 “ 弱 对 抗 样 本 ” 对 整 个 模 型 进 行 训 练 第 二 阶 段 ： 使 用 M S C O C O 中 “ v e h i c l e ” 和 “ o u t d o o r ” 两 个 类 型 ， 生 成 “ 强 对 抗 样 本 ” ， 对 输 出 层 进 行 训 练 最 后 他 总 结 到 ， A I 模 型 的 鲁 棒 性 非 常 重 要 ， 希 望 业 界 能 够 形 成 针 对 模 型 鲁 棒 性 的 量 化 标 准 ， 同 时 提 升 鲁 棒 性 之 路 还 很 漫 长 ， 希 望 自 己 的 抛 砖 引 玉 能 让 更 多 人 参 与 到 这 方 面 的 研 究 之 中 。 商 汤 商 汤 A I 产 品 安 全 实 践 产 品 安 全 实 践 成 瑾   商 汤 科 技 安 全 副 总 监 在 多 元 的 A I 应 用 场 景 下 ， 人 工 智 能 企 业 面 临 哪 些 安 全 威 胁 和 挑 战 ， 又 应 该 如 何 应 对 呢 ？ 成 瑾 为 我 们 带 来 了 他 的 经 验 分 享 。 他 分 析 了 人 工 智 能 企 业 的 六 个 安 全 需 求 — — 算 法 模 型 安 全 、 数 据 隐 私 保 护 、 训 练 数 据 完 整 性 安 全 、 交 付 安 全 、 产 品 运 营 安 全 、 软 硬 件 安 全 ， 以 及 安 全 与 业 务 的 四 个 矛 盾 — — 安 全 卡 点 与 研 发 效 率 、 安 全 功 能 与 产 品 实 现 、 全 投 入 与 产 品 利 润 、 安 全 监 测 与 修 复 漏 洞 的 矛 盾 ， 并 以 具 体 案 例 的 形 式 提 出 了 相 关 应 对 措 施 。 对 于 公 司 的 产 品 安 全 ， 他 认 为 有 以 下 3 个 关 注 点 ： 1 、 解 决 安 全 与 产 品 的 矛 盾 2 、 提 升 安 全 工 作 效 率 3 、 将 安 全 融 入 产 品 基 因 中
他 随 后 分 享 了 商 汤 科 技 的 产 品 安 全 高 效 管 理 一 系 列 措 施 ， 包 括 成 立 信 息 安 全 管 理 委 员 会 、 自 研 加 密 算 法 保 障 算 法 模 型 安 全 、 执 行 嵌 入 产 品 研 发 全 生 命 周 期 的 安 全 控 制 体 系 （ S D L ） 、 研 发 训 练 I D C 数 据 中 心 实 行 高 安 全 等 级 防 护 措 施 、 研 发 运 营 一 体 化 安 全 运 营 平 台 （ S O C ） 、 建 立 满 足 国 内 外 合 规 要 求 的 个 人 信 息 保 护 管 理 体 系 。 最 后 ， 他 以 去 年 参 加 S e n s e   H a c k a t h o n 黑 客 马 拉 松 大 赛 为 例 ， 认 为 人 工 智 能 可 为 网 络 流 量 安 全 赋 能 。 A I   安 全 框 架 安 全 框 架 唐 梦 云   腾 讯 安 全 平 台 部 高 级 工 程 师 唐 梦 云 从 两 个 A I 应 用 切 入 ， 展 示 了 A I 系 统 的 生 命 周 期 ， 而 在 这 个 周 期 中 ， 各 个 环 节 存 在 的 安 全 风 险 也 日 益 凸 显 ， 为 了 应 对 这 些 风 险 ， A I 安 全 框 架 应 运 而 生 。 该 框 架 的 范 围 是 为
了 削 减 A I 基 础 设 施 、 设 计 研 发 、 应 用 失 控 带 来 的 安 全 风 险 ， 设 计 原 则 遵 从 实 用 性 、 整 体 性 、 前 瞻 性 。 核 心 要 素 为 ： 安 全 目 标 ： 为 A I 安 全 防 护 工 作 实 施 指 明 方 向 安 全 能 力 ： 保 障 实 现 A I 安 全 目 标 安 全 技 术 ： 支 撑 实 现 A I 安 全 能 力 安 全 管 理 ： 支 撑 实 现 A I 安 全 能 力 ， 保 证 安 全 技 术 顺 利 实 施 该 安 全 框 架 包 含 安 全 目 标 、 安 全 能 力 、 安 全 技 术 和 安 全 管 理 四 个 维 度 ， 这 四 个 维 度 自 顶 向 下 、 层 层 递 进 。 她 希 望 这 个 A I 安 全 框 架 能 够 为 企 业 在 构 建 自 身 的 A I 安 全 防 护 体 系 时 ， 提 供 一 些 指 导 性 的 建 议 或 思 路 。 M T K 安 全 启 动 大 剖 析 安 全 启 动 大 剖 析 胡 铭 德   上 海 第 五 空 间 信 息 研 究 院 安 全 研 究 总 监 联 发 科 技 股 份 有 限 公 司 作 为 主 要 全 球 手 机 芯 片 提 供 厂 商 ， 给 广 大 手 机 、 平 板 、 4 G 、 5 G   厂 商 提 供 大 量 芯 片 ， 胡 铭 德 为 我 们 展 示 了 对 其 芯 片 的 漏 洞 发 掘 过 程 以 及 检 测 工 具 ， 而 此 前 尚 无 人 系 统 地 公 开 地 测 试 过 该 厂 商 b o o t 安 全 。 他 和 他 的 团 队 发 现 ， 如 果 通 过 固 件 校 验 的   j u m p   d a   命 令 ， 可 以 触 发 芯 片 进 入 U S B 恢 复 模 式 ， 而 此 时 将 不 再 需 要 签 名 证 书 即 可 对 固 件 进 行 读 取 和 写 入 。 他 提 出 ， 该 漏 洞 就 算 被 补 上 ， 也 不 是 安 全 的 ， 还 会 有 别 的 控 制 方 式 。 现 场 观 众 问 道 ： 芯 片 漏 洞 的 危 害 是 巨 大 的 ， 请 问 对 于 供 应 链 安 全 是 否 有 一 些 建 议 ？ 胡 铭 德 遗 憾 地 表 示 ， 这 个 芯 片 的 漏 洞 是 他 首 先 发 现 的 ， 但 到 目 前 为 止 ， 尚 未 有 更 好 的 解 决 办 法 ； 如 今 也 希 望 通 过 公 开 相 关 的 检 测 方 式 和 工 具 ， 让 更 多 人 参 与 到 这 方 面 安 全 防 控 的 思 考 中 来 。 物 流 行 业 物 联 网 安 全 体 系 构 建 及 思 考 物 流 行 业 物 联 网 安 全 体 系 构 建 及 思 考 于 洋   物 流 行 业 I o T 安 全 从 业 者 物 流 行 业 特 色 的 I o T 业 务 场 景 是 物 理 网 技 术 应 用 的 典 型 行 业 之 一 。 于 洋 为 大 家 带 来 了 物 流 行 业 相 关 的 安 全 业 务 、 合 规 风 险 的 演 进 以 及 落 地 。
物 流 行 业 的 数 字 化 包 含 人 、 货 、 场 ， 例 如 仓 储 、 网 点 ， 都 会 面 临 安 全 威 胁 。 他 提 到 ， 物 流 业 务 的 场 景 极 复 杂 ， 网 络 不 可 信 ， 边 界 不 清 晰 。 业 务 场 景 可 以 从 五 个 维 度 划 分 ， 即 识 别 、 保 护 、 检 测 、 响 应 和 处 置 。 在 资 产 识 别 方 向 上 ， O T   & I o T 设 备 识 别 算 法 的 深 度 和 广 度 是 其 重 点 ， 内 容 包 括 通 信 流 量 设 备 的 识 别 、 资 产 发 现 、 硬 件 分 类 、 信 息 收 集 与 追 踪 等 。 在 资 产 保 护 上 ， 重 点 在 于 通 过 基 于 I o T 的 S D L 和 供 应 链 安 全 解 决 方 案 来 落 地 资 产 保 护 ， 包 括 系 统 安 全 、 通 信 安 全 、 隐 私 安 全 、 硬 件 安 全 、 应 用 安 全 、 云 端 安 全 ， 设 备 还 应 该 进 行 分 级 保 护 。 在 资 产 检 测 / 响 应 和 处 置 上 ， 重 点 在 于 通 过 主 动 和 被 动 检 测 ， 以 行 为 为 依 托 进 行 感 知 和 响 应 ， 使 告 警 转 化 为 “ 行 动 ” 。 最 后 ， 他 提 出 了 思 考 ， 希 望 制 定 一 个 I o T 企 业 标 准 ， 让 物 联 网 安 全 能 力 形 成 业 务 壁 垒 。 漏 洞 挖 掘 和 检 测 在 智 能 设 备 中 的 最 佳 实 践 （ 线 上 分 享 ） 漏 洞 挖 掘 和 检 测 在 智 能 设 备 中 的 最 佳 实 践 （ 线 上 分 享 ） 杨 成 明   美 团 安 全 专 家 在 当 前 国 内 的 物 联 网 领 域 ， R O M   类 设 备 大 部 分 是 自 研 / 代 工 的 ， 国 产 芯 片 的 普 及 率 也 非 常 高 ， 而 由 于 生 产 厂 家 众 多 ， 这 些 设 备 以 及 它 们 端 口 环 境 非 常 繁 杂 。 由 于 疫 情 管 控 ， 杨 成 明 不 能 亲 临 现 场 ， 于 是 通 过 线 上 视 频 的 方 式 ， 为 大 家 带 来 了 对 于 这 类 设 备 端 口 的 安 全 漏 洞 的 挖 掘 和 检 测 实 践 。
他 从 不 同 安 卓 设 备 的 产 品 形 态 差 异 开 始 ， 分 析 了 不 同 的 安 全 威 胁 ， 展 示 了 在 他 和 团 队 发 现 的 绕 开 厂 商 防 护 的 行 为 。 随 后 他 介 绍 了 自 己 团 队 的 漏 洞 检 测 和 挖 掘 平 台 ， 其 目 标 是 快 速 提 高 增 量 / 存 量 设 备 安 全 水 位 ， 并 通 过 下 面 四 个 关 键 点 来 实 现 ： 1 .   收 集 设 备 信 息 ， 检 测 基 线 高 危 风 险 2 .   检 测 已 知 高 风 险 攻 击 入 口 漏 洞 3 .   检 测 已 知 高 风 险 提 权 漏 洞 4 .   检 测 芯 片 相 关 的 高 风 险 0 d a y 他 表 示 ， 该 平 台 的 角 色 有 两 个 ： 1 .   完 成 送 测 设 备 的 检 测 ， 并 输 出 报 告 ； 2 .   将 检 测 数 据 提 供 给 线 上 数 据 分 析 平 台 ， 持 续 批 量 收 敛 设 备 漏 洞 风 险 。 对 于 前 期 重 点 覆 盖 中 高 危 1 d a y 漏 洞 ， 平 台 的 检 测 手 段 是 a d b 连 接 设 备 ， 基 于 p o c 检 测 ； 对 于 重 点 芯 片 相 关 高 危 提 权 0 d a y ， 检 测 手 段 是 精 细 化 F u z z 方 法 。 结 语 结 语 人 工 智 能 和 物 联 网 技 术 是 未 来 发 展 的 热 门 ， 在 给 人 们 生 活 带 来 更 多 便 捷 的 同 时 ， 背 后 的 安 全 问 题 也 越 发 令 人 关 注 。 只 有 在 安 全 的 基 础 上 ， 人 工 智 能 与 物 联 网 技 术 才 能 真 正 保 障 和 改 善 民 生 。 相 信 在 人 工 智 能 和 物 联 网 前 沿 论 坛 上 的 最 新 经 验 分 享 和 网 络 安 全 思 考 ， 能 让 更 多 人 参 与 到 相 关 领 域 的 研 究 和 建 设 之 中 ， 一 起 打 造 更 美 好 、 更 安 心 的 未 来 。 精 彩 推 荐 精 彩 推 荐
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理