搜索

[7158] 2020-12-21_欧盟网络安全局：人工智能威胁态势报告

文档创建者：s7ckTeam
浏览次数：3
最后更新：2025-01-17
2020-12-21_欧盟网络安全局：人工智能威胁态势报告 欧 盟 网 络 安 全 局 ： 人 工 智 能 威 胁 态 势 报 告 原 创   小 E   E 安 全   2 0 2 0 - 1 2 - 2 1 收 录 于 话 题   # E 周 刊   , 1 1 个   E 安 全 安 全 1 2 月 月 2 1 日 讯 日 讯     1 2 月 1 5 日 ， 欧 盟 网 络 安 全 局 （ E N I S A ） 发 布 了 《 人 工 智 能 威 胁 态 势 报 告 》 ， 揭 露 了 A I 生 态 系 统 面 临 的 主 要 网 络 安 全 挑 战 。 E N I S A 的 研 究 采 用 了 一 种 方 法 论 来 绘 制 人 工 智 能 领 域 的 关 键 参 与 者 和 威 胁 。 该 报 告 遵 循 了 欧 盟 委 员 会 2 0 2 0 年 人 工 智 能 白 皮 书 中 定 义 的 优 先 事 项 。 E N I S A 人 工 智 能 网 络 安 全 特 设 工 作 组 由 来 自 欧 盟 机 构 、 学 术 界 和 工 业 界 的 成 员 组 成 ， 提 供 了 意 见 并 支 持 了 本 报 告 的 起 草 。 这 种 新 兴 技 术 的 好 处 是 显 著 的 ， 但 也 存 在 一 些 问 题 ， 比 如 操 纵 和 攻 击 方 法 的 潜 在 新 途 径 。 该 技 术 在 整 个 供 应 链 中 需 要 许 多 步 骤 ， 需 要 大 量 数 据 才 能 有 效 发 挥 作 用 。 《 人 工 智 能 威 胁 前 景 报 告 》 强 调 了 在 人 工 智 能 生 态 系 统 的 每 个 部 分 进 行 网 络 安 全 和 数 据 《 人 工 智 能 威 胁 前 景 报 告 》 强 调 了 在 人 工 智 能 生 态 系 统 的 每 个 部 分 进 行 网 络 安 全 和 数 据 保 护 的 重 要 性 ， 以 为 最 终 用 户 创 造 值 得 信 赖 的 技 术 。 保 护 的 重 要 性 ， 以 为 最 终 用 户 创 造 值 得 信 赖 的 技 术 。
报 告 的 重 点 包 括 : 遵 循 生 命 周 期 方 法 定 义 人 工 智 能 在 网 络 安 全 背 景 下 的 范 围 。 人 工 智 能 系 统 和 应 用 程 序 的 生 态 系 统 是 通 过 考 虑 人 工 智 能 生 命 周 期 的 不 同 阶 段 来 定 义 的 — — 从 需 求 分 析 到 部 署 。 识 别 A I 生 态 系 统 的 资 产 ， 这 是 确 定 A I 生 态 系 统 的 安 全 性 需 要 保 护 和 可 能 出 错 的 基 本 步 骤 。 通 过 详 细 的 分 类 法 对 A I 威 胁 态 势 进 行 映 射 。 这 用 作 识 别 特 定 用 例 的 潜 在 漏 洞 和 攻 击 方 案 的 基 准 。 威 胁 分 类 及 相 关 威 胁 行 为 人 名 单 。 还 强 调 了 威 胁 对 不 同 安 全 属 性 的 影 响 。 本 期 内 容 将 介 绍 报 告 全 文 框 架 及 人 工 智 能 威 胁 概 述 。 本 期 内 容 将 介 绍 报 告 全 文 框 架 及 人 工 智 能 威 胁 概 述 。 P A R T - 1 报 告 全 文 目 录 报 告 全 文 目 录 目 目   录 录 1 .   介 绍 1 . 1   政 策 脉 络       1 . 2   范 围 和 目 标 1 . 3   方 法 1 . 4   目 标 受 众 1 . 5   报 告 框 架   2 .   人 工 智 能 生 命 周 期 2 . 1   周 期 概 述 2 . 2   周 期 因 素 2 . 3   周 期 阶 段 2 . 3 . 1   业 务 目 标 定 义 2 . 3 . 2   数 据 获 取 2 . 3 . 3   数 据 挖 掘 2 . 3 . 4   数 据 预 处 理 2 . 3 . 5   特 征 筛 选 2 . 3 . 6   模 型 筛 选 / 建 立 2 . 3 . 7   模 型 训 练 2 . 3 . 8   模 型 优 化 2 . 3 . 9   迁 移 学 习 2 . 3 . 1 0   模 型 部 署
2 . 3 . 1 1   模 型 维 护 2 . 3 . 1 2   业 务 理 解   3 .   A I 资 产 3 . 1   方 法 惯 例 3 . 2   资 产 分 类   4 .   A I 威 胁 4 . 1   威 胁 因 素 4 . 2   威 胁 建 模 方 法 4 . 3   威 胁 分 类   5 .   结 论 P A R T - 2 人 工 智 能 威 胁 人 工 智 能 威 胁 人 工 智 能 使 自 动 化 决 策 成 为 可 能 ， 并 为 日 常 生 活 的 许 多 方 面 提 供 便 利 ， 带 来 操 作 的 增 强 和 许 多 其 他 好 处 。 然 而 ， 人 工 智 能 系 统 面 临 着 大 量 的 网 络 安 全 威 胁 ， 人 工 智 能 本 身 也 需 要 得 到 安 全 保 护 ， 因 为 已 经 有 报 道 出 现 了 恶 意 攻 击 的 案 例 ， 例 如 人 工 智 能 技 术 和 基 于 人 工 智 能 的 系 统 可 能 会 导 致 意 想 不 到 的 结 果 ， 并 可 能 被 篡 改 以 操 纵 预 期 的 结 果 。 因 此 ， 有 必 要 了 解 人 工 智 能 威 胁 格 局 ， 并 有 必 要 了 解 人 工 智 能 威 胁 格 局 ， 并 有 一 个 共 同 和 统 一 的 基 础 ， 后 者 将 支 持 实 施 有 针 对 性 和 相 称 的 安 全 措 施 和 控 制 ， 以 应 对 与 人 工 智 能 有 关 的 威 胁 。 有 一 个 共 同 和 统 一 的 基 础 ， 后 者 将 支 持 实 施 有 针 对 性 和 相 称 的 安 全 措 施 和 控 制 ， 以 应 对 与 人 工 智 能 有 关 的 威 胁 。 在 本 章 中 ， 我 们 将 描 述 人 工 智 能 的 威 胁 前 景 ， 首 先 简 要 讨 论 相 关 的 参 与 者 ， 然 后 采 用 的 方 法 推 导 不 同 资 产 的 威 胁 ， 然 后 描 述 威 胁 及 其 在 通 用 分 类 法 中 的 分 类 。 1 威 胁 因 素 威 胁 因 素 网 络 罪 犯 的 动 机 主 要 是 利 润 。 网 络 犯 罪 分 子 倾 向 于 将 人 工 智 能 作 为 进 行 攻 击 的 工 具 ， 但 也 会 利 用 现 有 人 工 智 能 系 统 的 漏 洞 。 例 如 ， 他 们 可 能 试 图 入 侵 人 工 智 能 聊 天 机 器 人 ， 窃 取 信 用 卡 或 其 他 数 据 。 或 者 ， 他 们 可 能 会 对 用 于 供 应 链 管 理 和 仓 储 的 基 于 人 工 智 能 的 系 统 发 起 勒 索 软 件 攻 击 。 公 司 内 部 人 员 ， 包 括 能 够 进 入 组 织 网 络 的 雇 员 和 承 包 商 ， 可 能 涉 及 那 些 有 恶 意 意 图 或 可 能 无 意 伤 害 公 司 的 人 。 例 如 ， 恶 意 内 部 人 士 可 能 试 图 窃 取 或 破 坏 该 公 司 人 工 智 能 系 统 使 用 的 数 据 集 。 没 有 恶 意 的 内 部 人 员 可 能 会 意 外 地 破 坏 这 样 的 数 据 集 。
民 族 国 家 行 为 体 和 其 他 国 家 支 持 的 攻 击 者 一 般 来 说 是 先 进 的 。 除 了 开 发 利 用 人 工 智 能 系 统 攻 击 其 他 国 家 ( 包 括 行 业 和 关 键 基 础 设 施 ) 的 方 法 ， 以 及 使 用 人 工 智 能 系 统 保 护 自 己 的 网 络 ， 国 家 行 为 体 还 在 积 极 寻 找 他 们 可 以 利 用 的 人 工 智 能 系 统 的 漏 洞 。 这 可 能 是 对 另 一 个 国 家 造 成 伤 害 的 一 种 手 段 ， 或 作 为 情 报 收 集 的 一 种 手 段 。 其 他 威 胁 行 为 包 括 恐 怖 分 子 ， 他 们 试 图 造 成 人 身 伤 害 甚 至 生 命 损 失 。 例 如 ， 恐 怖 分 子 可 能 希 望 侵 入 无 人 驾 驶 汽 车 ， 以 便 将 其 用 作 武 器 。 黑 客 活 动 主 义 者 大 多 倾 向 于 受 意 识 形 态 的 驱 使 ， 他 们 可 能 也 会 试 图 侵 入 人 工 智 能 系 统 ， 以 证 明 这 是 可 以 做 到 的 。 越 来 越 多 的 组 织 担 心 人 工 智 能 的 潜 在 危 险 ， 他 们 侵 入 人 工 智 能 系 统 以 获 得 公 众 关 注 并 非 不 可 想 象 。   除 了 上 述 讨 论 的 传 统 威 胁 因 素 之 外 ， 越 来 越 有 必 要 将 竞 争 对 手 也 纳 入 威 胁 因 素 ， 因 为 一 些 公 司 正 越 来 越 多 地 表 现 出 攻 击 对 手 的 意 图 ， 以 获 得 市 场 份 额 。 2 威 胁 建 模 方 法 威 胁 建 模 方 法 线 程 建 模 包 括 识 别 威 胁 的 过 程 ， 并 最 终 列 出 它 们 并 对 它 们 进 行 优 先 排 序 。 如 何 进 行 威 胁 建 模 存 在 多 种 方 法 ， 步 幅 是 其 中 最 突 出 的 一 种 。 在 针 对 特 定 用 例 对 人 工 智 能 进 行 未 来 风 险 / 治 疗 评 估 的 背 景 下 ， 我 们 采 用 的 威 胁 建 模 方 法 包 括 5 个 步 骤 ， 即 : 目 标 识 别 : 识 别 系 统 应 该 具 有 的 安 全 属 性 。 概 述 : 映 射 系 统 、 其 组 件 及 其 相 互 作 用 ， 以 及 与 外 部 系 统 的 相 互 依 赖 关 系 。
资 产 识 别 : 从 安 全 性 方 面 指 出 需 要 保 护 的 关 键 资 产 威 胁 识 别 : 识 别 将 导 致 资 产 不 能 满 足 上 述 目 标 的 威 胁 漏 洞 识 别 : 通 常 基 于 已 存 在 的 攻 击 来 确 定 系 统 对 于 已 识 别 的 威 胁 是 否 脆 弱 3 威 胁 分 类 威 胁 分 类 下 面 的 列 表 给 出 了 基 于 E N I S A 威 胁 分 类 法 的 高 级 威 胁 分 类 列 表 ， 该 分 类 法 用 于 绘 制 人 工 智 能 威 胁 地 图 。 邪 恶 活 动 / 滥 用 ( N A A ) : “ 针 对 信 息 和 通 信 技 术 系 统 、 基 础 设 施 和 网 络 的 蓄 意 行 为 ， 目 的 是 窃 取 ， 改 变 或 摧 毁 一 个 特 定 的 目 标 ” 。 窃 听 / 拦 截 / 劫 持 ( E I H ) : “ 旨 在 侦 听 、 中 断 或 在 未 经 同 意 的 情 况 下 夺 取 对 第 三 方 通 信 的 控 制 的 行 为 ” 。 物 理 攻 击 ( P A ) : “ 旨 在 破 坏 、 暴 露 、 更 改 、 禁 用 、 窃 取 或 获 得 未 经 授 权 访 问 物 理 资 产 ( 如 基 础 设 施 、 硬 件 或 互 连 ) 的 行 为 ” 。 意 外 损 害 : 无 意 的 行 为 ， 导 致 “ 破 坏 ， 伤 害 ， 或 伤 害 财 产 或 人 员 ， 并 导 致 失 败 或 减 少 使 用 ” 。 故 障 或 故 障 ( F M ) : “ 资 产 ( 硬 件 或 软 件 ) 部 分 或 全 部 功 能 不 全 ” 。 中 断 ( O U T ) : “ 服 务 意 外 中 断 或 质 量 下 降 低 于 要 求 水 平 ” 。 灾 难 ( D I S ) : “ 突 然 的 事 故 或 自 然 灾 害 ， 造 成 巨 大 的 损 失 或 生 命 损 失 ” 。 法 律 ( L E G ) : “ 第 三 方 ( 缔 约 方 或 其 他 缔 约 方 ) 的 法 律 行 动 ， 以 禁 止 行 为 或 赔 偿 损 失 的 适 用 法 律 ” 。 注 ： 本 文 由 E 安 全 编 译 报 道 ， 转 载 请 注 原 文 地 址   h t t p s : / / w w w . e a s y a q . c o m 推 荐 阅 读 ： 遭 遇 大 规 模 攻 击 后     拜 登 誓 将 网 络 安 全 作 为 首 要 任 务 C V E 发 布 总 量 连 续 第 四 年 创 历 史 新 高 微 软 联 合 众 科 技 公 司   攻 陷 S o l a r   W i n d s 黑 客 的 关 键 域 苹 果 新 规 ： 开 发 者 必 须 提 供 明 确 的 收 集 用 户 隐 私 信 息 软 件 受 损 ， 美 国 多 个 政 府 机 构 遭 入 侵 ▼ 稿 件 合 作     1 5 5 5 8 1 9 2 9 5 9     小 E 微 信 号 ： E a n q u a n 0 9 1 4 喜 欢 记 得 打 赏 小 E 哦 ！
我 就 知 道 你 “ 在 看 ”
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理