搜索

[3426] 2017-01-03_美国国家科技委员会报告：为人工智能的未来做好准备

文档创建者：s7ckTeam
浏览次数：34
最后更新：2025-01-16
2017-01-03_美国国家科技委员会报告：为人工智能的未来做好准备 美 国 国 家 科 技 委 员 会 报 告 ： 为 人 工 智 能 的 未 来 做 好 准 备 原 创   E 安 全   E 安 全   2 0 1 7 - 0 1 - 0 3 E 安 全 1 月 3 日 文   未 来 ， 人 工 智 能 （ A r t i f i c i a l   I n t e l l i g e n c e ,   A I ） 将 发 挥 越 来 越 重 要 的 作 用 。 为 了 让 美 国 有 所 准 备 ， 美 国 国 家 科 技 委 员 会 调 查 了 A I 现 状 、 现 有 和 潜 在 应 用 、 以 及 A I 发 展 进 程 中 引 起 的 社 会 和 公 共 政 策 问 题 。 美 国 国 家 科 技 委 员 会 还 推 荐 联 邦 机 构 和 其 它 机 构 采 取 进 一 步 具 体 行 动 。 配 套 文 件 “ 国 家 人 工 智 能 研 究 和 发 展 战 略 计 划 国 家 人 工 智 能 研 究 和 发 展 战 略 计 划 ” （ 请 在 本 文 末 尾 下 载 E 安 全 提 供 的 原 版 报 告 ） 阐 述 了 美 国 联 邦 政 府 资 助 的 A I 研 发 战 略 计 划 。
A I 服 务 公 众 服 务 公 众 人 工 智 能 和 机 器 学 习 的 乐 观 面 在 于 ， 它 们 能 帮 助 解 决 某 些 具 有 挑 战 性 和 低 效 的 状 况 来 改 善 人 们 的 生 活 质 量 。 公 共 部 门 和 私 营 部 门 对 人 工 智 能 基 础 与 应 用 研 发 的 投 资 已 经 开 始 为 公 众 带 来 巨 大 好 处 ， 包 括 医 疗 保 健 、 交 通 、 环 境 、 刑 事 司 法 和 经 济 融 合 等 领 域 。 政 府 的 效 率 在 逐 渐 提 升 ， 因 为 政 府 机 构 在 培 养 能 力 通 过 A I 更 快 、 更 灵 敏 、 更 高 效 地 完 成 任 务 。 A I 与 监 管 与 监 管
许 多 产 品 应 用 了 A I ， 例 如 汽 车 和 飞 机 ， 这 些 产 品 受 到 监 管 ， 以 保 护 公 众 免 受 伤 害 ， 并 确 保 经 济 竞 争 的 公 平 性 。 将 人 工 智 能 纳 入 这 些 产 品 将 如 何 影 响 相 关 监 管 模 式 ？ 一 般 而 言 ， 应 通 过 评 估 纳 入 A I 可 能 减 少 和 增 加 的 风 险 面 了 解 监 管 A I 驱 动 产 品 保 护 公 共 安 全 的 方 法 。 如 果 风 险 在 现 有 监 管 制 度 范 围 内 ， 政 策 讨 论 者 应 开 始 考 虑 现 有 监 管 措 施 是 否 已 充 分 解 决 风 险 ， 或 这 些 措 施 是 否 需 要 适 应 A I 的 融 入 。 此 外 ， 如 果 对 纳 入 A I 的 监 管 响 应 需 增 加 合 规 成 本 ， 或 减 缓 有 利 创 新 的 开 发 或 采 用 ， 决 策 者 应 考 虑 如 何 调 整 这 些 响 应 ， 以 降 低 成 本 和 创 新 壁 垒 ， 而 不 影 响 安 全 或 市 场 公 平 性 。 当 前 ， A I 驱 动 产 品 的 监 管 挑 战 主 要 表 现 在 自 动 化 车 辆 （ 如 自 动 驾 驶 车 辆 ） 和 配 置 人 工 智 能 的 无 人 机 上 。 从 长 远 来 看 ， 自 动 化 车 辆 将 可 能 通 过 减 少 司 机 失 误 ， 增 加 个 人 移 动 性 拯 救 许 多 生 命 ， 而 无 人 机 将 带 来 许 多 经 济 利 益 。 然 而 必 须 保 护 公 共 安 全 。 美 国 交 通 部 （ T h e   D e p a r t m e n t   o f T r a n s p o r t a t i o n ， D O T ） 正 使 用 一 种 方 法 改 进 相 关 法 规 ， 其 基 础 是 在 部 门 内 构 建 专 业 知 识 ， 创 造 实 验 安 全 空 间 和 试 验 台 ， 并 与 行 业 和 民 间 社 会 合 作 改 进 基 于 绩 效 的 法 规 ， 使 更 多 用 途 作 为 安 全 操 作 的 证 据 累 积 。 研 究 与 劳 动 力 研 究 与 劳 动 力 政 府 通 过 研 发 和 丰 富 技 能 、 多 样 化 劳 动 力 增 长 来 推 动 人 工 智 能 中 扮 演 重 要 角 色 。 单 独 的 联 邦 政 府 资 助 A I 研 发 战 略 计 划 与 本 报 告 一 起 发 布 。 该 计 划 讨 论 联 邦 政 府 研 发 角 色 ， 确 定 机 会 范 围 ， 并 推 荐 方 法 协 调 研 发 将 利 益 最 大 化 ， 并 培 养 训 练 有 素 的 劳 动 力 。 此 外 ， 考 虑 到 A I 的 战 略 重 要 性 ， 联 邦 政 府 应 监 控 全 球 范 围 内 该 领 域 的 发 展 动 态 ， 以 便 获 得 其 它 地 方 重 要 变 化 的 早 期 预 警 ， 以 防 需 要 变 更 美 国 政 策 。 A I 的 快 速 发 展 极 大 增 加 了 相 关 技 能 的 人 力 需 求 ， 以 支 持 并 推 进 该 领 域 发 展 。 A I 世 界 需 要 精 通 数 据 的 公 民 读 取 、 使 用 、 解 释 和 传 达 数 据 ， 并 参 与 讨 论 人 工 智 能 影 响 的 事 件 。 联 邦 科 学 、 技 术 、 工 程 和 数 学 （ F e d e r a l   S c i e n c e ,   T e c h n o l o g y ,   E n g i n e e r i n g ,   a n d   M a t h e m a t i c s ， S T E M ） 教 育 计 划 越 来 越 重 视 A I 知 识 和 教 育 。 A I 教 育 还 是 全 民 计 算 机 科 学 （ C o m p u t e r   S c i e n c e   f o r   A l l ） 的 一 部 分 ， 奥 巴 马 启 动 的 这 项 全 民 计 算 机 科 学 计 划 旨 在 让 所 有 美 国 学 生 从 幼 儿 园 到 中 学 学 习 计 算 机 科 学 ， 并 掌 握 技 术 驱 动 世 界 所 需 的 计 算 思 维 技 能 。 人 工 智 能 的 经 济 影 响 人 工 智 能 的 经 济 影 响 A I 在 短 期 内 的 经 济 效 应 是 将 以 前 无 法 自 动 化 的 任 务 自 动 化 。 这 将 可 能 提 高 生 产 力 并 创 造 财 富 ， 但 也 可 能 以 不 同 的 方 式 影 响 特 定 类 型 的 工 作 ， 增 加 与 A I 相 辅 相 成 的 其 它 技 能 ,   同 时 减 少 某 些 特 定 技 能 的 需 求 。 白 宫 经 济 顾 问 委 员 会 （ W h i t e   H o u s e   C o u n c i l   o f   E c o n o m i c   A d v i s o r s ， C E A ） 的 分 析 表 明 ， 自 动 化 对 低 工 资 职 业 产 生 的 负 面 影 响 最 大 ， 并 且 人 工 智 能 驱 动 的 自 动 化 将 可 能 拉 大 教 育 水 平 相 差 甚 远 的 员 工 工 资 差 距 ， 从 而 潜 在 增 加 经 济 不 平 等 性 。 公 共 政 策 可 以 解 决 这 些 风 险 ， 确 保 工 作 人 员 经 过 再 培 训 ， 并 能 在 自 动 化 互 补 职 业 中 有 一 番 作 为 。 公 共 政 策 还 能 确 保 A I 创 造 的 经 济 效 益 得 到 广 泛 共 享 ， 并 确 保 A I 迎 来 全 球 经 济 新 时 代 。 公 平 、 安 全 与 管 控 公 平 、 安 全 与 管 控 随 着 A I 技 术 被 广 泛 地 部 署 ， 技 术 专 家 、 政 策 分 析 师 和 伦 理 家 对 广 泛 采 用 A I 出 现 的 意 外 后 果 表 示 担 忧 。 使 用 A I 做 有 关 人 类 的 重 要 决 策 ， 经 常 会 取 代 通 过 人 为 驱 动 官 僚 程 序 制 定 的 决 策 ， 从 而 导 致 人 们 担 心 如 何 确 保 正 义 、 公 平 和 问 责 制 — — 同 样 2 0 1 4 年 美 国 总 统 行 政 办 公 室 发 布 的 《 大 数 据 : 抓 住 机 遇 ， 保 留 价 值 》 ( B i g   D a t a : S e i z i n g   O p p o r t u n i t i e s ,   P r e s e r v i n g   V a l u e s ) 的 报 告 ， 以 及 《 大 数 据 与 隐 私 报 告 》 中 被 提 出 。 透 明 度 不 仅 涉 及 数 据 和 算 法 ， 还 可 能 以 某 种 形 式 解 释 基 于 A I 的 决 定 。 然 而 ， A I 专 家 警 告 称 ， 试 图 理 解 并 预 测 先 进 A I 系 统 的 过 程 中 存 在 固 有 挑 战 。 使 用 A I 控 制 物 理 设 备 引 发 对 安 全 的 担 忧 ， 尤 其 当 系 统 暴 露 在 极 为 复 杂 的 人 类 环 境 时 。 A I 安 全 的 巨 大 挑 战 在 于 构 建 系 统 ， 从 实 验 室 的 “ 封 闭 世 界 ” 过 渡 到 外 部 的 “ 开 放 世 界 ” （ 不 可 能 预 测 的 事 情 可 能 会 发 生 ） 。 适 度 适 应 不 可 预 见 的 情 形 很 难 ， 但 却 是 安 全 操 作 所 必 需 的 步 骤 。 构 建 其 它
类 型 安 全 关 键 系 统 和 基 础 设 施 （ 例 如 飞 机 、 发 电 厂 、 桥 梁 和 车 辆 ） 的 经 验 可 以 让 A I 从 业 人 员 了 解 验 证 与 确 认 ， 如 何 构 建 技 术 的 安 全 案 例 ， 如 何 管 理 风 险 ， 以 及 如 何 与 风 险 利 益 相 关 者 沟 通 。 从 技 术 层 面 讲 ， 公 平 挑 战 与 安 全 挑 战 息 息 相 关 。 在 这 两 种 情 况 下 ， 从 业 人 员 努 力 避 免 意 外 行 为 ， 并 生 成 所 需 证 据 ， 使 利 益 相 关 者 有 理 由 相 信 不 可 能 发 生 意 外 的 失 败 。 对 A I 从 业 者 和 学 生 进 行 伦 理 培 训 是 该 解 决 方 案 的 必 要 组 成 部 分 。 理 想 情 况 下 ， 每 个 学 习 A I 、 计 算 机 科 学 或 数 据 科 学 的 学 生 将 会 接 触 与 伦 理 和 安 全 话 题 相 关 的 课 程 与 讨 论 。 然 而 ， 仅 仅 学 习 伦 理 学 远 远 不 够 。 伦 理 学 可 以 帮 助 从 业 者 理 解 利 益 相 关 者 的 职 责 ， 但 伦 理 培 训 应 借 助 技 术 工 具 和 方 法 ， 通 过 防 止 意 外 结 果 必 需 的 技 术 工 作 ， 将 良 好 意 愿 付 诸 实 践 。 全 球 考 量 与 安 全 全 球 考 量 与 安 全 A I 在 国 家 关 系 和 安 全 领 域 引 出 政 策 问 题 。 近 年 来 ， A I 一 直 是 国 际 讨 论 中 的 热 门 话 题 ， 因 为 各 国 、 多 边 机 构 和 其 它 利 益 相 关 者 开 始 体 验 人 工 智 能 的 好 处 与 挑 战 。 这 些 实 体 之 间 的 对 话 与 合 作 有 助 于 推 进 A I 研 发 ， 并 永 久 驾 驭 A I ， 同 时 解 决 共 同 的 挑 战 。 如 今 ， A I 应 用 在 网 络 安 全 领 域 发 挥 着 重 要 的 作 用 ， 预 计 A I 将 对 防 御 和 进 攻 网 络 措 施 发 挥 更 大 的 作 用 。 目 前 ， 通 过 设 计 与 操 作 保 护 系 统 安 全 需 花 费 专 家 大 量 的 时 间 和 精 力 。 将 这 项 工 作 自 动 化 可 能 以 较 低 的 成 本 强 化 大 量 系 统 和 应 用 程 序 的 安 全 ， 并 提 高 国 家 网 络 防 御 的 敏 捷 性 。 在 武 器 系 统 中 潜 在 使 用 A I 会 引 起 挑 战 性 问 题 。 几 十 年 来 ， 美 国 在 某 些 武 器 系 统 融 入 自 主 权 ， 使 武 器 使 用 更 精 准 、 更 安 全 、 并 实 施 更 人 道 的 军 事 行 动 。 然 而 ， 完 全 放 弃 人 为 控 制 武 器 系 统 存 在 风 险 ， 这 可 能 引 发 法 律 和 道 德 问 题 。 将 自 主 和 半 自 主 武 器 系 统 纳 入 美 国 国 防 计 划 的 关 键 在 于 ， 确 保 美 国 政 府 实 体 按 照 国 际 人 道 主 义 法 行 事 ， 采 取 适 当 的 措 施 控 制 武 器 扩 散 ， 并 与 合 作 伙 伴 和 同 盟 国 合 作 制 定 开 发 和 使 用 这 类 武 器 系 统 的 相 关 标 准 。 美 国 积 极 参 与 致 命 自 主 武 器 系 统 的 国 际 讨 论 ， 并 期 望 持 续 参 与 这 些 潜 在 武 器 系 统 的 国 际 讨 论 。 美 国 政 府 机 构 正 在 努 力 制 定 一 项 符 合 国 际 人 道 主 义 法 的 自 主 与 半 自 主 武 器 政 府 政 策 。 为 为 A I 未 来 做 准 备 未 来 做 准 备 如 果 行 业 、 民 间 社 会 、 政 府 和 公 众 共 同 支 持 A I 技 术 发 展 ， 慎 重 考 虑 A I 潜 力 并 管 理 风 险 ， A I 可 能 会 是 经 济 发 展 与 社 会 进 步 的 巨 大 驱 动 力 。 对 重 要 问 题 展 开 讨 论 ， 并 帮 助 制 定 公 开 讨 论 议 程 ； 可 以 监 控 应 用 安 全 与 公 平 ， 制 定 、 采 用 监 管 框 架 ， 鼓 励 创 新 ， 并 保 护 公 众 ； 可 以 提 供 公 共 政 策 工 具 确 保 A I 工 作 方 式 与 方 法 提 高 生 产 力 ， 同 时 避 免 对 某 些 劳 动 力 部 门 造 成 不 利 的 经 济 后 果 ； 还 能 支 持 A I 基 本 研 究 ， 并 将 A I 应 用 至 公 益 事 业 ； 支 持 开 发 技 能 强 的 多 样 化 劳 动 力 。 许 多 公 共 政 策 领 域 （ 从 教 育 和 经 济 安 全 网 到 国 防 、 环 境 保 护 和 行 事 司 法 ） 将 会 面 临 A I 持 续 发 展 驱 动 的 新 机 会 和 新 挑 战 ， 美 国 政 府 必 须 继 续 培 养 能 力 理 解 并 适 应 这 些 变 化 。 随 着 A I 技 术 的 持 续 发 展 ， 从 业 者 必 须 确 保 A I 系 统 是 可 控 的 、 开 放 的 、 透 明 的 、 可 理 解 的 ； 可 以 与 人 有 效 协 作 ， 其 操 作 将 与 人 类 价 值 观 和 愿 望 保 持 一 致 。 研 究 人 员 和 从 业 者 已 经 在 逐 渐 关 注 这 些 挑 战 ， 并 应 持 续 关 注 。 开 发 并 研 究 机 器 智 能 可 以 帮 助 我 们 更 好 地 理 解 人 类 智 能 。 若 经 深 思 熟 虑 后 加 以 利 用 ， A I 可 以 增 强 我 们 的 智 慧 ， 帮 助 我 们 绘 制 更 美 好 的 光 明 未 来 。 点 击 下 载 E 安 全 提 供 的 “ 国 家 人 工 智 能 研 究 和 发 展 战 略 计 划 国 家 人 工 智 能 研 究 和 发 展 战 略 计 划 ” 原 版 文 件 （ 如 微 信 公 众 号 无 法 下 载 请 点 击 左 下 角 的 阅 读 原 文 或 者 前 往 E 安 全 门 户 网 站 进 行 下 载 ） 。 E 安 全 注 ： 本 文 系 本 文 系 E 安 全 独 家 编 译 报 道 ， 转 载 请 联 系 授 权 ， 并 保 留 出 处 与 链 接 ， 不 得 删 减 内 容 。 安 全 独 家 编 译 报 道 ， 转 载 请 联 系 授 权 ， 并 保 留 出 处 与 链 接 ， 不 得 删 减 内 容 。 联 系 方 式 ： ①   微 信 号 z h u - g e l i a n g   ② 邮 箱
e a p p @ e a s y a q . c o m @ E 安 全 ， 最 专 业 的 前 沿 网 络 安 全 媒 体 和 产 业 服 务 平 台 ， 每 日 提 供 优 质 全 球 网 络 安 全 资 讯 与 深 度 思 考 ， 欢 迎 关 注 微 信 公 众 号 「 E 安 全 」 （ E A Q a p p ） ， 或 登 E 安 全 门 户 网 站 w w w . e a s y a q . c o m   ,   查 看 更 多 精 彩 内 容 。 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理