搜索

[652] 2018-09-07_人工智能保险箍

文档创建者：s7ckTeam
浏览次数：3
最后更新：2025-01-16
2018-09-07_人工智能保险箍 人 工 智 能 保 险 箍 A r k T e a m   2 0 1 8 - 0 9 - 0 7 作 者 ： { C X } @ A r k T e a m 在 2 0 1 8 年 6 月 3 0 日 举 办 的 中 国 国 际 软 件 博 览 会 上 ， 中 国 工 程 院 方 滨 兴 院 士 在 题 为 “ 人 工 智 能 安 全 之 我 见 ” 的 专 题 演 讲 中 ， 首 次 提 出 了 人 工 智 能 保 险 箍 （ 以 下 简 称 A I 保 险 箍 ） 的 概 念 ， 其 内 涵 如 下 。 人 工 智 能 行 为 体 人 工 智 能 行 为 体 ： 人 工 智 能 行 为 体 是 A I 保 险 箍 的 宿 主 ， 能 够 感 知 外 部 环 境 并 作 为 输 入 ， 通 过 内 部 算 法 进 行 决 策 ， 并 利 用 自 身 驱 动 装 置 与 物 理 世 界 产 生 交 互 行 为 的 自 治 硬 件 实 体 。 其 中 ， 外 部 环 境 包 括 所 处 自 然 环 境 及 相 关 生 物 体 等 ； 内 部 算 法 是 预 置 在 人 工 智 能 行 为 体 内 部 、 用 于 产 生 决 策 的 程 序 ； 驱 动 装 置 指 的 是 可 与 物 理 世 界 交 互 或 可 改 变 人 工 智 能 行 为 体 所 处 空 间 坐 标 的 硬 件 ； 自 治 指 的 是 人 工 智 能 行 为 体 可 以 自 己 设 定 目 标 函 数 或 自 主 决 策 。 人 工 智 能 行 为 体 失 控 三 要 素 人 工 智 能 行 为 体 失 控 三 要 素 ： 未 来 出 厂 的 任 何 人 工 智 能 行 为 体 ， 只 要 满 足 失 控 三 要 素 ， 都 存 在 失 控 风 险 ， 都 需 要 带 上 “ A I 保 险 箍 ” 。 串 接 位 置 串 接 位 置 ： 人 工 智 能 行 为 体 一 般 由 “ A I 决 策 系 统 ” 和 “ A I 驱 动 装 置 ” 组 成 ， 而 A I 保 险 箍 则 是 串 接 在 两 者 之 间 ， 以 硬 件 形 态 存 在 。 基 本 功 能 基 本 功 能 ： 类 似 于 僵 尸 网 络 ， A I 保 险 箍 需 支 持 远 程 控 制 ； A I 保 险 箍 可 按 照 默 认 或 远 程 指 令 对 人 工 智 能 行 为 体 的 能 源 进 行 控 制 和 优 先 占 用 ； 类 似 于 飞 机 上 黑 匣 子 ， 可 记 录 人 工 智 能 行 为 体 全 部 数 据 并 安 全 保 存 。 基 本 功 能 是 所 有 A I 保 险 箍 的 最 小 实 现 。 安 全 机 制 安 全 机 制 ： 反 摘 除 ， 一 旦 失 效 ， A I 行 为 体 无 法 工 作 或 开 始 自 毁 ； 防 篡 改 ， 类 似 U 盾 ， 不 可 被 篡 改 ； 健 壮 性 ， 能 在 各 种 恶 劣 环 境 下 具 备 基 本 工 作 能 力 ； 多 模 表 决 ， 提 高 容 错 能 力 。 增 强 功 能 与 安 全 围 栏 增 强 功 能 与 安 全 围 栏 ： 限 于 篇 幅 ， 不 做 展 开 。 综 上 ， A I 保 险 箍 保 险 箍 既 像 “ 保 险 丝 ” ， 又 像 “ 紧 箍 ” ， 它 串 联 在 人 工 智 能 行 为 体 中 ， 可 按 照 默 认 或 远 程 指 令 对 人 工 智 能 行 为 体 的 能 源 、 行 为 、 状 态 等 进 行 控 制 、 监 听 、 记 录 以 防 止 其 失 控 。 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理