搜索

[17624] 2019-05-21_别不信！AI都会致癌了

文档创建者：s7ckTeam
浏览次数：5
最后更新：2025-01-18
2019-05-21_别不信！AI都会致癌了 别 不 信 ！ A I   都 会 致 癌 了 原 创   小 明   G e e k P w n   2 0 1 9 - 0 5 - 2 1 1 9 5 0   年 ， 图 灵 写 道 ： “ 机 器 可 以 故 意 引 入 计 算 错 误 来 迷 惑 质 问 者 。 ” 2 0 1 9   年 ， 年 ， A I   学 会 通 过 伪 造 癌 症 图 像 欺 骗 专 家 医 生 了 。 机 器 已 经 具 备 迷 惑 之 力 。 学 会 通 过 伪 造 癌 症 图 像 欺 骗 专 家 医 生 了 。 机 器 已 经 具 备 迷 惑 之 力 。 近 日 ， 以 色 列 的 一 个 研 究 小 组 发 表 了 项 研 究 ， 他 们 发 现 利 用 深 度 学 习 伪 造 癌 症 肿 瘤 的 医 学 图 像 ， 在 大 多 数 情 况 下 能 够 轻 松 利 用 深 度 学 习 伪 造 癌 症 肿 瘤 的 医 学 图 像 ， 在 大 多 数 情 况 下 能 够 轻 松 骗 过 即 使 是 最 好 的 放 射 科 医 生 。 骗 过 即 使 是 最 好 的 放 射 科 医 生 。 在 医 院 完 全 知 晓 并 同 意 他 们 小 组 测 试 的 情 况 下 ， 研 究 者 仅 利 用 一 台 树 莓 派 电 脑 就 实 施 了 模 拟 攻 击 。
他 们 成 功 渗 透 进 入 了 一 个 典 型 的 医 疗 系 统 的   P A C S （ 影 像 归 档 和 通 信 系 统 ） 中 ， 使 用 一 种 应 用 了 生 成 式 对 抗 网 络 （ G A N ） 技 术 的 恶 意 程 序 改 变 了   M R I   或   C T   扫 描 图 像 ， 从 而 让 正 常 的 影 像 中 出 现 肿 瘤 或 者 让 癌 症 病 人 的 图 像 中 移 除 真 正 的 癌 症 。 在 这 场 攻 击 医 院 的 实 验 中 ， 攻 击 者 可 以 随 意 增 加 或 消 除 动 脉 瘤 、 心 脏 病 、 血 栓 、 关 节 炎 、 软 骨 问 题 、 脑 、 心 脏 等 其 他 癌 症 的 证 据 。 这 些 结 果 非 常 轻 松 地 愚 弄 了 医 生 的 临 床 决 策 。 这 些 结 果 非 常 轻 松 地 愚 弄 了 医 生 的 临 床 决 策 。
完 成 这 场 攻 击 的 物 理 器 材 就 只 是 一 个 不 到   5 0   美 元 的 树 莓 派 ， 成 本 低 得 让 医 院 方 面 都 感 到 震 惊 。 研 究 者 所 使 用 的 图 像 生 成 技 术 研 究 者 所 使 用 的 图 像 生 成 技 术   G A N ， 我 们 并 不 陌 生 ， 风 靡 ， 我 们 并 不 陌 生 ， 风 靡   B   站 的 站 的   A I   换 脸 应 用 的 就 是 相 同 原 理 的 换 脸 应 用 的 就 是 相 同 原 理 的   D e e p f a k e 。 。 G A N   由   I a n   G o o d f e l l o w   于   2 0 1 4   年 发 明 ， 通 过 两 个 神 经 网 络 同 时 训 练 并 且 互 相 博 弈 。 经 过 训 练 后 ， 一 个 神 经 网 络 能 画 出 跟 毕 加 索 风 格 一 样 的 作 品 ， 另 一 个 神 经 网 络 则 具 备 了 前 所 未 有 的 鉴 别 能 力 。 G A N   被 喻 为 一 项 被 喻 为 一 项 “ 突 破 性 的 发 展 突 破 性 的 发 展 ” ， 赋 予 机 器 以 想 象 力 ， 让 神 经 网 络 在 资 料 不 足 时 也 能 进 行 高 质 量 的 深 度 学 习 训 练 。 ， 赋 予 机 器 以 想 象 力 ， 让 神 经 网 络 在 资 料 不 足 时 也 能 进 行 高 质 量 的 深 度 学 习 训 练 。
I a n   G o o d f e l l o w （ 右 ） 在   G e e k P w n 2 0 1 6   硅 谷 站 分 享 “ 对 抗 样 本 针 在 物 理 世 界 的 影 响 ” G A N   不 仅 能 生 成 图 像 ， 还 有 人 尝 试 用 它 来 消 除 街 道 上 的 汽 车 ， 似 乎 比 灭 霸 还 要 厉 害 。 G A N   展 示 出 展 示 出   A I   同 时 具 备 的 创 造 力 与 破 坏 力 。 当 这 种 破 坏 力 不 能 得 到 合 理 的 使 用 和 控 制 时 ， 后 果 可 能 比 同 时 具 备 的 创 造 力 与 破 坏 力 。 当 这 种 破 坏 力 不 能 得 到 合 理 的 使 用 和 控 制 时 ， 后 果 可 能 比 “ 核 反 应 核 反 应 ” 还 要 严 还 要 严 重 。 重 。 为 了 避 免 不 可 想 象 的 事 情 发 生 ， 需 要 我 们 提 前 思 考   A I   是 否 存 在 安 全 威 胁 这 样 目 前 看 来 不 着 边 际 的 问 题 。 但 是 ， 哪 怕 只 是 这 一 点 点 的 思 考 与 行 动 ， 也 会 给 我 们 更 好 的 改 变 。
挑 战 挑 战   A I   的 黑 客 比 赛 的 黑 客 比 赛 C A A D   对 抗 样 本 攻 防 赛 （ C o m p e t i t i o n   o n   A d v e r s a r i a l   A t t a c k s   a n d   D e f e n s e s ） 是 由 G e e k P w n   联 合 谷 歌 大 脑 的   A l e x e y   K u r a k i n 、 I a n   G o o d f e l l o w   以 及 美 国 加 州 大 学 伯 克 利 分 校 计 算 机 系 教 授 宋 晓 冬 于   2 0 1 8   年 共 同 发 起 。 2 0 1 8   年   C A A D   线 上 赛 与 线 下 赛 成 功 举 办 ， 来 自   F A I R   实 验 室 研 究 者 在   1 0 2 4   极 棒 比 赛 现 场 成 功 将 亚 马 逊 名 人 鉴 别 系 统 攻 破 ， 用 一 张 蒋 昌 建 老 师 的 照 片 让 系 统 误 以 为 是 施 瓦 辛 格 。 G e e k P w n 2 0 1 8   上 海 站 现 场 选 手 生 成 的 图 像 2 0 1 9   年 ， 年 ， C A A D   继 续 关 注 图 像 识 别 领 域 ， 继 续 关 注 图 像 识 别 领 域 ， C A A D   C T F   图 像 对 抗 样 本 挑 战 赛 战 火 重 燃 。 图 像 对 抗 样 本 挑 战 赛 战 火 重 燃 。 此 外 ， 本 次 比 赛 首 度 发 起 针 对 语 此 外 ， 本 次 比 赛 首 度 发 起 针 对 语 音 识 别 领 域 的 对 抗 攻 击 与 防 御 研 究 ， 设 立 了 音 识 别 领 域 的 对 抗 攻 击 与 防 御 研 究 ， 设 立 了   C A A D   语 音 对 抗 样 本 挑 战 。 语 音 对 抗 样 本 挑 战 。
比 赛 要 求 选 手 提 交 可 以 令 鉴 别 系 统 产 生 误 导 或 者 错 误 的 对 抗 样 本 ， 以 实 现 欺 骗 的 目 的 。 C A A D   C T F   图 像 对 抗 样 本 挑 战 赛 图 像 对 抗 样 本 挑 战 赛 你 能 利 用 一 张 纸 骗 过 图 像 识 别 系 统 吗 ？ 如 果 能 在 任 何 公 开 的 智 能 安 防 设 备 中 ， 实 现 人 或 者 物 体 的 隐 身 ， 那 就 不 要 错 过   C A A D   C T F   图 像 对 抗 样 本 挑 战 赛 图 像 对 抗 样 本 挑 战 赛 。   挑 战 分 为 预 赛 和 决 赛 ， 预 赛 分 为 多 轮 （ 排 名 以 最 后 一 轮 为 准 ） 。 要 求 选 手 通 过 提 交 对 抗 样 本 图 片 进 行 定 向 攻 击 ， 排 名 前 四 的 团 队 将 获 得 晋 级 决 赛 的 机 会 。 决 赛 规 则 将 另 行 通 知 。 即 日 起 至 即 日 起 至   7   月 月   2 1   日 ， 选 手 可 以 发 送 邮 件 至 日 ， 选 手 可 以 发 送 邮 件 至   c a a d @ g e e k p w n . o r g   报 名 。 报 名 。 C A A D   语 音 对 抗 样 本 挑 战 赛 语 音 对 抗 样 本 挑 战 赛
C A A D   语 音 对 抗 样 本 挑 战 赛 单 项 最 高 奖 金 为 语 音 对 抗 样 本 挑 战 赛 单 项 最 高 奖 金 为   1 0   万 元 ， 挑 战 目 标 是 各 种 语 音 转 文 字 服 务 或 产 品 。 万 元 ， 挑 战 目 标 是 各 种 语 音 转 文 字 服 务 或 产 品 。 要 求 选 手 对 比 赛 提 供 的 正 常 声 音 文 件 （ 比 如 人 说 话 、 鸟 叫 、 火 车 汽 笛 等 各 种 声 音 ） 做 很 小 的 修 改 之 后 ， 导 致 服 务 / 产 品 识 别 成 组 委 指 定 的 文 字 内 容 ， 或 者 进 行 其 他 合 理 的 对 服 务 / 产 品 的 误 导 。 即 日 起 至   9   月   3 0   日 ， 选 手 可 以 发 送 邮 件 至   c a a d @ g e e k p w n . o r g   报 名 并 描 述 所 能 达 到 的 效 果 ， 便 有 机 会 成 为 受 邀 团 队 出 现 在 最 终 的 比 赛 现 场 。 随 着 近 年 来 ， 人 工 智 能 开 始 在 一 些 领 域 达 到 甚 至 超 过 人 类 的 表 现 ， 科 学 家 都 难 以 预 测 这 种 技 术 未 来 会 在 哪 一 时 刻 彻 底 战 胜 人 类 。 当 这 种 高 科 技 在 全 球 带 来 翻 天 覆 地 变 化 ， 破 坏 性 的 力 量 同 时 在 累 积 。 如 果 说 互 联 网 颠 覆 了 一 个 时 代 ， 那 么 人 工 智 能 颠 覆 的 可 能 是 未 来 的 人 类 。 1 0   月 月   2 4   日 ， 与 日 ， 与   G e e k P w n   一 同 窥 探 人 工 智 能 的 一 同 窥 探 人 工 智 能 的 “ 暗 黑 模 式 暗 黑 模 式 ” 。 。 - - - E N D - - - 极 棒 全 新 项 目 极 棒 全 新 项 目 挑 战 应 接 不 暇 挑 战 应 接 不 暇 ↓ ↓ ↓
前 往 极 棒 官 网 前 往 极 棒 官 网 获 得 更 多 项 目 信 息 获 得 更 多 项 目 信 息
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理