搜索

[4923] 2018-03-15_恶意软件在AI领域，攻和防谁更厉害？

文档创建者：s7ckTeam
浏览次数：10
最后更新：2025-01-16
2018-03-15_恶意软件在AI领域，攻和防谁更厉害？ 恶 意 软 件 在 A I 领 域 ， 攻 和 防 谁 更 厉 害 ？ 原 创   E 安 全   E 安 全   2 0 1 8 - 0 3 - 1 5 更 多 全 球 网 络 安 全 资 讯 尽 在 E 安 全 官 网 w w w . e a s y a q . c o m E 安 全 3 月 1 5 日 讯     神 经 网 络 对 抗 掀 起 血 雨 腥 风 ， 人 工 智 能 （ A I ） 在 利 用 对 抗 模 型 成 功 解 决 图 像 分 类 与 计 算 机 音 频 识 别 两 大 难 题 之 后 ， 如 今 又 将 目 标 指 向 恶 意 软 件 检 测 领 域 。 2 0 1 8 年 3 月 1 2 日 ， 慕 尼 黑 大 学 、 意 大 利 卡 利 亚 里 大 学 与 意 大 利   P l u r i b u s O n e   公 司 共 同 发 布 的 论 文 描 述 了 如 何 击 败   M a l C o n v 。 M a l C o n v 2 0 1 7 年 ， 英 伟 达 、 博 思 艾 伦 以 及 马 里 兰 大 学 的 研 究 人 员 们 共 同 训 练 出 一 套 神 经 网 络 — — M a l C o n v   软 件 ， 能 够 摄 入   E X E   文 件 并 发 现 其 中 存 在 的 恶 意 软 件 样 本 。   M a l C o n v   能 够 对 可 执 行 文 件 进 行 静 态 分 析 （ 即 查 看 二 进 制 文 件 内 容 ， 但 不 会 实 际 运 行 ） 。 一 旦 其 神 经 网 络 拥 有 足 够 大 的 学 习 集 ， 即 可 在 实 践 场 景 中 对 恶 意 软 件 进 行 分 析 ， 准 确 度 可 高 达 9 8 % 。 但 由 于 M a l C o n v   属 于 一 套 神 经 网 络 ， 而 神 经 网 络 在 对 抗 性 攻 击 面 前 非 常 脆 弱 。 如 何 愚 弄 如 何 愚 弄 M a l C o n v ？ ？ 研 究 人 员 们 正 在 探 索 破 坏 人 工 智 能 所 需 的 最 小 变 化 ， 他 们 从 简 单 的 字 节 填 充 开 始 ， 在 二 进 制 文 件 末 尾 添 加 1 0 0 0 0 个 字 节 。 这 种 方 法 使 得   M a l C o n v   的 准 确 度 降 低 了 一 半 以 上 。 与 恶 意 软 件 样 本 相 比 ， 1 0   K B 的 填 充 量 只 是 一 项 微 小 的 变 化 。 论 文 解 释 称 ， “ 这 意 味 着 只 需 要 将 不 足 1 % 的 字 节 作 为 输 入 内 容 提 交 至 深 层 网 络 当 中 。 ” 然 而 这 样 的 攻 击 方 式 仍 能 实 现 进 一 步 精 简 ， 这 是 因 为 其 完 全 可 以 将 “ 攻 击 字 节 ” 放 在 二 进 制 文 件 内 ，
从 而 大 幅 增 加 攻 击 的 成 功 率 。 然 而 ， 在 可 执 行 文 件 内 对 字 节 进 行 操 作 往 往 更 加 复 杂 且 困 难 ， 几 乎 无 法 以 自 动 化 方 式 进 行 ;   而 字 节 填 充 则 非 常 简 单 。 研 究 人 员 们 逐 渐 发 现 ， 基 于 梯 度 的 填 充 字 节 序 列 比 随 机 填 充 字 节 效 果 更 好 。 论 文 指 出 ， 添 加 随 机 字 节 并 不 能 真 正 有 效 规 避 神 经 网 络 的 检 测 ， 但 当 基 于 梯 度 的 攻 击 在 填 充 1 0 0 0 0 个 字 节 时 ， 能 够 以 高 达 6 0 % 的 成 功 率 骗 过   M a l C o n v 。 这 是 因 为 通 过 充 足 的 训 练 ， 基 于 梯 度 的 方 案 能 够 创 建 出 “ 针 对 各 个 样 本 的 有 组 织 的 填 充 字 节 模 式 ” ， 这 意 味 着 该 恶 意 模 型 已 经 学 习 掌 握 了 防 护 工 具 检 测 各 类 恶 意 软 件 样 本 的 具 体 模 式 。 注 ： 本 文 由 E 安 全 编 译 报 道 , 转 载 请 注 明 原 文 地 址 h t t p s : / / w w w . e a s y a q . c o m / n e w s / 9 2 6 0 7 7 9 2 7 . s h t m l 推 荐 阅 读 ： 亮 了   |   A I 在 印 度 军 方 的 非 军 事 用 途 美 国 G A O 定 义 改 变 世 界 的 五 大 技 术 ： 包 括 A I 与 区 块 链 A I 未 来 真 正 威 胁 的 三 大 领 域 谷 歌 为 世 界 造 A I , 世 界 却 用 A I 做 A V A I 武 器 化 ， 威 力 有 多 大 ？ 为 何 美 国 政 府 招 不 到 网 络 安 全 人 才 ？ 多 国 政 府 靠 S a n d v i n e 网 络 设 备 散 播 间 谍 软 件 与 采 矿 程 序 ▼ 点 击 “ 阅 读 原 文 ”   查 看 更 多 精 彩 内 容 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理