搜索

[26289] 2020-10-26_面试官：连YOLO目标检测都搞不好，自己走还是我送你？

文档创建者：s7ckTeam
浏览次数：58
最后更新：2025-01-19
2020-10-26_面试官：连YOLO目标检测都搞不好，自己走还是我送你？ 面 试 官 ： 连 Y O L O 目 标 检 测 都 搞 不 好 ， 自 己 走 还 是 我 送 你 ？ 百 度 飞 桨   L i n u x 学 习   2 0 2 0 - 1 0 - 2 6 工 业 视 觉 、 自 动 驾 驶 、 安 防 、 新 零 售 等 我 们 身 边 熟 知 的 各 行 各 业 都 需 要 目 标 检 测 技 术 ， 由 于 其 很 好 的 平 衡 了 标 注 成 本 、 检 测 精 度 和 速 度 等 ， 成 为 当 前 智 能 制 造 产 业 升 级 浪 潮 中 被 商 业 化 应 用 最 为 广 泛 的 A I 技 术 之 一 。 而 目 标 检 测 的 王 牌 家 族 — — Y O L O 系 列 模 型 系 列 模 型 ， 作 为 单 阶 段 目 标 检 测 算 法 的 代 表 之 一 ， 一 经 出 世 ， 便 以 快 速 精 准 的 检 测 效 果 而 迅 速 蹿 红 。 其 不 仅 在 速 度 上 做 到 真 正 实 时 ， 精 度 上 也 可 以 达 到 很 多 非 实 时 两 阶 段 模 型 才 有 的 水 平 。 来 自 论 文 《 Y O L O v 3 :   A n   I n c r e m e n t a l   I m p r o v e m e n t 》
而 学 术 界 和 开 源 社 区 中 的 Y O L O 拥 趸 、 大 神 们 ， 并 未 止 步 于 此 ，   Y O L O   v 4 、 ” Y O L O   v 5 ” 也 在 今 年 被 相 继 推 出 ， 它 们 大 量 整 合 了 计 算 机 视 觉 的 s t a t e - o f - t h e - a r t 技 巧 ， 例 如 在 数 据 增 强 、 锚 定 框 、 骨 架 网 络 、 训 练 方 式 等 维 度 进 行 优 化 ， 从 而 达 到 大 幅 提 升 Y O L O 目 标 检 测 性 能 的 效 果 。 飞 桨 目 标 检 测 套 件 P a d d l e D e t e c t i o n 的 研 发 团 队 也 为 了 让 Y O L O v 3 模 型 在 工 业 实 际 应 用 场 景 拥 有 更 优 异 的 精 度 与 推 理 速 度 ， 以 尽 量 不 增 加 模 型 计 算 量 和 推 理 开 销 为 前 提 ， 探 索 出 了 一 整 套 更 深 度 的 算 法 优 化 秘 籍 ， 将 原 先 Y O L O v 3 模 型 的 精 度 （ 在 C O C O   t e s t - d e v 2 0 1 7 数 据 集 ） 从 3 3 . 0 % 提 升 了 1 2 . 9 个 绝 对 百 分 点 个 绝 对 百 分 点 ， 达 到 4 5 . 9 % ， 处 于 业 界 领 先 行 列 ！ 而 在 该 精 度 下 ， 其 推 理 速 度 在 V 1 0 0 上 达 到 了 7 2 . 9   F P S 。 。 也 就 是 说 ， 它 在 精 度 和 预 测 速 度 都 超 越 原 生 的 精 度 和 预 测 速 度 都 超 越 原 生 的 Y O L O v 4 ， 并 且 体 积 更 小 ， 并 且 体 积 更 小 ， 实 打 实 的 成 为 工 业 应 用 场 景 最 实 用 目 标 检 测 模 型 。 而 这 次 华 丽 变 身 后 的 Y O L O v 3 ， 也 被 正 式 命 名 为 ： P P - Y O L O ！ 如 下 表 所 示 ， 在 不 同 输 入 尺 度 下 P P - Y O L O 模 型 与 Y O L O v 4 模 型 在 C O C O 数 据 集 精 度 和 V 1 0 0 推 理 速 度 的 交 手 结 果 。   注 ： 上 表 中 数 据 均 为 在 单 卡 T e s l a   V 1 0 0 上 b a t c h   s i z e = 1 测 试 结 果 ， T R T - F P 1 6 为 使 用 T e n s o r R T 且 在 F P 1 6 上 的 测 试 结 果 ， T e n s o r R T 版 本 为 5 . 1 . 2 . 2 而 而 P P - Y O L O 所 应 用 的 这 套 优 化 策 略 ， 也 可 以 被 尝 试 应 用 到 该 系 列 的 其 它 模 型 上 所 应 用 的 这 套 优 化 策 略 ， 也 可 以 被 尝 试 应 用 到 该 系 列 的 其 它 模 型 上 ， 产 业 开 发 者 或 者 科 研 人 员 可 借 鉴 这 套 优 化 算 法 展 开 进 一 步 的 探 索 。 而 这 整 套 P P - Y O L O 的 优 化 秘 籍 也 被 飞 桨 同 学 总 结 梳 理 成 了 论 文 ， 感 兴 趣 的 开 发 者 可 以 参 见 下 面 的 链 接 阅 读 原 文 。 P P - Y O L O 论 文 ： h t t p s : / / a r x i v . o r g / a b s / 2 0 0 7 . 1 2 0 9 9
P P - Y O L O 文 档 ： h t t p s : / / g i t h u b . c o m / P a d d l e P a d d l e / P a d d l e D e t e c t i o n / t r e e / r e l e a s e / 0 . 4 / c o n f i g s / p p y o l o 飞 桨 团 队 也 在 A I   S t u d i o 为 大 家 创 建 了   P P - Y O L O 实 战 项 目 ， 以 供 开 发 者 快 速 体 验 模 型 效 果 : h t t p s : / / a i s t u d i o . b a i d u . c o m / a i s t u d i o / p r o j e c t d e t a i l / 7 0 8 9 2 3 P P - Y O L O 的 高 精 度 和 高 推 理 速 度 对 多 快 速 运 动 目 标 检 测 的 视 频 也 可 以 达 到 很 好 的 效 果 。 那 P P - Y O L O 到 底 采 用 了 哪 些 优 化 策 略 呢 ？ 下 面 咱 们 带 领 大 家 一 起 来 深 入 剖 析 一 下 飞 桨 团 队 算 法 优 化 的   “ 内 功 心 法 ” 。 0 1 基 于 基 于 Y O L O v 3 - D a r k N e t 5 3 的 初 步 优 化 的 初 步 优 化 原 始 的 Y O L O v 3 模 型 在 C O C O   m i n i v a l 数 据 集 上 精 度 为 3 3 . 0 % ， P a d d l e D e t e c t i o n 首 先 加 入 了 B a g   o f   F r e e b i e s   f o r   T r a i n i n g O b j e c t   D e t e c t i o n   N e u r a l   N e t w o r k s 论 文 中 提 及 的 优 化 策 略 ， 在 不 引 入 额 外 计 算 量 的 情 况 下 ， 精 度 提 升 了 3 . 9 个 百 分 点 ， 达 到 3 8 . 9 % 。 具 体 策 略 如 下 ： I m a g e   M i x u p （ 图 像 混 合 ） ： 以 随 机 权 重 将 两 张 图 片 混 合 起 来 ， 提 高 网 络 在 空 间 上 的 抗 干 扰 能 力 。 以 下 图 为 例 ， 将 任 意 两 张 图 片 加 权 叠 加 作 为 输 入 ， 训 练 过 程 中 使 用 的 损 失 为 两 张 图 片 的 损 失 乘 以 各 自 权 重 的 加 和 。
来 自 论 文 《 B a g   o f   F r e e b i e s   f o r   T r a i n i n g   O b j e c t   D e t e c t i o n   N e u r a l   N e t w o r k s 》 L a b e l   S m o o t h （ 标 签 平 滑 ） ： 通 过 在 真 实 的 分 类 标 签 o n e - h o t 编 码 中 真 实 类 别 的 1 上 减 去 一 个 小 量 ， 非 真 实 标 签 的 0 上 加 上 一 个 小 量 ， 将 硬 标 签 变 成 一 个 软 的 标 签 ， 起 到 正 则 化 的 作 用 ， 防 止 过 拟 合 ， 提 升 模 型 泛 化 能 力 。 S y n c h r o n i z e   B a t c h   N o r m a l i z a t i o n （ 同 步 批 归 一 化 ） ： 多 卡 训 练 时 ， 一 般 实 现 的 批 归 一 化 只 统 计 单 卡 上 均 值 和 方 差 ， 而 检 测 任 务 中 ， 受 显 存 的 限 制 ， b a t c h   s i z e 比 较 小 ， 多 卡 同 步 ， 会 使 得 均 值 和 方 差 统 计 的 更 加 准 确 。 0 2 更 优 的 骨 干 网 络 更 优 的 骨 干 网 络 :   R e s N e t 5 0 v d - D C N 骨 干 网 络 可 以 说 是 一 个 模 型 的 基 础 ， 一 个 优 秀 的 骨 干 网 络 会 给 模 型 的 性 能 带 来 极 大 的 提 升 。 针 对 Y O L O v 3 ， 飞 桨 研 发 人 员 使 用 更 加 优 异 的 R e s N e t 5 0 v d - D C N   作 为 模 型 的 骨 干 网 络 。 它 可 以 被 分 为 R e s N e t 5 0 v d 和 D C N 两 部 分 来 看 。 R e s N e t 5 0 v d 是 指 拥 有 5 0 个 卷 积 层 的 R e s N e t - D 网 络 。 R e s N e t 系 列 模 型 是 在 2 0 1 5 年 提 出 后 ， 在 学 术 界 和 工 业 届 得 到 了 广 泛 的 应 用 ， 其 模 型 结 构 也 在 被 业 界 开 发 者 持 续 改 进 ， 在 经 过 了 B 、 C 、 D 三 个 版 本 的 改 进 后 ， 最 新 的 R e s N e t - D 结 构 能 在 基 本 不 增 加 计 算 量 的 情 况 下 先 住 提 高 模 型 精 度 。 经 飞 桨 团 队 的 多 重 实 验 发 现 ， 使 用 R e s N e t 5 0 v d 结 构 作 为 骨 干 网 络 ， 相 比 于 原 始 的 R e s N e t ， 可 以 提 高 1 % - 2 % 的 目 标 检 测 精 度 ， 且 推 理 速 度 基 本 保 持 不 变 。
而 D C N （ D e f o r m a b l e   C o n v o l u t i o n ） 可 变 形 卷 积 的 特 点 在 于 ： 其 卷 积 核 在 每 一 个 元 素 上 额 外 增 加 了 一 个 可 学 习 的 偏 移 参 数 。 这 样 的 卷 积 核 在 学 习 过 程 中 可 以 调 整 卷 积 的 感 受 野 ， 从 而 能 够 更 好 的 提 取 图 像 特 征 ， 以 达 到 提 升 目 标 检 测 精 度 的 目 的 。 但 它 会 在 一 定 程 度 上 引 入 额 外 的 计 算 开 销 。 经 过 多 翻 尝 试 ， P a d d l e D e t e c t i o n 团 队 发 现 只 在 R e s N e t 的 最 后 一 个 s t a g e （ C 5 ） 增 加 可 变 形 卷 积 ， 是 实 现 引 入 极 少 计 算 量 并 提 升 模 型 精 度 的 最 佳 策 略 。 在 使 用 R e s N e t 5 0 v d - D C N 作 为 骨 干 网 络 后 ， Y O L O v 3 模 型 的 检 测 精 度 从 原 先 的 3 8 . 9 %   达 到 3 9 . 1 % ， 而 推 理 速 度 得 到 了 3 6 % 的 大 幅 提 高 （ 5 8 . 2 F P S   - >   7 9 . 2 F P S ） 。 0 3 稳 定 的 训 练 方 式 ： 稳 定 的 训 练 方 式 ： E M A 、 、 D r o p B l o c k 和 更 大 的 和 更 大 的 b a t c h s i z e 为 了 使 P P - Y O L O 的 训 练 过 程 有 更 好 的 收 敛 效 果 ， 飞 桨 团 队 通 过 A P I   p a d d l e . o p t i m i z e r . E x p o n e n t i a l M o v i n g A v e r a g e 调 用 了 E M A （ E x p o n e n t i a l   M o v i n g   A v e r a g e ） 滑 动 平 均 功 能 。 滑 动 平 均 是 指 将 参 数 过 去 一 段 时 间 的 均 值 作 为 新 的 参 数 。 相 比 直 接 对 参 数 进 行 更 新 ， 采 用 滑 动 平 均 的 方 式 能 让 参 数 学 习 过 程 中 变 得 更 加 平 缓 ， 能 有 效 避 免 异 常 值 对 参 数 更 新 的 影 响 ， 提 升 模 型 训 练 的 收 敛 效 果 。 P P - Y O L O 的 优 化 过 程 中 使 用 了 D r o p B l o c k 算 法 来 减 少 过 拟 合 。 如 下 图 所 示 ， 相 比 于 D r o p o u t 算 法 ， D r o p B l o c k 算 法 在 D r o p 特 征 的 时 候 不 是 以 特 征 点 的 形 式 来 D r o p 的 ， 而 是 会 集 中 D r o p 掉 某 一 块 区 域 ， 从 而 更 适 合 被 应 用 到 目 标 检 测 任 务 中 来 提 高 网 络 的 泛 化 能 力 。
来 自 论 文 《 D r o p B l o c k :   A   r e g u l a r i z a t i o n   m e t h o d   f o r   c o n v o l u t i o n a l   n e t w o r k s 》 ） 通 过 训 练 过 程 中 的 指 数 滑 动 平 均 和 D r o p B l o c k 策 略 ， 结 合 适 当 增 大 训 练 的 b a t c h   s i z e （ 将 单 卡 的 b a t c h   s i z e 调 整 到 2 4 ， 8 卡 总 b a t c h   s i z e 为 1 9 2 ， 使 训 练 更 加 稳 定 ， 获 取 更 优 的 结 果 ） ， Y O L O v 3 此 时 在 C O C O   m i n i v a l 数 据 集 精 度 提 升 了 2 . 5 % （ 3 9 . 1 % - > 4 1 . 4 % ） 。 0 4 I o U 学 习 学 习 对 于 目 标 检 测 任 务 ， I o U 是 我 们 常 用 的 评 估 指 标 ， 即 预 测 框 与 真 实 框 的 I o U 越 大 ， 检 测 效 果 越 好 。 基 于 “ 所 见 即 所 得 ” 的 思 想 ， P P - Y O L O 使 用 了 业 界 提 出 的 一 种 新 的 L o s s — — I o U   L o s s ， 即 在 训 练 过 程 中 使 用 模 型 产 生 的 预 测 框 和 真 实 框 求 I o U ， 对 其 取 反 并 加 入 到 损 失 计 算 中 ， 这 样 相 当 于 在 优 化 损 失 的 时 候 就 是 在 提 升 I o U 。 注 ： 在 P P - Y O L O 中 ， 飞 桨 采 用 了 最 基 础 的 I o U 损 失 计 算 方 法 ， 即 I o U   L o s s   =   1   -   I o U   *   I o U   。 另 一 方 面 ， 我 们 知 道 Y O L O v 3 模 型 里 的 预 测 框 评 分 s c o r e   =   o b j e c t n e s s   s c o r e   *   c l a s s i f i c a t i o n   s c o r e ， 即 该 预 测 框 处 存 在 目 标 的 概 率 和 对 应 目 标 类 别 的 概 率 的 乘 积 ， 而 此 种 评 分 方 式 并 没 有 考 虑 预 测 框 的 定 位 精 度 。 而 目 标 检 测 模 型 都 需 要 对 最 后 的 预 测 框 进 行 非 极 大 值 抑 制 （ N M S ） ， 即 按 照 预 测 框 评 分 进 行 排 序 ， 然 后 删 除 得 分 低 的 框 。 因 此 很 容 易 出 现 如 下 图 的 情 况 ， 即 I o U 低 的 预 测 框 因 为 评 分 高 而 在 N M S 过 程 中 将 I o U 高 的 预 测 框 挤 掉 了 。 而 使 用 I o U   A w a r e 可 以 很 好 的 避 免 这 种 情 况 ， 即 在 训 练 过 程 中 增 加 一 个 通 道 来 学 习 预 测 框 和 真 实 框 之 间 的 I o U ， 在 推 理 过 程 中 ， 将 这 个 通 道 学 习 的 I o U 预 测 值 也 作 为 评 分 的 因 子 之 一 ， 这 样 就 能 一 定 程 度 上 避 免 高 I o U 预 测 框 被 挤 掉 的 情 况 ， 从 而 提 升 模 型 的 精 度 。 同 时 ， 由 于 只 是 输 出 层 的 每 个 a n c h o r 上 增 加 了 一 个 通 道 ， 对 于 推 理 计 算 量 的 增 加 也 基 本 可 以 忽 略 不 计 。
来 自 论 文 《 I o U - a w a r e   S i n g l e - s t a g e   O b j e c t   D e t e c t o r   f o r   A c c u r a t e   L o c a l i z a t i o n 》 通 过 使 用 上 述 优 化 方 法 ， 模 型 精 度 又 提 升 了 1 . 1 % （ 4 1 . 4 % - > 4 2 . 5 % ） ， 而 对 推 理 速 度 的 影 响 比 较 小 （ 7 9 . 2 F P S   - > 7 4 . 9 F P S ） 。 0 5 G r i d S e n s i t i v e Y O L O v 3 的 检 测 原 理 是 将 图 片 划 分 成 多 个 网 格 ， 真 实 框 的 中 心 点 落 在 哪 个 网 格 上 就 由 哪 个 网 格 负 责 检 测 这 个 真 实 框 ， 而 推 理 输 出 特 征 图 中 包 含 预 测 框 中 心 坐 标 的 l o g i t s 值 ， 这 个 值 经 S i g m o i d 激 活 后 ， 即 表 示 预 测 框 中 心 坐 标 在 网 格 中 的 相 对 位 置 。 如 下 图 所 示 ， 预 测 框 的 P x 和 P y 经 S i g m o i d 激 活 后 ， 即 表 示 预 测 框 中 心 坐 标 相 对 真 实 框 中 心 坐 标 g x 和 g y 的 偏 移 。 那 么 如 果 这 个 真 实 框 的 中 心 点 刚 好 落 在 网 格 边 缘 ， 则 训 练 过 程 中 趋 向 于 把 输 出 l o g i t 值 向 正 负 无 穷 去 学 习 ， 容 易 导 致 过 拟 合 。
G r i d   S e n s i t i v e 是 Y O L O v 4 模 型 引 入 的 一 种 优 化 方 法 ， 即 在 计 算 预 测 框 中 心 点 在 网 格 内 的 坐 标 时 ， 对 输 出 l o g i t 取 s i g m o i d 激 活 后 ， 再 加 上 一 个 缩 放 和 偏 移 ， 可 以 保 证 预 测 框 中 心 点 能 够 有 效 的 拟 合 真 实 框 刚 好 落 在 网 格 边 线 上 的 情 况 。 通 过 加 入 G r i d   S e n s i t i v e ， 此 轮 精 度 又 提 升 了 0 . 3 % （ 4 2 . 5 % - > 4 2 . 8 % ） ， 推 理 过 程 中 只 需 要 对 预 测 框 解 码 时 在 中 心 点 坐 标 上 乘 上 缩 放 ， 再 加 上 偏 移 即 可 ， 因 此 推 理 速 度 几 乎 没 有 影 响 （ 7 4 . 9 F P S   - >   7 4 . 8 F P S ） 。 0 6 后 处 理 优 化 后 处 理 优 化 :   M a t r i x N M S 在 推 理 过 程 中 ， N M S 还 会 删 除 与 得 分 高 的 框 的 重 合 度 大 于 一 定 阈 值 的 其 它 预 测 框 ， 这 样 对 于 存 在 两 个 同 类 别 物 体 重 叠 的 的 图 像 检 测 任 务 来 说 ， 就 会 出 现 一 个 物 体 的 预 测 框 把 另 一 个 物 体 的 预 测 框 抑 制 掉 的 情 况 ， 导 致 漏 检 。 因 此 又 引 入 了 S o f t   N M S 这 个 概 念 ， 其 解 决 思 路 并 不 是 粗 暴 的 将 与 得 分 高 的 预 测 框 重 合 度 大 于 阈 值 的 框 直 接 滤 除 ， 而 是 降 低 这 个 预 测 框 的 评 分 ， 对 预 测 框 评 分 的 惩 罚 系 数 与 这 两 个 框 的 重 合 度 ， 也 就 是 I o U 正 相 关 ， 采 用 这 种 软 化 的 滤 除 方 式 就 能 有 效 的 避 免 重 叠 的 同 类 物 体 预 测 框 互 相 冲 突 的 情 况 ， 提 高 检 测 的 精 度 。 但 引 入 S o f t   N M S 会 使 推 理 速 度 变 慢 。 因 此 此 轮 模 型 优 化 采 用 了 更 优 的 M a t r i x   N M S ： 一 种 并 行 化 进 行 S o f t   N M S 的 实 现 思 路 。 M a t r i x   N M S 通 过 一 个 矩 阵 并 行 运 算 的 方 式 计 算 出 任 意 两 个 框 之 间 的 I o U ， 例 如 对 某 一 个 预 测 框 B 计 算 抑 制 系 数 时 ， M a t r i x   N M S 通 过 矩 阵 并 行 方 式 计 算 出 所 有 得 分 高 于 B 的 预 测 框 与 预 测 框 B 的 I o U ， 然 后 根 据 这 些 I O U 和 得 分 高 于 B 的 预 测 框 的 被 抑 制 概 率 做 近 似 估 算 ， 估 算 出 B 的 抑 制 系 数 ， 从 而 实 现 并 行 化 的 计 算 S o f t N M S ， 在 提 高 检 测 精 度 的 同 时 ， 避 免 了 推 理 速 度 的 降 低 。 使 用 M a t r i x   N M S 后 ， 模 型 在 推 理 速 度 几 乎 不 变 的 情 况 下 提 升 0 . 7 % 的 精 度 （ 4 2 . 8 %   - >   4 3 . 5 % ） 。
0 7 特 征 提 取 优 化 特 征 提 取 优 化 :   C o o r d C o n v ,   空 间 金 字 塔 池 空 间 金 字 塔 池 化 化 另 外 P P - Y O L O 还 引 入 了 两 种 几 乎 不 增 加 计 算 量 但 是 能 优 化 特 征 提 取 的 方 法 。 我 们 知 道 深 度 学 习 里 的 卷 积 运 算 是 具 有 平 移 等 变 性 的 ， 这 样 可 以 在 图 像 的 不 同 位 置 共 享 统 一 的 卷 积 核 参 数 ， 但 是 这 样 卷 积 学 习 过 程 中 是 不 能 感 知 当 前 特 征 在 图 像 中 的 坐 标 的 。 C o o r d C o n v 就 是 通 过 在 卷 积 的 输 入 特 征 图 中 新 增 对 应 的 通 道 来 表 征 特 征 图 像 素 点 的 坐 标 ， 让 卷 积 学 习 过 程 中 能 够 一 定 程 度 感 知 坐 标 来 提 升 检 测 精 度 。 来 自 论 文 《 A n   I n t r i g u i n g   F a i l i n g   o f   C o n v o l u t i o n a l   N e u r a l   N e t w o r k s   a n d   t h e   C o o r d C o n v   S o l u t i o n 》 空 间 金 字 塔 池 化 是 S P P N e t 提 出 的 ， 如 下 图 所 示 通 过 多 个 不 同 尺 度 的 池 化 窗 口 提 取 不 同 尺 度 的 池 化 特 征 ， 把 特 征 组 合 在 一 起 作 为 输 出 特 征 ， 在 骨 干 网 络 提 取 特 征 后 加 入 空 间 金 字 塔 池 化 ， 能 有 效 的 增 加 特 征 的 感 受 野 ， 是 一 种 广 泛 应 用 的 特 征 提 取 优 化 方 法 。 使 用 C o o r d C o n v 和 S P P 两 种 特 征 提 取 优 化 方 法 后 ， 精 度 进 一 步 提 升 了 0 . 8 % （ 4 3 . 5 % - > 4 4 . 3 % ） ，   这 两 种 方 式 新 增 的 推 理 计 算 量 并 不 大 ， 所 以 推 理 速 度 仅 有 少 量 下 降 （ 7 4 . 1 F P S   - >   7 2 . 9 F P S ） 。
0 8 更 优 的 预 训 练 模 型 更 优 的 预 训 练 模 型 : S S L D 通 过 上 述 优 化 方 法 ， P P - Y O L O 模 型 在 C O C O   m i n i v a l 数 据 集 上 的 精 度 优 化 到 了 4 4 . 3 % ， V 1 0 0 上 预 测 速 度 为 7 2 . 9 F P S 。 另 外 飞 桨 推 出 的 图 像 分 类 端 到 端 套 件 P a d d l e C l a s 还 提 供 了 R e s N e t 5 0 v d 的 S S L D 知 识 蒸 馏 模 型 及 权 重 ， 使 R e s N e t 5 0 v d 模 型 在 I m a g e N e t 上 的 T o p - 1 分 类 精 度 从 7 9 . 1 % 优 化 到 8 2 . 4 % ， 感 兴 趣 的 同 学 可 以 通 过 下 面 的 地 址 了 解 P a d d l e C l a s   S S L D 蒸 馏 蒸 馏 方 案 方 案 。 P P - Y O L O 模 型 在 使 用 了 S S L D 知 识 蒸 馏 之 后 更 优 的 预 训 练 权 重 进 行 训 练 后 ， C O C O   m i n i v a l 数 据 集 的 精 度 又 提 升 了 0 . 5 % （ 4 4 . 3 % - > 4 4 . 8 % ） 。 P a d d l e C l a s   S S L D 的 文 档 地 址 ： h t t p s : / / p a d d l e c l a s . r e a d t h e d o c s . i o / z h _ C N / l a t e s t / a d v a n c e d _ t u t o r i a l s / d i s t i l l a t i o n / d i s t i l l a t i o n . h t m l # s s l d 经 过 上 述 优 化 方 法 ， 飞 桨 的 研 发 人 员 又 将 训 练 迭 代 次 数 和 学 习 率 衰 减 的 迭 代 次 数 调 整 至 和 原 始 Y O L O v 3 模 型 的 迭 代 次 数 一 致 ， 也 就 是 训 练 迭 代 次 数 从 2 5 万 次 增 加 到 5 0 万 次 ， 对 应 学 习 率 衰 减 的 迭 代 次 数 调 整 至 4 0 万 和 4 5 万 ， 使 P P - Y O L O 模 型 （ 如 表 中 的 K 模 型 所 示 ） 在 C O C O   m i n i v a l 数 据 集 精 度 再 次 提 升 0 . 5 %   ， 达 到 4 5 . 3 % ， 单 卡 V 1 0 0 上 b a t c h   s i z e = 1 时 的 预 测 速 度 为 7 2 . 9   F P S 。 如 果 使 用 C O C O   t e s t _ d e v 2 0 1 7 数 据 集 测 试 ， 精 度 将 达 到 4 5 . 9 % 。 0 9 后 续 工 作 后 续 工 作 考 虑 到 现 在 工 业 、 互 联 网 等 各 行 各 业 需 要 使 用 轻 量 化 的 模 型 在 移 动 端 、 边 缘 端 部 署 目 标 检 测 模 型 ， P a d d l e D e t e c t i o n 团 队 正 在 进 一 步 优 化 适 用 于 轻 量 化 部 署 的 P P - Y O L O ， 很 快 也 将 以 开 源 项 目 、 详 细 的 使 用 文 档 及 快 速 体 验 D e m o 的 组 合 形 式 为 大 家 呈 现 。
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理