搜索

[13772] 2019-02-19_CNN+BLSTM+CTC的验证码识别从训练到部署

文档创建者：s7ckTeam
浏览次数：5
最后更新：2025-01-18
2019-02-19_CNN+BLSTM+CTC的验证码识别从训练到部署 C N N + B L S T M + C T C 的 验 证 码 识 别 从 训 练 到 部 署 k e r l o m z   F r e e B u f   2 0 1 9 - 0 2 - 1 9 一 一   前 言 前 言 长 话 短 说 ， 开 门 见 山 ， 验 证 码 是 网 络 安 全 的 一 个 重 要 组 成 部 分 ， 提 高 了 暴 力 尝 试 破 解 的 成 本 ， 而 验 证 码 识 别 是 长 话 短 说 ， 开 门 见 山 ， 验 证 码 是 网 络 安 全 的 一 个 重 要 组 成 部 分 ， 提 高 了 暴 力 尝 试 破 解 的 成 本 ， 而 验 证 码 识 别 是 其 反 面 ， 本 文 将 带 领 大 家 看 看 如 何 使 用 深 度 学 习 进 行 验 证 码 的 识 别 ， 各 厂 可 以 通 过 本 文 来 认 识 图 形 验 证 码 的 弱 其 反 面 ， 本 文 将 带 领 大 家 看 看 如 何 使 用 深 度 学 习 进 行 验 证 码 的 识 别 ， 各 厂 可 以 通 过 本 文 来 认 识 图 形 验 证 码 的 弱 点 和 不 可 靠 性 。 点 和 不 可 靠 性 。 最 新 更 新 （ 最 新 更 新 （ 2 0 1 9 / 0 1 / 2 1 ） ） ： 如 果 对 于 D L L 调 用 感 兴 趣 或 是 其 他 语 言 的 T e n s o r F l o w   A P I 感 兴 趣 的 移 步 以 下 两 个 项 目 ： h t t p s : / / g i t h u b . c o m / k e r l o m z / c a p t c h a _ l i b r a r y _ c h t t p s : / / g i t h u b . c o m / k e r l o m z / c a p t c h a _ d e m o _ c s h a r p 笔 者 选 用 的 时 下 最 为 流 行 的 C N N + B L S T M + C T C 进 行 端 到 端 的 不 定 长 验 证 码 识 别 ， 代 码 中 预 留 了 D e n s e N e t + B L S T M + C T C 的 选 项 ， 可 以 在 配 置 中 直 接 选 用 。 首 先 ， 介 绍 个 大 概 吧 。 网 格 结 构 网 格 结 构 p r e d i c t - C P U p r e d i c t - G P U 模 型 大 小 模 型 大 小 C N N 5 + B i - L S T M + H 6 4 + C T C 1 5 m s 2 8 m s 2 m b C N N 5 + B i - L S T M + H 1 6 + C T C 8 m s 2 8 m s 1 . 5 m b D e n s e N e t + B i - L S T M + H 6 4 + C T C 6 0 m s 6 0 m s 6 . 5 m b H 1 6 / H 6 4 指 的 是 B i - L S T M 的 隐 藏 神 经 元 个 数 n u m _ u n i t s ， 这 里 注 意 ， 你 没 有 看 错 ， 也 没 有 写 反 ， L S T M 有 时 序 依 赖 ， t f . c o n t r i b . r n n . L S T M C e l l 的 实 现 没 能 很 充 分 的 利 用 G P U 的 计 算 资 源 ， 底 层 k e r n e l 函 数 之 间 的 间 隙 非 常 大 ， 不 利 于 充 分 的 利 用   G P U   的 并 行 性 来 进 行 计 算 。 所 以 本 项 目 使 用 G P U 训 练 ， 使 用 C P U 进 行 预 测 。 预 测 服 务 部 署 项 目 源 码 请 移 步 此 处 ： h t t p s : / / g i t h u b . c o m / k e r l o m z / c a p t c h a _ p l a t f o r m 二 二   环 境 依 赖 ： 环 境 依 赖 ： 关 于 C U D A 和 c u D N N 版 本 的 问 题 ， 不 少 人 很 纠 结 ， 这 里 就 列 出 官 方 通 过 p i p 安 装 的 T e n s o r F l o w 的 版 本 对 应 表 ： L i n u x V e r s i o n P y t h o n   v e r s i o n C o m p i l e r B u i l d   t o o l s c u D N N C U D A t e n s o r f l o w _ g p u - 1 . 1 2 . 0 2 . 7 ,   3 . 3 - 3 . 6 G C C   4 . 8 B a z e l   0 . 1 5 . 0 7 9 t e n s o r f l o w _ g p u - 1 . 1 1 . 0 2 . 7 ,   3 . 3 - 3 . 6 G C C   4 . 8 B a z e l   0 . 1 5 . 0 7 9 t e n s o r f l o w _ g p u - 1 . 1 0 . 0 2 . 7 ,   3 . 3 - 3 . 6 G C C   4 . 8 B a z e l   0 . 1 5 . 0 7 9 t e n s o r f l o w _ g p u - 1 . 9 . 0 2 . 7 ,   3 . 3 - 3 . 6 G C C   4 . 8 B a z e l   0 . 1 1 . 0 7 9 t e n s o r f l o w _ g p u - 1 . 8 . 0 2 . 7 ,   3 . 3 - 3 . 6 G C C   4 . 8 B a z e l   0 . 1 0 . 0 7 9 t e n s o r f l o w _ g p u - 1 . 7 . 0 2 . 7 ,   3 . 3 - 3 . 6 G C C   4 . 8 B a z e l   0 . 9 . 0 7 9 t e n s o r f l o w _ g p u - 1 . 6 . 0 2 . 7 ,   3 . 3 - 3 . 6 G C C   4 . 8 B a z e l   0 . 9 . 0 7 9 W i n d o w s V e r s i o n P y t h o n   v e r s i o n C o m p i l e r B u i l d   t o o l s c u D N N C U D A t e n s o r f l o w _ g p u - 1 . 1 2 . 0 3 . 5 - 3 . 6 M S V C   2 0 1 5   u p d a t e   3 B a z e l   0 . 1 5 . 0 7 9
t e n s o r f l o w _ g p u - 1 . 1 1 . 0 3 . 5 - 3 . 6 M S V C   2 0 1 5   u p d a t e   3 B a z e l   0 . 1 5 . 0 7 9 t e n s o r f l o w _ g p u - 1 . 1 0 . 0 3 . 5 - 3 . 6 M S V C   2 0 1 5   u p d a t e   3 C m a k e   v 3 . 6 . 3 7 9 t e n s o r f l o w _ g p u - 1 . 9 . 0 3 . 5 - 3 . 6 M S V C   2 0 1 5   u p d a t e   3 C m a k e   v 3 . 6 . 3 7 9 t e n s o r f l o w _ g p u - 1 . 8 . 0 3 . 5 - 3 . 6 M S V C   2 0 1 5   u p d a t e   3 C m a k e   v 3 . 6 . 3 7 9 t e n s o r f l o w _ g p u - 1 . 7 . 0 3 . 5 - 3 . 6 M S V C   2 0 1 5   u p d a t e   3 C m a k e   v 3 . 6 . 3 7 9 t e n s o r f l o w _ g p u - 1 . 6 . 0 3 . 5 - 3 . 6 M S V C   2 0 1 5   u p d a t e   3 C m a k e   v 3 . 6 . 3 7 9 V e r s i o n P y t h o n   v e r s i o n C o m p i l e r B u i l d   t o o l s c u D N N C U D A 如 果 希 望 使 用 上 面 对 应 之 外 的 搭 配 的 C U D A 和 c u D N N ， 可 以 自 行 编 译 T e n s o r F l o w ， 或 者 去 G i t h u b 上 搜 索 找 到 第 三 方 编 译 的 对 应 版 本 的 w h l 安 装 包 。 提 前 预 警 ， 若 是 自 己 编 译 将 会 苦 难 重 重 ， 坑 很 多 ， 这 里 就 不 展 开 了 。 2 . 1   本 项 目 环 境 依 赖 本 项 目 环 境 依 赖 目 前 在 以 下 主 流 操 作 系 统 平 台 均 测 试 通 过 ： |   操 作 系 统   |   最 低 支 持 版 本   | |   — — — —   |   — — — — — —   | |   U b u n t u   |   1 6 . 0 4   | | W i n d o w s   |   7   S P 1   | |   M a c O S   |   N / A   | 本 训 练 项 目 主 要 的 环 境 依 赖 清 单 如 下 |   依 赖   |   最 低 支 持 版 本   | |   — — — — —   |   — — — — — —   | |   P y t h o n   |   3 . 6   | |   T e n s o r F l o w - G P U   |   1 . 6 . 0   | |   O p e n c v - P y t h o n   |   3 . 3 . 0 . 1 0   | |   N u m p y   |   1 . 1 4 . 1   | |   P i l l o w   |   4 . 3 . 0   | |   P y Y a m l   |   3 . 1 3   | 2 . 1 . 1   U b u n t u   1 6 . 0 4   下 的   P y t h o n   3 . 6 1 ） 先 安 装 P y t h o n 环 境 经 过 上 面 指 令 就 安 装 好 P y t h o n 3 . 6 环 境 了 ， 如 果 提 示 找 不 到 就 到 / u s r / l o c a l / l i b 路 径 下 将 该 文 件 复 制 一 份 到 / u s r / l i b 和 / u s r / l i b 6 4 路 径 下 。 2 ） 安 装 相 关 依 赖 （ 这 一 步 W i n d o w s 和 L i n u x 通 用 ） 可 以 直 接 在 项 目 路 径 下 执 行 安 装 所 有 依 赖 ， 注 意 这 一 步 是 安 装 在 全 局 P y t h o n 环 境 下 的 ， 强 烈 建 议 使 用 虚 拟 环 境 进 行 项 目 间 的 环 境 隔 离 ， 如 V i r t u a l e n v 或 A n a c o n d a 等 等 。 我 一 般 使 用 的 是 V i r t u a l e n v ， 有 修 改 代 码 需 要 的 ， 建 议 安 装 P y C h a r m 作 为 P y t h o n   I D E 2 . 1 . 2   U b u n t u   1 6 . 0 4   下 的   C U D A / c u D N N 网 上 看 到 过 很 多 教 程 ， 我 自 己 也 部 署 过 很 多 次 ， U b u n t u   1 6 . 0 4 遇 到 的 坑 还 是 比 较 少 的 。 1 4 . 0 4 支 持 就 没 那 么 好 ， 如 果 主 板 不 支 持 关 闭 S e c u r e B o o t 的 话 千 万 不 要 安 装 D e s k t o p 版 ， 因 为 安 装 好 之 后 一 定 会 无 限 循 环 在 登 陆 界 面 无 法 进 入 桌 面 。 网 上 教 程 说 要 加 驱 动 黑 名 单 什 么 的 我 直 接 跳 过 了 ， 亲 测 没 那 个 必 要 。 就 简 单 的 几 步 ： 1 .   下 载 好 安 装 包 注 意 下 载 r u n f i l e 类 型 的 安 装 包 ， d e b 安 装 会 自 动 安 装 默 认 驱 动 ， 极 有 可 能 导 致 登 陆 循 环 N V I D I A   驱 动 下 载 ： h t t p s : / / w w w . g e f o r c e . c n / d r i v e r s C U D A   下 载 地 址 ： h t t p s : / / d e v e l o p e r . n v i d i a . c o m / c u d a - d o w n l o a d s T e n s o r F l o w   W h e e l s u d o   a p t - g e t   i n s t a l l   o p e n s s l     s u d o   a p t - g e t   i n s t a l l   l i b s s l - d e v s u d o   a p t - g e t   i n s t a l l   l i b c 6 - d e v   g c c     s u d o   a p t - g e t   i n s t a l l   - y   m a k e   b u i l d - e s s e n t i a l   z l i b 1 g - d e v   l i b b z 2 - d e v   l i b r e a d l i n e - d e v   $   l i b s q l i t e 3 - d e v   w g e t   c u r l   l l v m   t k - d e v   w g e t   h t t p s : / / w w w . p y t h o n . o r g / f t p / p y t h o n / 3 . 6 . 6 / P y t h o n - 3 . 6 . 6 . t g z t a r   - v x f   P y t h o n - 3 . 6 . 6 . t a r . x z c d   P y t h o n - 3 . 6 . 6 . / c o n f i g u r e   - - p r e f i x = / u s r / l o c a l     - - e n a b l e - s h a r e d m a k e   - j 8 s u d o   m a k e   i n s t a l l   - j 8 l i b p y t h o n 3 . 6 m . s o . 1 . 0 p i p 3   i n s t a l l   - r   r e q u i r e m e n t s . t x t v i r t u a l e n v   - p   / u s r / b i n / p y t h o n 3   v e n v   #   v e n v   i s   t h e   n a m e   o f   t h e   v i r t u a l   e n v i r o n m e n t . c d   v e n v /   #   v e n v   i s   t h e   n a m e   o f   t h e   v i r t u a l   e n v i r o n m e n t . s o u r c e   b i n / a c t i v a t e   #   t o   a c t i v a t e   t h e   c u r r e n t   v i r t u a l   e n v i r o n m e n t . c d   c a p t c h a _ t r a i n e r   #   c a p t c h a _ t r a i n e r   i s   t h e   p r o j e c t   p a t h . p i p 3   i n s t a l l   - r   r e q u i r e m e n t s . t x t
c u D N N   下 载 地 址 ： h t t p s : / / d e v e l o p e r . n v i d i a . c o m / c u d n n   （ 需 要 注 册 N V I D I A 账 号 且 登 陆 ， 下 载 d e b 安 装 包 ） 2 .   关 闭 图 形 界 面 C t r l + a l t + F 1 进 入 字 符 界 面 ， 关 闭 图 形 界 面 3 .   安 装 N v i d i a   D r i v e r 命 令 中 的 版 本 自 己 对 应 下 载 的 版 本 改 ， 在 上 面 的 下 载 地 址 根 据 自 己 的 显 卡 型 号 下 载 最 新 版 ， 切 记 是 r u n f i l e 格 式 的 安 装 包 。 安 装 成 功 以 后 使 用 以 下 命 令 验 证 ， 如 果 显 示 显 卡 信 息 则 表 示 安 装 成 功 4 .   安 装 C U D A 1 ） 先 安 装 一 些 系 统 依 赖 库 2 )   执 行 安 装 程 序 ， 按 指 示 无 脑 继 续 就 好 了 ， 如 果 提 示 是 否 安 装 驱 动 选 不 安 装 。 安 装 完 如 果 环 境 变 量 没 配 上 去 ， 就 写 到   ~ / . b a s h r c   文 件 的 尾 部 然 后 在 终 端 执 行   更 新 ， 安 装 完 毕 就 可 以 重 启 机 器 重 启 图 形 界 面 了 。 2 . 1 . 3   W i n d o w s   系 统 在 W i n d o w s 其 实 简 单 很 多 ， 只 要 到 官 网 下 载 安 装 包 无 脑 安 装 就 可 以 了 ， 下 载 连 接 同 U b u n t u ， 先 安 装 P y t h o n ， 显 卡 驱 动 ， C U D A ， 然 后 下 载 对 应 的 c u D N N 替 换 到 对 应 路 径 即 可 。 花 了 超 长 篇 幅 介 绍 了 训 练 环 境 的 基 本 搭 建 ， 主 要 是 给 尚 未 入 门 的 读 者 看 的 ， 老 鸟 们 随 便 跳 过 三 三   使 用 使 用 入 手 的 第 一 步 环 境 搭 建 好 了 ， 那 就 是 准 备 跑 代 码 了 ， 还 是 有 几 个 必 要 的 条 件 ， 巧 妇 难 为 无 米 之 炊 ， 首 先 ， 既 然 是 训 练 ， 要 先 有 训 练 集 ， 笔 者 不 满 百 度 云 不 开 会 员 龟 速 1 0 k b 限 速 很 久 了 ， 所 以 上 传 到 Q Q 群 8 5 7 1 4 9 4 1 9 共 享 里 ， 有 一 个 新 手 尝 鲜 的 训 练 集 ， 是 m n i s t 手 写 识 别 的 例 子 ， 现 在 万 事 俱 备 ， 只 欠 东 风 。 3 . 1   定 义 一 个 模 型 定 义 一 个 模 型 本 项 目 采 用 的 是 参 数 化 配 置 ， 不 需 要 改 动 任 何 代 码 ， 可 以 训 练 几 乎 任 何 字 符 型 图 片 验 证 码 ， 下 面 从 两 个 配 置 文 件 说 起 ： s u d o   s e r v i c e   l i g h t d m   s t o p s u d o   c h m o d   a + x   N V I D I A - L i n u x - x 8 6 _ 6 4 - 3 8 4 . 9 0 . r u n   / / 获 取 执 行 权 限 s u d o   . / N V I D I A - L i n u x - x 8 6 _ 6 4 - 3 8 4 . 9 0 . r u n   – n o - x - c h e c k   – n o - n o u v e a u - c h e c k   – n o - o p e n g l - f i l e s   / / 安 装 驱 动 n v i d i a - s m i s u d o   a p t - g e t   i n s t a l l   f r e e g l u t 3 - d e v   b u i l d - e s s e n t i a l   l i b x 1 1 - d e v   l i b x m u - d e v   l i b x i - d e v   l i b g l 1 - m e s a - g l x   l i b g l u 1 - m e s a   l i b g l u 1 - m e s a - d e v s u d o   s h   c u d a _ 9 . 0 . 1 7 6 _ 3 8 4 . 8 1 _ l i n u x . r u n e x p o r t   P A T H = / u s r / l o c a l / c u d a - 9 . 0 / b i n $ { P A T H : + : $ { P A T H } } e x p o r t   L D _ L I B R A R Y _ P A T H = / u s r / l o c a l / c u d a - 9 . 0 / l i b 6 4 $ { L D _ L I B R A R Y _ P A T H : + : $ { L D _ L I B R A R Y _ P A T H } } s u d o   l d c o n f i g s u d o   s e r v i c e   l i g h t d m   s t a r t c o n f i g . y a m l   #   系 统 配 置
上 面 看 起 来 好 多 好 多 参 数 ， 其 实 大 部 分 可 以 不 用 改 动 ， 你 需 要 修 改 的 仅 仅 是 训 练 集 路 径 就 可 以 了 ， 注 意 ： 如 果 训 练 集 注 意 ： 如 果 训 练 集 的 命 名 格 式 和 我 提 供 的 新 手 训 练 集 不 一 样 ， 请 根 据 实 际 情 况 修 改 的 命 名 格 式 和 我 提 供 的 新 手 训 练 集 不 一 样 ， 请 根 据 实 际 情 况 修 改 T r a i n R e g e x 和 和 T e s t R e g e x 的 正 则 表 达 的 正 则 表 达 式 。 式 。 T r a i n s P a t h 和 T e s t P a t h 路 径 支 持 l i s t 参 数 ， 允 许 多 个 路 径 ， 这 种 操 作 适 用 于 需 要 将 多 种 样 本 训 练 为 一 个 模 型 ， 或 者 希 望 训 练 一 套 通 用 模 型 的 人 。 为 了 加 快 训 练 速 度 ， 提 高 训 练 集 读 取 效 率 ， 特 别 提 供 了 m a k e _ d a t a s e t . p y 来 支 持 将 训 练 集 打 包 为 t f r e c o r d s 格 式 输 入 ， 经 过 m a k e _ d a t a s e t . p y 打 包 之 后 的 训 练 集 将 输 出 到 本 项 目 的 d a t a s e t 路 径 下 ， 只 需 修 改 T r a i n s P a t h 键 的 配 置 如 下 即 可 T e s t P a t h 是 允 许 为 空 的 ， 如 果 T e s t P a t h 为 空 将 会 使 用 T e s t S e t N u m 参 数 自 动 划 分 出 对 应 个 数 的 测 试 集 。 如 果 使 用 自 动 划 分 机 制 ， 那 么 T e s t S e t N u m 测 试 集 总 数 参 数 必 须 大 于 等 于 T e s t B a t c h S i z e 测 试 集 每 次 读 取 的 批 次 大 小 。 神 经 网 络 这 块 可 以 讲 一 讲 ， 默 认 提 供 的 组 合 是 C N N 5 ( C N N 5 层 模 型 ) + B L S T M ( B i d i r e c t i o n a l   L S T M ) + C T C ， 亲 测 收 敛 最 快 ， 但 是 训 练 集 过 小 ， 实 际 图 片 变 化 很 大 特 征 很 多 的 情 况 下 容 易 发 生 过 拟 合 。 D e n s e N e t 可 以 碰 运 气 在 样 本 量 很 小 的 情 况 下 很 好 的 训 练 出 高 精 度 的 模 型 ， 为 什 么 是 碰 运 气 呢 ， 因 为 收 敛 快 不 快 随 机 的 初 始 权 重 很 重 要 ， 运 气 好 前 5 0 0 步 可 能 对 测 试 集 就 有 4 0 - 6 0 % 准 确 率 ， 运 气 不 好 2 0 0 0 步 之 后 还 是 0 ， 收 敛 快 慢 是 有 一 定 的 运 气 成 分 的 。 隐 藏 层 H i d d e n N u m 笔 者 尝 试 过 8 ~ 6 4 ， 都 能 控 制 在 很 小 的 模 型 大 小 之 内 ， 如 果 想 使 用 D e n s e N e t 代 替 C N N 5 直 接 修 改 如 上 配 置 中 的 C N N N e t w o r k 参 数 替 换 为 ： #   -   r e q u i r e m e n t . t x t     -     G P U :   t e n s o r f l o w - g p u ,   C P U :   t e n s o r f l o w #   -   I f   y o u   u s e   t h e   G P U   v e r s i o n ,   y o u   n e e d   t o   i n s t a l l   s o m e   a d d i t i o n a l   a p p l i c a t i o n s . #   T r a i n R e g e x   a n d   T e s t R e g e x :   D e f a u l t   m a t c h i n g   a p p l e _ 2 0 1 8 1 0 1 0 1 2 1 2 1 2 . j p g   f i l e . #   -   T h e   D e f a u l t   i s   . * ? ( ? = _ . * . ) #   T r a i n s P a t h   a n d   T e s t P a t h :   T h e   l o c a l   a b s o l u t e   p a t h   o f   y o u r   t r a i n i n g   a n d   t e s t i n g   s e t . #   T e s t S e t N u m :   T h i s   i s   a n   o p t i o n a l   p a r a m e t e r   t h a t   i s   u s e d   w h e n   y o u   w a n t   t o   e x t r a c t   s o m e   o f   t h e   t e s t   s e t #   -   f r o m   t h e   t r a i n i n g   s e t   w h e n   y o u   a r e   n o t   p r e p a r i n g   t h e   t e s t   s e t   s e p a r a t e l y . S y s t e m :     D e v i c e U s a g e :   0 . 7     T r a i n s P a t h :   ' E : T a s k T r a i n s Y o u r M o d e l N a m e '     T r a i n R e g e x :   ' . * ? ( ? = _ ) '     T e s t P a t h :   ' E : T a s k T e s t G r o u p Y o u r M o d e l N a m e '     T e s t R e g e x :   ' . * ? ( ? = _ ) '     T e s t S e t N u m :   1 0 0 0 #   C N N N e t w o r k :   [ C N N 5 ,   D e n s e N e t ] #   R e c u r r e n t N e t w o r k :   [ B L S T M ,   L S T M ] #   -   T h e   r e c o m m e n d e d   c o n f i g u r a t i o n   i s   C N N 5 + B L S T M   /   D e n s e N e t + B L S T M #   H i d d e n N u m :   [ 6 4 ,   1 2 8 ,   2 5 6 ] #   -   T h i s   p a r a m e t e r   i n d i c a t e s   t h e   n u m b e r   o f   n o d e s   u s e d   t o   r e m e m b e r   a n d   s t o r e   p a s t   s t a t e s . N e u r a l N e t :     C N N N e t w o r k :   C N N 5     R e c u r r e n t N e t w o r k :   B L S T M     H i d d e n N u m :   6 4     K e e p P r o b :   0 . 9 8 #   S a v e d S t e p s :   A   S e s s i o n . r u n ( )   e x e c u t i o n   i s   c a l l e d   a   S t e p s , #   -   U s e d   t o   s a v e   t r a i n i n g   p r o g r e s s ,   D e f a u l t   v a l u e   i s   1 0 0 . #   V a l i d a t i o n S t e p s :   U s e d   t o   c a l c u l a t e   a c c u r a c y ,   D e f a u l t   v a l u e   i s   1 0 0 . #   T e s t N u m :   T h e   n u m b e r   o f   s a m p l e s   f o r   e a c h   t e s t   b a t c h . #   -   A   t e s t   f o r   e v e r y   s a v e d   s t e p s . #   E n d A c c :   F i n i s h   t h e   t r a i n i n g   w h e n   t h e   a c c u r a c y   r e a c h e s   [ E n d A c c * 1 0 0 ] % . #   E n d E p o c h s :   F i n i s h   t h e   t r a i n i n g   w h e n   t h e   e p o c h   i s   g r e a t e r   t h a n   t h e   d e f i n e d   e p o c h . T r a i n s :     S a v e d S t e p s :   1 0 0     V a l i d a t i o n S t e p s :   5 0 0     E n d A c c :   0 . 9 7 5     E n d E p o c h s :   1     B a t c h S i z e :   6 4     T e s t B a t c h S i z e :   4 0 0     L e a r n i n g R a t e :   0 . 0 1     D e c a y R a t e :   0 . 9 8     D e c a y S t e p s :   1 0 0 0 0 T r a i n s P a t h :   ' . / d a t a s e t / x x x . t f r e c o r d s ' N e u r a l N e t :     C N N N e t w o r k :   C N N 5     R e c u r r e n t N e t w o r k :   B L S T M     H i d d e n N u m :   6 4     K e e p P r o b :   0 . 9 9 N e u r a l N e t :     C N N N e t w o r k :   D e n s e N e t     . . . . . .
上 述 的 配 置 只 要 关 注 M o d e l N a m e 、 C h a r S e t 、 I m a g e W i d t h 、 I m a g e H e i g h t 首 先 给 模 型 取 一 个 好 名 字 是 成 功 的 第 一 步 ， 字 符 集 C h a r S e t 其 实 大 多 数 情 况 下 不 需 要 修 改 ， 一 般 的 图 形 验 证 码 离 不 开 数 字 和 英 文 ， 而 且 一 般 来 说 是 大 小 写 不 敏 感 的 ， 不 区 分 大 小 写 ， 因 为 打 码 平 台 收 集 的 训 练 集 质 量 参 差 不 齐 ， 有 些 大 写 有 些 小 写 ， 不 如 全 部 统 一 为 小 写 ， 默 认 A L P H A N U M E R I C _ L O W E R 则 会 自 动 将 大 写 的 转 为 小 写 ， 字 符 集 可 定 制 化 很 灵 活 ， 除 了 配 置 备 注 上 提 供 的 几 种 类 型 ， 还 可 以 训 练 中 文 ， 自 定 义 字 符 集 用 l i s t 表 示 ， 示 例 如 下 ： 可 以 自 己 根 据 收 集 训 练 集 的 实 际 字 符 集 使 用 率 来 定 义 ， 也 可 以 无 脑 网 上 找 3 5 0 0 常 用 字 来 训 练 ， 注 意 ： 中 文 字 符 集 一 般 注 意 ： 中 文 字 符 集 一 般 比 数 字 英 文 大 很 多 ， 刚 开 始 收 敛 比 较 慢 ， 需 要 更 久 的 训 练 时 间 ， 也 需 要 更 多 的 样 本 量 ， 请 量 力 而 行 比 数 字 英 文 大 很 多 ， 刚 开 始 收 敛 比 较 慢 ， 需 要 更 久 的 训 练 时 间 ， 也 需 要 更 多 的 样 本 量 ， 请 量 力 而 行 m o d e l . y a m l   #   模 型 配 置 #   M o d e l N a m e :   C o r r e s p o n d i n g   t o   t h e   m o d e l   f i l e   i n   t h e   m o d e l   d i r e c t o r y , #   -   s u c h   a s   Y o u r M o d e l N a m e . p b ,   f i l l   i n   Y o u r M o d e l N a m e   h e r e . #   C h a r S e t :   P r o v i d e s   a   d e f a u l t   o p t i o n a l   b u i l t - i n   s o l u t i o n : #   -   [ A L P H A N U M E R I C ,   A L P H A N U M E R I C _ L O W E R ,   A L P H A N U M E R I C _ U P P E R , #   - -   N U M E R I C ,   A L P H A B E T _ L O W E R ,   A L P H A B E T _ U P P E R ,   A L P H A B E T ] #   -   O r   y o u   c a n   u s e   y o u r   o w n   c u s t o m i z e d   c h a r a c t e r   s e t   l i k e :   [ ' a ' ,   ' 1 ' ,   ' 2 ' ] . #   C h a r E x c l u d e :   C h a r E x c l u d e   s h o u l d   b e   a   l i s t ,   l i k e :   [ ' a ' ,   ' 1 ' ,   ' 2 ' ] #   -   w h i c h   i s   c o n v e n i e n t   f o r   u s e r s   t o   f r e e l y   c o m b i n e   c h a r a c t e r   s e t s . #   -   I f   y o u   d o n ' t   w a n t   t o   m a n u a l l y   d e f i n e   t h e   c h a r a c t e r   s e t   m a n u a l l y , #   -   y o u   c a n   c h o o s e   a   b u i l t - i n   c h a r a c t e r   s e t #   -   a n d   s e t   t h e   c h a r a c t e r s   t o   b e   e x c l u d e d   b y   C h a r E x c l u d e   p a r a m e t e r . M o d e l :     S i t e s :   [ ]     M o d e l N a m e :   Y o u r M o d e l N a m e - C N N 5 - H 6 4 - 1 5 0 x 5 0     M o d e l T y p e :   1 5 0 x 5 0     C h a r S e t :   A L P H A N U M E R I C _ L O W E R     C h a r E x c l u d e :   [ ]     C h a r R e p l a c e :   { }     I m a g e W i d t h :   1 5 0     I m a g e H e i g h t :   5 0 #   B i n a r y z a t i o n :   [ - 1 :   O f f ,   > 0   a n d   <   2 5 5 :   O n ] . #   S m o o t h i n g :   [ - 1 :   O f f ,   > 0 :   O n ] . #   B l u r :   [ - 1 :   O f f ,   > 0 :   O n ] . #   R e s i z e :   [ W I D T H ,   H E I G H T ]     #   -   I f   t h e   i m a g e   s i z e   i s   t o o   s m a l l ,   t h e   t r a i n i n g   e f f e c t   w i l l   b e   p o o r   a n d   y o u   n e e d   t o   z o o m   i n . #   -   c t c _ l o s s   e r r o r   " N o   v a l i d   p a t h   f o u n d . "   h a p p e n e d P r e t r e a t m e n t :     B i n a r y z a t i o n :   - 1     S m o o t h i n g :   - 1     B l u r :   - 1 C h a r S e t :   [ ' 常 ' ,   ' 世 ' ,   ' 宁 ' ,   ' 慢 ' ,   ' 南 ' ,   ' 制 ' ,   ' 根 ' ,   ' 难 ' ]
形 如 上 图 的 图 片 能 轻 松 训 形 如 上 图 的 图 片 能 轻 松 训 练 到 练 到 9 5 % 以 上 的 识 别 率 。 以 上 的 识 别 率 。 I m a g e W i d t h 、 I m a g e H e i g h t 只 要 和 当 前 图 片 尺 寸 匹 配 即 可 ， 其 实 这 里 的 配 置 主 要 是 为 了 方 便 后 面 的 部 署 智 能 策 略 。 其 他 的 如 P r e t r e a t m e n t 之 下 的 参 数 是 用 来 做 图 片 预 处 理 的 ， 因 为 笔 者 致 力 于 做 一 套 通 用 模 型 ， 模 型 只 使 用 了 灰 度 做 预 处 理 。 其 中 可 选 的 二 值 化 、 均 值 滤 波 、 高 斯 模 糊 均 未 开 启 ， 即 使 不 进 行 那 些 预 处 理 该 框 架 已 经 能 够 达 到 很 理 想 的 识 别 效 果 了 ， 笔 者 自 用 的 大 多 数 模 型 都 是 9 8 % 以 上 的 识 别 率 。 3 . 2   开 始 训 练 开 始 训 练 按 照 上 面 的 介 绍 ， 配 置 只 要 修 改 极 少 数 的 参 数 对 应 的 值 ， 就 可 以 开 启 正 式 的 训 练 之 旅 了 ， 具 体 操 作 如 下 ： 可 以 直 接 使 用 P y C h a r m 的 R u n ， 执 行 t r a i n s . p y ， 也 可 以 在 激 活 V i r t u a l e n v 下 使 用 终 端 亦 或 在 安 装 依 赖 的 全 局 环 境 下 执 行 剩 下 的 就 是 等 了 ， 看 过 程 ， 等 结 果 。 正 常 开 始 训 练 的 模 样 应 该 是 这 样 的 ： p y t h o n 3   t r a i n s . p y
训 练 结 束 会 在 项 目 的 o u t 路 径 下 生 成 一 个 p b 和 y a m l 文 件 ， 下 面 该 到 部 署 环 节 了 。 3 . 3   部 署 部 署 真 的 很 有 必 要 认 真 的 介 绍 一 下 部 署 项 目 ， 比 起 训 练 ， 这 个 部 署 项 目 倾 注 了 笔 者 更 多 的 心 血 ， 为 什 么 呢 ？ 项 目 地 址 ： h t t p s : / / g i t h u b . c o m / k e r l o m z / c a p t c h a _ p l a t f o r m 真 的 值 得 了 解 的 几 点 同 时 管 理 多 个 模 型 ， 支 持 模 型 热 拔 插 灵 活 的 版 本 控 制 支 持 批 量 识 别 服 务 智 能 路 由 策 略 首 先 笔 者 重 写 了 首 先 笔 者 重 写 了 T e n s o r   F l o w 的 的 G r a p h 会 话 管 理 ， 设 计 会 话 池 ， 允 许 同 时 管 理 多 模 型 ， 实 现 多 模 型 动 态 部 署 方 会 话 管 理 ， 设 计 会 话 池 ， 允 许 同 时 管 理 多 模 型 ， 实 现 多 模 型 动 态 部 署 方 案 。 案 。 1 ） 训 练 好 的 训 练 好 的 p b 模 型 只 要 放 在 部 署 项 目 的 模 型 只 要 放 在 部 署 项 目 的 g r a p h 路 径 下 ， 路 径 下 ， y a m l 模 型 配 置 文 件 放 在 模 型 配 置 文 件 放 在 m o d e l ， 即 可 被 服 务 发 现 并 加 ， 即 可 被 服 务 发 现 并 加 载 ， 载 ， 2 ） 如 果 需 要 卸 载 一 个 正 在 服 务 的 模 型 ， 只 需 要 在 如 果 需 要 卸 载 一 个 正 在 服 务 的 模 型 ， 只 需 要 在 m o d e l 中 删 除 该 模 型 的 中 删 除 该 模 型 的 y a m l 配 置 文 件 ， 在 配 置 文 件 ， 在 g r a p h 中 删 除 对 应 中 删 除 对 应 的 的 p b 模 型 即 可 。 模 型 即 可 。 3 ） 如 果 需 要 更 新 一 个 已 经 服 务 中 的 模 型 ， 只 需 修 改 新 版 的 模 型 y a m l 配 置 文 件 的 版 本 号 高 于 原 模 型 的 版 本 号 ， 按 先 放 p b 后 放 y a m l 的 顺 序 ， 服 务 便 会 自 动 发 现 新 版 的 模 型 并 加 载 使 用 ， 旧 的 模 型 将 因 版 本 低 于 新 版 模 型 不 会 被 调 用 ， 可 以 按 照 上 述 的 卸 载 方 法 卸 载 已 被 弃 用 的 模 型 释 放 内 存 。 上 面 的 操 作 中 无 需 重 启 服 务 ， 完 全 的 无 缝 切 换 。 其 次 ， 一 套 服 务 想 要 服 务 于 各 式 各 样 的 图 像 识 别 需 求 ， 可 以 定 义 一 套 策 略 ， 训 练 时 将 所 有 尺 寸 一 样 的 图 片 训 练 成 一 个 模 型 ， 服 务 根 据 图 片 尺 寸 自 动 选 择 使 用 哪 个 模 型 ， 这 样 的 设 计 使 定 制 化 和 通 用 性 共 存 ， 等 积 累 到 一 定 多 样 的 训 练 集 时 可 以 将 所 有 的 训 练 集 合 到 一 起 训 练 一 个 通 用 模 型 ， 亦 可 以 彼 此 独 立 ， 每 个 模 型 的 叠 加 仅 仅 增 加 了 少 量 的 内 存 或 显 存 ， 网 上 的 方 案 大 多 是 不 同 的 模 型 单 独 部 署 一 套 服 务 ， 每 个 进 程 加 载 了 一 整 套 T e n s o r F l o w 框 架 势 必 是 过 于 庞 大 和 多 余 的 。 用 到 批 量 识 别 需 求 的 人 相 对 少 很 多 这 里 就 不 展 开 介 绍 了 。 识 别 项 目 提 供 了 多 套 可 选 的 服 务 有 ： g R P C ， F l a s k ， T o r n a d o ， S a n i c ， 其 中 F l a s k 和 T o r n a d o 提 供 了 加 密 接 口 ， 类 似 于 微 信 公 众 号 开 发 接 口 的 S e c r e t K e y 和 A c c e s s K e y 接 口 ， 感 兴 趣 的 可 以 在 d e m o . p y 中 阅 读 调 用 源 码 了 解 。 部 署 的 使 用 可 以 经 过 p a c k a g e . p y 编 译 为 可 执 行 文 件 ， 这 样 可 以 免 去 更 换 机 器 环 境 安 装 的 烦 恼 ， 部 署 项 目 安 装 流 程 同 训 练 项 目 ， 项 目 中 提 供 的 r e q u i r e m e n t s . t x t 已 经 将 所 需 的 依 赖 都 列 清 楚 了 ， 强 烈 建 议 部 署 项 目 安 装 c p u 版 T e n s o r F l o w 。 L i n u x ： ：
T o r n a d o ： F l a s k ： S a n i c ： g R P C : W i n d o w s ： ： W i n d o w s 平 台 下 都 是 通 过 启 动 对 应 的 服 务 ， 注 意 ， T o r n a d o 、 F l a s k 、 S a n i c 的 性 能 在 W i n d o w s 平 台 都 大 打 折 扣 ， g R P C 是 G o o g l e 开 源 的 R P C 服 务 ， 有 较 为 优 越 的 性 能 。 3 . 4   调 用 调 用 / 测 试 测 试 1 .   F l a s k 服 务 ： 服 务 ： 请 求 地 址 请 求 地 址 C o n t e n t - T y p e 参 数 形 式 参 数 形 式 请 求 方 法 请 求 方 法 h t t p : / / l o c a l h o s t : 1 9 9 5 1 / c a p t c h a / v 1 a p p l i c a t i o n / j s o n J S O N P O S T 具 体 参 数 ： 具 体 参 数 ： |   参 数 名   |   必 选   |   类 型   |   说 明   | |   — — — — —   |   — —   |   — — —   |   — — — — — — — — — — — —   | |   i m a g e   |   Y e s   | S t r i n g   |   B a s e 6 4   编 码   | |   m o d e l _ s i t e   |   N o   |   S t r i n g   |   网 站 名 ， y a m l 配 置 中 可 绑 定   | |   m o d e l _ t y p e   |   N o   |   S t r i n g   |   类 别 ， y a m l 配 置 中 可 绑 定   | 请 求 为 J S O N 格 式 ， 形 如 ： { “ i m a g e ” :   “ b a s e 6 4 编 码 后 的 图 像 二 进 制 流 ” } 返 回 结 果 ： 返 回 结 果 ： |   参 数 名   |   类 型   |   说 明   | |   — — — -   |   — — —   |   — — — — — — — — —   | |   m e s s a g e   |   S t r i n g   |   识 别 结 果 或 错 误 消 息 | |   c o d e   |   S t r i n g   |   状 态 码   | |   s u c c e s s   |   S t r i n g   |   是 否 请 求 成 功   | 该 返 回 为 J S O N 格 式 ， 形 如 ： { “ m e s s a g e ” :   “ x x x x ” ,   “ c o d e ” :   0 , “ s u c c e s s ” :   t r u e } 2 .   T o r n a d o 服 务 ： 服 务 ： 请 求 地 址 请 求 地 址 C o n t e n t - T y p e 参 数 形 式 参 数 形 式 请 求 方 法 请 求 方 法 h t t p : / / l o c a l h o s t : 1 9 9 5 2 / c a p t c h a / v 1 a p p l i c a t i o n / j s o n J S O N P O S T 请 求 参 数 和 返 回 格 式 同 上 请 求 参 数 和 返 回 格 式 同 上 3 .   S a n i c 服 务 ： 服 务 ： |   请 求 地 址   |   C o n t e n t - T y p e   |   参 数 形 式   |   请 求 方 法   | |   — — — — — -   |   — — — — — — — —   |   — — — —   | — — — —   | |   h t t p : / / l o c a l h o s t : 1 9 9 5 3 / c a p t c h a / v 1   |   a p p l i c a t i o n / j s o n   |   J S O N   |   P O S T   | 请 求 参 数 和 返 回 格 式 同 上 请 求 参 数 和 返 回 格 式 同 上 4 .   g R P C 服 务 ： 服 务 ： 需 要 安 装 依 赖 ， g r p c i o 、 g r p c i o _ t o o l s 和 对 应 的 g r p c . p r o t o 文 件 ， 可 以 直 接 从 项 目 中 的 示 例 代 码 d e m o . p y 中 提 取 。 #   端 口   1 9 9 5 2 p y t h o n 3   t o r n a d o _ s e r v e r . p y #   方 案 1 ， 裸 启 动 ，   端 口   1 9 9 5 1 p y t h o n   f l a s k _ s e r v e r . p y   #   方 案 2 ， 使 用 g u n i c o r n ， 端 口   5 0 0 0 p i p   i n s t a l l   g u n i c o r n   g u n i c o r n   - c   d e p l o y . c o n f . p y   f l a s k _ s e r v e r : a p p #   端 口   1 9 9 5 3 p y t h o n 3   s a n i c _ s e r v e r . p y #   端 口   5 0 0 5 4 p y t h o n 3   g r p c _ s e r v e r . p y p y t h o n 3   x x x _ s e r v e r . p y
3 . 5   奇 技 淫 巧 奇 技 淫 巧 该 项 目 还 可 以 直 接 用 于 识 别 带 颜 色 的 图 片 ， 本 质 是 不 同 的 颜 色 分 别 训 练 ， 调 用 的 时 候 通 过 传 参 区 分 ， 如 果 希 望 获 得 图 片 中 红 色 的 文 字 ， 就 直 接 通 过 参 数 定 位 到 训 练 红 色 的 模 型 ， 希 望 获 取 图 片 中 蓝 色 的 图 片 就 通 过 参 数 定 位 到 蓝 色 模 型 ， 如 ： c l a s s   G o o g l e R P C ( o b j e c t ) :         d e f   _ _ i n i t _ _ ( s e l f ,   h o s t :   s t r ) :                 s e l f . _ u r l   =   ' { } : 5 0 0 5 4 ' . f o r m a t ( h o s t )                 s e l f . t r u e _ c o u n t   =   0                 s e l f . t o t a l _ c o u n t   =   0         d e f   r e q u e s t ( s e l f ,   i m a g e ,   m o d e l _ t y p e = N o n e ,   m o d e l _ s i t e = N o n e ) :                 i m p o r t   g r p c                 i m p o r t   g r p c _ p b 2                 i m p o r t   g r p c _ p b 2 _ g r p c                 c h a n n e l   =   g r p c . i n s e c u r e _ c h a n n e l ( s e l f . _ u r l )                 s t u b   =   g r p c _ p b 2 _ g r p c . P r e d i c t S t u b ( c h a n n e l )                 r e s p o n s e   =   s t u b . p r e d i c t ( g r p c _ p b 2 . P r e d i c t R e q u e s t (                         i m a g e = i m a g e ,   s p l i t _ c h a r = ' , ' ,   m o d e l _ t y p e = m o d e l _ t y p e ,   m o d e l _ s i t e = m o d e l _ s i t e                 ) )                 r e t u r n   { " m e s s a g e " :   r e s p o n s e . r e s u l t ,   " c o d e " :   r e s p o n s e . c o d e ,   " s u c c e s s " :   r e s p o n s e . s u c c e s s } i f   _ _ n a m e _ _   = =   ' _ _ m a i n _ _ ' :         r e s u l t   =   G o o g l e R P C ( ) . r e q u e s t ( " b a s e 6 4 编 码 后 的 图 片 二 进 制 流 " )         p r i n t ( r e s u l t )
不 过 这 种 操 作 对 样 本 量 要 求 较 高 ， 且 效 率 不 高 ， 当 颜 色 参 数 越 来 越 多 时 就 不 适 用 ， 可 以 采 用 颜 色 提 取 的 方 式 ， 这 样 所 需 要 的 样 本 量 将 大 大 减 少 ， 但 对 于 颜 色 提 取 算 法 效 果 要 求 高 了 。 还 有 一 种 方 案 是 同 时 预 测 验 证 码 和 每 个 字 符 对 应 的 颜 色 ， 不 过 这 需 要 修 改 现 有 的 神 经 网 络 进 行 支 持 ， 在 最 后 一 层 修 改 为 双 输 出 ， 一 个 输 出 颜 色 ， 一 个 输 出 对 应 字 符 ， 这 对 于 样 本 标 注 的 要 求 较 高 ， 也 提 高 的 成 本 ， 所 以 如 果 能 用 无 限 生 成 样 本 ， 那 问 题 就 迎 刃 而 解 了 ， 比 如 上 图 ， 笔 者 就 写 了 样 本 生 成 代 码 ， 感 兴 趣 的 可 以 移 步 ： h t t p s : / / w w w . j i a n s h u . c o m / p / d a 1 b 9 7 2 e 2 4 f 2 其 实 还 有 很 多 很 多 技 巧 ， 例 如 ， 用 生 成 的 样 本 代 替 训 练 集 ， 其 实 网 上 的 图 片 验 证 码 大 多 是 采 用 开 源 的 ， 稍 作 修 改 而 已 ， 大 多 数 情 况 都 能 被 近 似 生 成 出 来 ， 笔 者 收 集 了 不 少 源 代 码 ， 上 述 展 示 的 验 证 码 图 片 不 代 表 任 何 实 际 的 网 站 ， 如 有 雷 同 ， 笔 者 不 承 担 责 任 ， 该 项 目 只 能 用 于 学 习 和 交 流 用 途 ， 不 得 用 于 非 法 用 途 。 后 记 后 记 如 果 各 位 好 汉 对 深 度 学 习 、 O C R 感 兴 趣 的 ， 欢 迎 大 家 一 起 学 习 和 交 流 。 走 过 路 过 点 个 星 在 此 谢 谢 大 家 了 ！ h t t p s : / / g i t h u b . c o m / k e r l o m z / c a p t c h a _ t r a i n e r h t t p s : / / g i t h u b . c o m / k e r l o m z / c a p t c h a _ p l a t f o r m * 本 文 原 创 作 者 ： k e r l o m z ， 本 文 属 F r e e B u f 原 创 奖 励 计 划 ， 未 经 许 可 禁 止 转 载
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理