搜索

[17207] 2021-08-29_如何使用OpenAttack进行文本对抗攻击

文档创建者：s7ckTeam
浏览次数：35
最后更新：2025-01-18
2021-08-29_如何使用OpenAttack进行文本对抗攻击 如 何 使 用 O p e n A t t a c k 进 行 文 本 对 抗 攻 击 A l p h a _ h 4 c k   F r e e B u f   2 0 2 1 - 0 8 - 2 9 关 于 关 于 O p e n A t t a c k O p e n A t t a c k 是 一 款 专 为 文 本 对 抗 攻 击 设 计 的 开 源 工 具 套 件 ， 该 工 具 基 于 P y t h o n 开 发 ， 可 以 处 理 文 本 对 抗 攻 击 的 整 个 过 程 ， 包 括 预 处 理 文 本 、 访 问 目 标 用 户 模 型 、 生 成 对 抗 示 例 和 评 估 攻 击 模 型 等 等 。 功 能 功 能 & 使 用 使 用 O p e n A t t a c k 支 持 以 下 几 种 功 能 ： 支 持 以 下 几 种 功 能 ： 高 可 用 性 ： O p e n A t t a c k 提 供 了 易 于 使 用 的 A P I ， 可 以 支 持 文 本 对 抗 攻 击 的 整 个 过 程 ； 全 面 覆 盖 攻 击 模 型 类 型 ： O p e n A t t a c k 支 持 句 子 / 单 词 / 字 符 级 扰 动 和 梯 度 / 分 数 / 基 于 决 策 / 盲 攻 击 模 型 ； 灵 活 性 强 & 可 扩 展 ： 我 们 可 以 轻 松 攻 击 定 制 目 标 用 户 模 型 ， 或 开 发 和 评 估 定 制 的 攻 击 模 型 ； 综 合 评 估 ： O p e n A t t a c k 可 以 从 攻 击 有 效 性 、 对 抗 示 例 质 量 和 攻 击 效 率 等 方 面 全 面 评 估 攻 击 模 型 ； O p e n A t t a c k 的 使 用 范 围 非 常 广 ， 其 中 包 括 但 不 限 于 ： 的 使 用 范 围 非 常 广 ， 其 中 包 括 但 不 限 于 ： 为 攻 击 模 型 提 供 各 种 评 估 基 线 ； 使 用 其 全 面 评 估 指 标 综 合 评 估 攻 击 模 型 ； 借 助 通 用 攻 击 组 件 ， 协 助 快 速 开 发 新 的 攻 击 模 型 ； 评 估 机 器 学 习 模 型 对 各 种 对 抗 攻 击 的 鲁 棒 性 ； 通 过 使 用 生 成 的 对 抗 示 例 丰 富 训 练 数 据 ， 进 行 对 抗 训 练 以 提 高 机 器 学 习 模 型 的 鲁 棒 性 ； 工 具 模 块 工 具 模 块
工 具 安 装 工 具 安 装 我 们 可 以 使 用 p i p 安 装 ， 或 者 克 隆 该 项 目 源 码 来 安 装 O p e n A t t a c k 。 使 用 使 用 p i p 安 装 （ 推 荐 ） 安 装 （ 推 荐 ） 克 隆 代 码 库 克 隆 代 码 库 安 装 完 成 之 后 ， 我 们 可 以 尝 试 运 行 “ d e m o . p y ” 来 检 测 O p e n A t t a c k 是 否 能 够 正 常 工 作 ： p i p   i n s t a l l   O p e n A t t a c k g i t   c l o n e   h t t p s : / / g i t h u b . c o m / t h u n l p / O p e n A t t a c k . g i t c d   O p e n A t t a c k p y t h o n   s e t u p . p y   i n s t a l l
使 用 样 例 使 用 样 例 基 础 使 用 ： 使 用 内 置 攻 击 模 型 基 础 使 用 ： 使 用 内 置 攻 击 模 型 O p e n A t t a c k 内 置 了 一 些 常 用 的 文 本 分 类 模 型 ， 如 L S T M 和 B E R T ， 以 及 用 于 情 感 分 析 的 S S T 和 用 于 自 然 语 言 推 理 的 S N L I 等 数 据 集 。 以 下 代 码 段 显 示 了 如 何 使 用 基 于 遗 传 算 法 的 攻 击 模 型 攻 击 S S T 数 据 集 上 的 B E R T ： i m p o r t   O p e n A t t a c k   a s   o a #   c h o o s e   a   t r a i n e d   v i c t i m   c l a s s i f i c a t i o n   m o d e l v i c t i m   =   o a . D a t a M a n a g e r . l o a d ( " V i c t i m . B E R T . S S T " ) #   c h o o s e   a n   e v a l u a t i o n   d a t a s e t d a t a s e t   =   o a . D a t a M a n a g e r . l o a d ( " D a t a s e t . S S T . s a m p l e " ) #   c h o o s e   G e n e t i c   a s   t h e   a t t a c k e r   a n d   i n i t i a l i z e   i t   w i t h   d e f a u l t   p a r a m e t e r s a t t a c k e r   =   o a . a t t a c k e r s . G e n e t i c A t t a c k e r ( ) #   p r e p a r e   f o r   a t t a c k i n g a t t a c k _ e v a l   =   o a . a t t a c k _ e v a l s . D e f a u l t A t t a c k E v a l ( a t t a c k e r ,   v i c t i m ) #   l a u n c h   a t t a c k s   a n d   p r i n t   a t t a c k   r e s u l t s
高 级 使 用 ： 攻 击 自 定 义 目 标 用 户 模 型 高 级 使 用 ： 攻 击 自 定 义 目 标 用 户 模 型 下 面 的 代 码 段 显 示 了 如 何 使 用 基 于 遗 传 算 法 的 攻 击 模 型 攻 击 S S T 上 的 自 定 义 情 绪 分 析 模 型 ： a t t a c k _ e v a l . e v a l ( d a t a s e t ,   v i s u a l i z e = T r u e ) i m p o r t   O p e n A t t a c k   a s   o a i m p o r t   n u m p y   a s   n p f r o m   n l t k . s e n t i m e n t . v a d e r   i m p o r t   S e n t i m e n t I n t e n s i t y A n a l y z e r #   c o n f i g u r e   a c c e s s   i n t e r f a c e   o f   t h e   c u s t o m i z e d   v i c t i m   m o d e l c l a s s   M y C l a s s i f i e r ( o a . C l a s s i f i e r ) :         d e f   _ _ i n i t _ _ ( s e l f ) :                 s e l f . m o d e l   =   S e n t i m e n t I n t e n s i t y A n a l y z e r ( )         #   a c c e s s   t o   t h e   c l a s s i f i c a t i o n   p r o b a b i l i t y   s c o r e s   w i t h   r e s p e c t   i n p u t   s e n t e n c e s         d e f   g e t _ p r o b ( s e l f ,   i n p u t _ ) :                 r t   =   [ ]                 f o r   s e n t   i n   i n p u t _ :                         r s   =   s e l f . m o d e l . p o l a r i t y _ s c o r e s ( s e n t )                         p r o b   =   r s [ " p o s " ]   /   ( r s [ " n e g " ]   +   r s [ " p o s " ] )                         r t . a p p e n d ( n p . a r r a y ( [ 1   -   p r o b ,   p r o b ] ) )                 r e t u r n   n p . a r r a y ( r t ) #   c h o o s e   t h e   c o s t o m i z e d   c l a s s i f i e r   a s   t h e   v i c t i m   m o d e l v i c t i m   =   M y C l a s s i f i e r ( ) #   c h o o s e   a n   e v a l u a t i o n   d a t a s e t d a t a s e t   =   o a . D a t a M a n a g e r . l o a d ( " D a t a s e t . S S T . s a m p l e " ) #   c h o o s e   G e n e t i c   a s   t h e   a t t a c k e r   a n d   i n i t i a l i z e   i t   w i t h   d e f a u l t   p a r a m e t e r s a t t a c k e r   =   o a . a t t a c k e r s . G e n e t i c A t t a c k e r ( )
项 目 地 址 项 目 地 址 点 击 底 部 【 阅 读 原 文 】 获 取 精 彩 推 荐 精 彩 推 荐 #   p r e p a r e   f o r   a t t a c k i n g a t t a c k _ e v a l   =   o a . a t t a c k _ e v a l s . D e f a u l t A t t a c k E v a l ( a t t a c k e r ,   v i c t i m ) #   l a u n c h   a t t a c k s   a n d   p r i n t   a t t a c k   r e s u l t s a t t a c k _ e v a l . e v a l ( d a t a s e t ,   v i s u a l i z e = T r u e )
阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理