[15303] 2020-04-27_Gospider:一款基于Go语言的快速Web爬虫

文档创建者:s7ckTeam
浏览次数:6
最后更新:2025-01-18
2020-04-27_Gospider:一款基于Go语言的快速Web爬虫 G o s p i d e r G o W e b A l p h a _ h 4 c k   F r e e B u f   2 0 2 0 - 0 4 - 2 7 G o s p i d e r W e b G o s p i d e r G o 1 W e b 2 s i t e m a p . x m l 3 r o b o t s . t x t 4 J a v a S c r i p t 5 6 A W S - S 3 7 8 W a y b a c k   M a c h i n e ,   C o m m o n   C r a w l ,   V i r u s   T o t a l ,   A l i e n   V a u l t U R L 9 G r e p 使 1 0 B u r p 1 1 1 2 / W e b   U s e r - A g e n t 使 使 F a s t   w e b   s p i d e r   w r i t t e n   i n   G o   -   v 1 . 1 . 0   b y   @ t h e b l a c k t u r t l e U s a g e : F l a g s : 2 0 1 0 b o t ( A r c h i v e . o r g ,   C o m m o n C r a w l . o r g ,   V i r u s T o t a l . c o m ,   A l i e n V a u l t . c o m ) U R L g o   g e t   - u   g i t h u b . c o m / j a e l e s - p r o j e c t / g o s p i d e r     g o s p i d e r   [ f l a g s ]     - s ,   - - s i t e   s t r i n g                                     - S ,   - - s i t e s   s t r i n g                                   - p ,   - - p r o x y   s t r i n g                     ( :   h t t p : / / 1 2 7 . 0 . 0 . 1 : 8 0 8 0 )             - o ,   - - o u t p u t   s t r i n g                                 - u ,   - - u s e r - a g e n t   s t r i n g             使 U s e r - A g e n t                                                                         w e b :   W e b   U s e r - A g e n t                                                                         m o b i :   U s e r - A g e n t                     - - c o o k i e   s t r i n g                   C o o k i e   ( t e s t A = a ;   t e s t B = b )             - H ,   - - h e a d e r   s t r i n g A r r a y           H e a d e r                     - - b u r p   s t r i n g                     B u r p   H t t p H e a d e r C o o k i e                     - - b l a c k l i s t   s t r i n g               U R L             - t ,   - - t h r e a d s   g o s p i d e r   - s   " h t t p s : / / g o o g l e . c o m / "   - o   o u t p u t   - c   1 0   - d   1 g o s p i d e r   - S   s i t e s . t x t   - o   o u t p u t   - c   1 0   - d   1 g o s p i d e r   - S   s i t e s . t x t   - o   o u t p u t   - c   1 0   - d   1   - t   2 0 g o s p i d e r   - s   " h t t p s : / / g o o g l e . c o m / "   - o   o u t p u t   - c   1 0   - d   1   - - o t h e r - s o u r c e
( A r c h i v e . o r g ,   C o m m o n C r a w l . o r g ,   V i r u s T o t a l . c o m ,   A l i e n V a u l t . c o m ) U R L 使 H e a d e r / C o o k i e U R L / G o s p i d e r . ( j p g | j p e g | g i f | c s s | t i f | t i f f | p n g | t t f | w o f f | w o f f 2 | i c o ) G o s p i d e r h t t p s : / / g i t h u b . c o m / j a e l e s - p r o j e c t / g o s p i d e r * j a e l e s - p r o j e c t F B A l p h a _ h 4 c k F r e e B u f . C O M g o s p i d e r   - s   " h t t p s : / / g o o g l e . c o m / "   - o   o u t p u t   - c   1 0   - d   1   - - o t h e r - s o u r c e   - - i n c l u d e - s u b s g o s p i d e r   - s   " h t t p s : / / g o o g l e . c o m / "   - o   o u t p u t   - c   1 0   - d   1   - - o t h e r - s o u r c e   - H   " A c c e p t :   / "   - H   " T e s t :   t e s t "   - - c o o k i e   " t e s t A = a ;   t e s t B = b " g o s p i d e r   - s   " h t t p s : / / g o o g l e . c o m / "   - o   o u t p u t   - c   1 0   - d   1   - - o t h e r - s o u r c e   - - b u r p   b u r p _ r e q . t x t g o s p i d e r   - s   " h t t p s : / / g o o g l e . c o m / "   - o   o u t p u t   - c   1 0   - d   1   - - b l a c k l i s t   " . ( w o f f | p d f ) "

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则