windows7 下面安装wget工具和使用详解

Wget 的以一款方便的使用HTTP协议进行文件抓取的工具,在linux下面比较常用,支持以下功能:

1)支持断点下传功能

2)同时支持FTP和HTTP下载方式

3)支持代理服务器

4)设置方便简单;

5)程序小,完全免费;


windows下面安装wget工具

1. 下载安装软件包

URL地址:http://sourceforge.net/projects/gnuwin32/files/wget/1.11.4-1/wget-1.11.4-1-setup.exe

下载后双击安装,全部默认默认安装在C:\Program Files\GnuWin32目录下面

2.设置环境变量

2.1 

在“开始”里面选择“计算机”

2.2 

选择“系统属性”

2.3

选择“高级系统设置”

2.4

选择“环境变量”

2.5 系统环境变量,新建

GNU_HOME=C:\Program Files\GnuWin32
2.6 path添加
;%GNU_HOME%\bin 

点击确定环境变量添加完毕


3. wget测试

3.1 运行cmd后,运行

cd C:\Program Files\GnuWin32\bin进入wget的安装目录

3.2 运行dir *命令可以查看到bin目录下面有wget.exe文件

3.3运行wget  -c www.163.com -O  F:/dest/163index.html

发现最后抓取到了163站点的主页面保存到了F:/dest目录下面,并且重新命名为163index.html


wget命令格式详解:

  wget [参数列表] [目标软件、网页的网址]

1、启动类参数

  这一类参数主要提供软件的一些基本信息;

  -V,--version 显示软件版本号然后退出;
  -h,--help显示软件帮助信息;
  -e,--execute=COMMAND 执行一个 “.wgetrc”命令

  以上每一个功能有长短两个参数,长短功能一样,都可以使用。需要注意的是,这里的-e参数是执行一个.wgettrc的命令,.wgettrc命令其实是一个参数列表,直接将软件需要的参数写在一起就可以了。

  2、文件处理参数

  这类参数定义软件log文件的输出方式等;

  -o,--output-file=FILE 将软件输出信息保存到文件;
  -a,--append-output=FILE将软件输出信息追加到文件;
  -d,--debug显示输出信息;
  -q,--quiet 不显示输出信息;
  -i,--input-file=FILE 从文件中取得URL;

  以上参数对于攻击者比较有用,我们来看看具体使用;


例1:下载192.168.1.168首页并且显示下载信息
wget -d 
http://192.168.1.168

例2:下载192.168.1.168首页并且不显示任何信息
wget -q 
http://192.168.1.168

例3:下载filelist.txt中所包含的链接的所有文件
wget -i filelist.txt


wget -np -m -l5 http://jpstone.bokee.com //不下载本站所链接的其它站点内容,5级目录结构
3、下载参数

  下载参数定义下载重复次数、保存文件名等;

  -t,--tries=NUMBER 是否下载次数(0表示无穷次)
  -O --output-document=FILE下载文件保存为别的文件名
  -nc, --no-clobber 不要覆盖已经存在的文件
  -N,--timestamping只下载比本地新的文件
  -T,--timeout=SECONDS 设置超时时间
  -Y,--proxy=on/off 关闭代理

例:下载192.168.1.168的首页并将下载过程中的的输入信息保存到test.htm文件中
wget -o test.htm 
http://192.168.1.168

4、目录参数

  目录参数主要设置下载文件保存目录与原来文件(服务器文件)的目录对应关系;

  -nd --no-directories 不建立目录
  -x,--force-directories 强制建立目录
  可能现在我们对这里的目录还不是很了解,我们来看一个举例

例:下载192.168.1.168的首页,并且保持网站结构
wget -x 
http://192.168.1.168   


 5、HTTP参数

  HTTP参数设置一些与HTTP下载有关的属性;

  --http-user=USER设置HTTP用户
  --http-passwd=PASS设置HTTP密码
  --proxy-user=USER设置代理用户
  --proxy-passwd=PASS设置代理密码

  以上参数主要设置HTTP和代理的用户、密码;

6、递归参数设置

  在下载一个网站或者网站的一个目录的时候,我们需要知道的下载的层次,这些参数就可以设置;
  -r,--recursive 下载整个网站、目录(小心使用)
  -l,--level=NUMBER 下载层次

例:下载整个网站
wget -r 
http://192.168.1.168

7、递归允许与拒绝选项参数

  下载一个网站的时候,为了尽量快,有些文件可以选择下载,比如图片和声音,在这里可以设置;

  -A,--accept=LIST 可以接受的文件类型
  -R,--reject=LIST拒绝接受的文件类型
  -D,--domains=LIST可以接受的域名
  --exclude-domains=LIST拒绝的域名
  -L,--relative 下载关联链接
  --follow-ftp 只下载FTP链接
  -H,--span-hosts 可以下载外面的主机
  -I,--include-directories=LIST允许的目录
  -X,--exclude-directories=LIST 拒绝的目录


如何设定wget所使用的代理服务器 
wget可以使用用户设置文件".wgetrc"来读取很多设置,我们这里主要利用这个文件来是 
设置代理服务器。使用者用什么用户登录,那么什么用户主目录下的".wgetrc"文件就起 
作用。例如,"root"用户如果想使用".wgetrc"来设置代理服务器,"/root/.wgetrc"就起 
作用,下面给出一个".wgetrc"文件的内容,读者可以参照这个例子来编写自己的"wgetrc"文件: 
http-proxy = 111.111.111.111:8080 
ftp-proxy = 111.111.111.111:8080 
这两行的含义是,代理服务器IP地址为:111.111.111.111,端口号为:80。第一行指定 
HTTP协议所使用的代理服务器,第二行指定FTP协议所使用的代理服务器。

命令格式:

  wget [参数列表] [目标软件、网页的网址]

1、启动类参数

  这一类参数主要提供软件的一些基本信息;

  -V,--version 显示软件版本号然后退出;
  -h,--help显示软件帮助信息;
  -e,--execute=COMMAND 执行一个 “.wgetrc”命令

  以上每一个功能有长短两个参数,长短功能一样,都可以使用。需要注意的是,这里的-e参数是执行一个.wgettrc的命令,.wgettrc命令其实是一个参数列表,直接将软件需要的参数写在一起就可以了。

  2、文件处理参数

  这类参数定义软件log文件的输出方式等;

  -o,--output-file=FILE 将软件输出信息保存到文件;
  -a,--append-output=FILE将软件输出信息追加到文件;
  -d,--debug显示输出信息;
  -q,--quiet 不显示输出信息;
  -i,--input-file=FILE 从文件中取得URL;

  以上参数对于攻击者比较有用,我们来看看具体使用;


例1:下载192.168.1.168首页并且显示下载信息
wget -d 
http://192.168.1.168

例2:下载192.168.1.168首页并且不显示任何信息
wget -q 
http://192.168.1.168

例3:下载filelist.txt中所包含的链接的所有文件
wget -i filelist.txt


wget -np -m -l5 http://jpstone.bokee.com //不下载本站所链接的其它站点内容,5级目录结构
3、下载参数

  下载参数定义下载重复次数、保存文件名等;

  -t,--tries=NUMBER 是否下载次数(0表示无穷次)
  -O --output-document=FILE下载文件保存为别的文件名
  -nc, --no-clobber 不要覆盖已经存在的文件
  -N,--timestamping只下载比本地新的文件
  -T,--timeout=SECONDS 设置超时时间
  -Y,--proxy=on/off 关闭代理

例:下载192.168.1.168的首页并将下载过程中的的输入信息保存到test.htm文件中
wget -o test.htm 
http://192.168.1.168

4、目录参数

  目录参数主要设置下载文件保存目录与原来文件(服务器文件)的目录对应关系;

  -nd --no-directories 不建立目录
  -x,--force-directories 强制建立目录
  可能现在我们对这里的目录还不是很了解,我们来看一个举例

例:下载192.168.1.168的首页,并且保持网站结构
wget -x 
http://192.168.1.168   


5、HTTP参数

  HTTP参数设置一些与HTTP下载有关的属性;

  --http-user=USER设置HTTP用户
  --http-passwd=PASS设置HTTP密码
  --proxy-user=USER设置代理用户
  --proxy-passwd=PASS设置代理密码

  以上参数主要设置HTTP和代理的用户、密码;

6、递归参数设置

  在下载一个网站或者网站的一个目录的时候,我们需要知道的下载的层次,这些参数就可以设置;
  -r,--recursive 下载整个网站、目录(小心使用)
  -l,--level=NUMBER 下载层次

例:下载整个网站
wget -r 
http://192.168.1.168

7、递归允许与拒绝选项参数

  下载一个网站的时候,为了尽量快,有些文件可以选择下载,比如图片和声音,在这里可以设置;

  -A,--accept=LIST 可以接受的文件类型
  -R,--reject=LIST拒绝接受的文件类型
  -D,--domains=LIST可以接受的域名
  --exclude-domains=LIST拒绝的域名
  -L,--relative 下载关联链接
  --follow-ftp 只下载FTP链接
  -H,--span-hosts 可以下载外面的主机
  -I,--include-directories=LIST允许的目录
  -X,--exclude-directories=LIST 拒绝的目录


如何设定wget所使用的代理服务器 
wget可以使用用户设置文件".wgetrc"来读取很多设置,我们这里主要利用这个文件来是 
设置代理服务器。使用者用什么用户登录,那么什么用户主目录下的".wgetrc"文件就起 
作用。例如,"root"用户如果想使用".wgetrc"来设置代理服务器,"/root/.wgetrc"就起 
作用,下面给出一个".wgetrc"文件的内容,读者可以参照这个例子来编写自己的"wgetrc"文件: 
http-proxy = 111.111.111.111:8080 
ftp-proxy = 111.111.111.111:8080 
这两行的含义是,代理服务器IP地址为:111.111.111.111,端口号为:80。第一行指定 
HTTP协议所使用的代理服务器,第二行指定FTP协议所使用的代理服务器。

  • 4
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
GNU Wget 1.11.4,非交互式的网络文件下载工具。 用法: wget [选项]... [URL]... Mandatory arguments to long options are mandatory for short options too. Startup: -V, --version display the version of Wget and exit. -h, --help print this help. -b, --background go to background after startup. -e, --execute=COMMAND execute a `.wgetrc'-style command. Logging and input file: -o, --output-file=FILE log messages to FILE. -a, --append-output=FILE append messages to FILE. -d, --debug print lots of debugging information. -q, --quiet quiet (no output). -v, --verbose be verbose (this is the default). -nv, --no-verbose turn off verboseness, without being quiet. -i, --input-file=FILE download URLs found in FILE. -F, --force-html treat input file as HTML. -B, --base=URL prepends URL to relative links in -F -i file. Download: -t, --tries=NUMBER set number of retries to NUMBER (0 unlimits). --retry-connrefused retry even if connection is refused. -O, --output-document=FILE write documents to FILE. -nc, --no-clobber skip downloads that would download to existing files. -c, --continue resume getting a partially-downloaded file. --progress=TYPE select progress gauge type. -N, --timestamping don't re-retrieve files unless newer than local. -S, --server-response print server response. --spider don't download anything. -T, --timeout=SECONDS set all timeout values to SECONDS. --dns-timeout=SECS set the DNS lookup timeout to SECS. --connect-timeout=SECS set the connect timeout to SECS. --read-timeout=SECS set the read timeout to SECS. -w, --wait=SECONDS wait SECONDS between retrievals. --waitretry=SECONDS wait 1..SECONDS between retries of a retrieval. --random-wait wait from 0...2*WAIT secs between retrievals. --no-proxy explicitly turn off proxy. -Q, --quota=NUMBER set retrieval quota to NUMBER. --bind-address=ADDRESS bind to ADDRESS (hostname or IP) on local host. --limit-rate=RATE limit download rate to RATE. --no-dns-cache disable caching DNS lookups. --restrict-file-names=OS restrict chars in file names to ones OS allows. --ignore-case ignore case when matching files/directories. -4, --inet4-only connect only to IPv4 addresses. -6, --inet6-only connect only to IPv6 addresses. --prefer-family=FAMILY connect first to addresses of specified family, one of IPv6, IPv4, or none. --user=USER set both ftp and http user to USER. --password=PASS set both ftp and http password to PASS. Directories: -nd, --no-directories don't create directories. -x, --force-directories force creation of directories. -nH, --no-host-directories don't create host directories. --protocol-directories use protocol name in directories. -P, --directory-prefix=PREFIX save files to PREFIX/... --cut-dirs=NUMBER ignore NUMBER remote directory components. HTTP options: --http-user=USER set http user to USER. --http-password=PASS set http password to PASS. --no-cache disallow server-cached data. -E, --html-extension save HTML documents with `.html' extension. --ignore-length ignore `Content-Length' header field. --header=STRING insert STRING among the headers. --max-redirect maximum redirections allowed per page. --proxy-user=USER set USER as proxy username. --proxy-password=PASS set PASS as proxy password. --referer=URL include `Referer: URL' header in HTTP request. --save-headers save the HTTP headers to file. -U, --user-agent=AGENT identify as AGENT instead of Wget/VERSION. --no-http-keep-alive disable HTTP keep-alive (persistent connections). --no-cookies don't use cookies. --load-cookies=FILE load cookies from FILE before session. --save-cookies=FILE save cookies to FILE after session. --keep-session-cookies load and save session (non-permanent) cookies. --post-data=STRING use the POST method; send STRING as the data. --post-file=FILE use the POST method; send contents of FILE. --content-disposition honor the Content-Disposition header when choosing local file names (EXPERIMENTAL). --auth-no-challenge Send Basic HTTP authentication information without first waiting for the server's challenge. HTTPS (SSL/TLS) options: --secure-protocol=PR choose secure protocol, one of auto, SSLv2, SSLv3, and TLSv1. --no-check-certificate don't validate the server's certificate. --certificate=FILE client certificate file. --certificate-type=TYPE client certificate type, PEM or DER. --private-key=FILE private key file. --private-key-type=TYPE private key type, PEM or DER. --ca-certificate=FILE file with the bundle of CA's. --ca-directory=DIR directory where hash list of CA's is stored. --random-file=FILE file with random data for seeding the SSL PRNG. --egd-file=FILE file naming the EGD socket with random data. FTP options: --ftp-user=USER set ftp user to USER. --ftp-password=PASS set ftp password to PASS. --no-remove-listing don't remove `.listing' files. --no-glob turn off FTP file name globbing. --no-passive-ftp disable the "passive" transfer mode. --retr-symlinks when recursing, get linked-to files (not dir). --preserve-permissions preserve remote file permissions. Recursive download: -r, --recursive specify recursive download. -l, --level=NUMBER maximum recursion depth (inf or 0 for infinite). --delete-after delete files locally after downloading them. -k, --convert-links make links in downloaded HTML point to local files. -K, --backup-converted before converting file X, back up as X.orig. -m, --mirror shortcut for -N -r -l inf --no-remove-listing. -p, --page-requisites get all images, etc. needed to display HTML page. --strict-comments turn on strict (SGML) handling of HTML comments. Recursive accept/reject: -A, --accept=LIST comma-separated list of accepted extensions. -R, --reject=LIST comma-separated list of rejected extensions. -D, --domains=LIST comma-separated list of accepted domains. --exclude-domains=LIST comma-separated list of rejected domains. --follow-ftp follow FTP links from HTML documents. --follow-tags=LIST comma-separated list of followed HTML tags. --ignore-tags=LIST comma-separated list of ignored HTML tags. -H, --span-hosts go to foreign hosts when recursive. -L, --relative follow relative links only. -I, --include-directories=LIST list of allowed directories. -X, --exclude-directories=LIST list of excluded directories. -np, --no-parent don't ascend to the parent directory.
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值