linux命令:curl

相当强大的一个Linux工具,这篇文章就相当于入门,开启curl世界的大门。

一、简介

curl命令是一个利用URL规则在命令行下工作的文件传输工具。它支持文件的上传和下载,所以是综合传输工具,但按传统,习惯称curl为下载工具。作为一款强力工具,curl支持包括HTTP、HTTPS、ftp等众多协议,还支持POST、cookies、认证、从指定偏移处下载部分文件、用户代理字符串、限速、文件大小、进度条等特征。做网页处理流程和数据检索自动化,curl可以助一臂之力。
1、支持的协议

协议
DICT
FILE
FTP
FTPS
GOPHER
HTTP
HTTPS
IMAP
IMAPS
LDAP
LDAPS
POP3
POP3S
RTMP
RTSP
SCP
SFTP
SMTP
SMTPS
TELNET and TFTP

2、提供的功能
  代理访问、用户认证、ftp上传下载、HTTP POST、SSL连接、cookie支持、断点续传等…

二、语法

curl  (选项)  (参数)

1、选项

选项作用
-a/–append上传文件时,附加到目标文件
-A/–user-agent设置用户代理发送给服务器
-anyauth可以使用“任何”身份验证方法
-b/–cookie <name=string/file>cookie字符串或文件读取位置
–basic使用HTTP基本验证
-B/–use-ascii使用ASCII /文本传输
-c/–cookie-jar操作结束后把cookie写入到这个文件中
-C/–continue-at断点续转
-d/–dataHTTP POST方式传送数据
–data-ascii以ascii的方式post数据
–data-binary以二进制的方式post数据
–negotiate使用HTTP身份验证
–digest使用数字身份验证
–disable-eprt禁止使用EPRT或LPRT
–disable-epsv禁止使用EPSV
-D/–dump-header把header信息写入到该文件中
–egd-file为随机数据(SSL)设置EGD socket路径
–tcp-nodelay使用TCP_NODELAY选项
-e/–referer来源网址
-E/–cert <cert[:passwd]>客户端证书文件和密码 (SSL)
–cert-type证书文件类型 (DER/PEM/ENG) (SSL)
–key私钥文件名 (SSL)
–key-type私钥文件类型 (DER/PEM/ENG) (SSL)
–pass私钥密码 (SSL)
–engine加密引擎使用 (SSL). “–engine list” for list
–cacertCA证书 (SSL)
–capathCA目录 (made using c_rehash) to verify peer against (SSL)
–ciphersSSL密码
–compressed要求返回是压缩的形势 (using deflate or gzip)
–connect-timeout设置最大请求时间
–create-dirs建立本地目录的目录层次结构
–crlf上传是把LF转变成CRLF
-f/–fail连接失败时不显示http错误
–ftp-create-dirs如果远程目录不存在,创建远程目录
–ftp-method [multicwd/nocwd/singlecwd]控制CWD的使用
–ftp-pasv使用 PASV/EPSV 代替端口
–ftp-skip-pasv-ip使用PASV的时候,忽略该IP地址
–ftp-ssl尝试用 SSL/TLS 来进行ftp数据传输
–ftp-ssl-reqd要求用 SSL/TLS 来进行ftp数据传输
-F/–form <name=content>模拟http表单提交数据
–form-string <name=string>模拟http表单提交数据
-g/–globoff禁用网址序列和范围使用{}和[]
-G/–get以get的方式来发送数据
-H/–header自定义头信息传递给服务器
–ignore-content-length忽略的HTTP头信息的长度
-i/–include输出时包括protocol头信息
-I/–head只显示请求头信息
-j/–junk-session-cookies读取文件进忽略session cookie
–interface使用指定网络接口/地址
–krb4使用指定安全级别的krb4
-k/–insecure允许不使用证书到SSL站点
-K/–config指定的配置文件读取
-l/–list-only列出ftp目录下的文件名称
–limit-rate设置传输速度
–local-port强制使用本地端口号
-m/–max-time设置最大传输时间
–max-redirs设置最大读取的目录数
–max-filesize设置最大下载的文件总量
-M/–manual显示全手动
-n/–netrc从netrc文件中读取用户名和密码
–netrc-optional使用 .netrc 或者 URL来覆盖-n
–ntlm使用 HTTP NTLM 身份验证
-N/–no-buffer禁用缓冲输出
-o/–output把输出写到该文件中
-O/–remote-name把输出写到该文件中,保留远程文件的文件名
-p/–proxytunnel使用HTTP代理
–proxy-anyauth选择任一代理身份验证方法
–proxy-basic在代理上使用基本身份验证
–proxy-digest在代理上使用数字身份验证
–proxy-ntlm在代理上使用ntlm身份验证
-P/--ftp-port<address>使用端口地址,而不是使用PASV
-q作为第一个参数,关闭 .curlrc
-Q/–quote文件传输前,发送命令到服务器
-r/–range检索来自HTTP/1.1或FTP服务器字节范围
–range-file读取(SSL)的随机文件
-R/–remote-time在本地生成文件时,保留远程文件时间
–retry传输出现问题时,重试的次数
–retry-delay传输出现问题时,设置重试间隔时间
–retry-max-time传输出现问题时,设置最大重试时间
-s/–silent静默模式。不输出任何东西
-S/–show-error显示错误
–socks4 <host[:port]>用socks4代理给定主机和端口
–socks5 <host[:port]>用socks5代理给定主机和端口
–stderr
-t/–telnet-option <OPT=val>Telnet选项设置
–trace对指定文件进行debug
–trace-asciiLike --跟踪但没有hex输出
–trace-time跟踪/详细输出时,添加时间戳
-T/–upload-file上传文件
–urlSpet URL to work with
-u/–user <user[:password]>设置服务器的用户和密码
-U/–proxy-user <user[:password]>设置代理用户名和密码
-w/–write-out [format]什么输出完成后
-x/–proxy <host[:port]>在给定的端口上使用HTTP代理
-X/–request指定什么命令
-y/–speed-time放弃限速所要的时间,默认为30
-Y/–speed-limit停止传输速度的限制,速度时间

2、curl命令参数详解
  可参考《Linux curl命令详解》,这篇文章讲解的非常详细,可参考学习。更多参数也可通过运行“man curl”命令查看。

三、用法示例

1、下载页面

curl -o index.html http://aiezu.com

2、下载文件并显示简单进度条

curl -# -o centos6.8.iso http://mirrors.aliyun.com/centos/6.8/isos/x86_64/CentOS-6.8-x86_64-minimal.iso

3、断点续传

#继续完成上次终止的未完成的下载
curl -# -o centos6.8.iso -C - http://mirrors.aliyun.com/centos/6.8/isos/x86_64/CentOS-6.8-x86_64-minimal.iso

4、伪造来源页面

#告诉爱E族,我是从百度来的
curl -e http://baidu.com http://aiezu.com

5、伪造代理设备

#告诉爱E族,我是GOOGLE爬虫蜘蛛(其实我是curl命令)
curl -A " Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)" http://aiezu.com

#告诉爱E族,我用的是微信内置浏览器
curl -A “Mozilla/5.0 AppleWebKit/600 Mobile MicroMessenger/6.0” http://aiezu.com

6、http头

# 看看本站的http头是怎么样的
curl -I  http://aiezu.com

输出:

HTTP/1.1 200 OK
Date: Fri, 25 Nov 2016 16:45:49 GMT
Server: Apache
Set-Cookie: rox__Session=abdrt8vesprhnpc3f63p1df7j4; path=/
Expires: Thu, 19 Nov 1981 08:52:00 GMT
Cache-Control: no-store, no-cache, must-revalidate, post-check=0, pre-check=0
Pragma: no-cache
Vary: Accept-Encoding
Content-Type: text/html; charset=utf-8

6、设置http请求头

curl -H "Cache-Control:no-cache"  http://aiezu.com

7、发送表单数据

curl -F "pic=@logo.png" -F "site=aiezu"  http://aiezu.com/

8、发送cookie

curl -b "domain=aiezu.com"  http://aiezu.com

9、文件下载
  curl命令可以用来执行下载、发送各种HTTP请求,指定HTTP头部等操作。如果系统没有curl可以使用yum install curl安装,也可以下载安装。curl是将下载文件输出到stdout,将进度信息输出到stderr,不显示进度信息使用--silent选项。

curl URL --silent

这条命令是将下载文件输出到终端,所有下载的数据都被写入到stdout。
使用选项-O将下载的数据写入到文件,必须使用文件的绝对地址:

curl https://www.coonote.com/robot.txt --silent -O

选项-o将下载数据写入到指定名称的文件中,并使用--progress显示进度条:

curl https://www.coonote.com/robot.txt -o filename.iso --progress
######################################### 100.0%

10、断点续传
  curl能够从特定的文件偏移处继续下载,它可以通过指定一个便移量来下载部分文件:

curl URL/File -C 偏移量

#偏移量是以字节为单位的整数,如果让curl自动推断出正确的续传位置使用-C -:
curl -C -URL

11、使用curl设置参照页字符串
  参照页是位于HTTP头部中的一个字符串,用来表示用户是从哪个页面到达当前页面的,如果用户点击网页A中的某个连接,那么用户就会跳转到B网页,网页B头部的参照页字符串就包含网页A的URL。
使用--referer选项指定参照页字符串:

curl --referer https://www.baidu.com https://www.coonote.com

12、用curl设置cookies
使用--cookie "COKKIES"选项来指定cookie,多个cookie使用分号分隔:

curl http://www.baidu.com --cookie "user=root;pass=123456"

将cookie另存为一个文件,使用--cookie-jar选项:

curl URL --cookie-jar cookie_file

13、用curl设置用户代理字符串
  有些网站访问会提示只能使用IE浏览器来访问,这是因为这些网站设置了检查用户代理,可以使用curl把用户代理设置为IE,这样就可以访问了。使用--user-agent或者-A选项:

curl URL --user-agent "Mozilla/5.0"
curl URL -A "Mozilla/5.0"

其他HTTP头部信息也可以使用curl来发送,使用-H"头部信息" 传递多个头部信息,例如:

curl -H "Host:www.baidu.com" -H "accept-language:zh-cn" URL

14、curl的带宽控制和下载配额
使用--limit-rate限制curl的下载速度:

curl URL --limit-rate 50k

命令中用k(千字节)和m(兆字节)指定下载速度限制。
使用--max-filesize指定可下载的最大文件大小:

curl URL --max-filesize bytes

如果文件大小超出限制,命令则返回一个非0退出码,如果命令正常则返回0。
15、用curl进行认证
  使用curl选项-u可以完成HTTP或者FTP的认证,可以指定密码,也可以不指定密码在后续操作中输入密码:

curl -u user:pwd http://www.baidu.com
curl -u user http://www.baidu.com

16、只打印响应头部信息
通过-I或者-head可以只打印出HTTP头部信息:

[root@localhost text]# curl -I http://www.baidu.com
HTTP/1.1 200 OK
Server: nginx/1.2.5
date: Mon, 10 Dec 2012 09:24:34 GMT
Content-Type: text/html; charset=UTF-8
Connection: keep-alive
Vary: Accept-Encoding
X-Pingback: http://www.baidu.com/xmlrpc.php
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

~晓广~

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值