学会CRUL一文足矣-curl详解

于 2022-05-17 15:59:10 发布
阅读量3.4k 收藏 12
点赞数 1
文章标签： 服务器 运维
本文为博主原创文章，未经博主允许不得转载。
本文链接：https://blog.csdn.net/lxx309707872/article/details/124823527
版权

什么是curl

cURL是一个利用URL语法在命令行下工作的文件传输工具，1997年首次发行。它支持文件上传和下载，所以是综合传输工具，但按传统，习惯称cURL为下载工具。

你可以把 CURL 想象成一个精简的命令行网页浏览器。它支持几乎你能想到的所有协议，可以交互访问几乎所有在线内容。唯一和浏览器不同的是，cURL 不会渲染接收到的相应信息。curl和wget类似也支持上传下载等感觉比wget更强大，但我觉得用途方面更偏重于模拟网络请求，而下载方面我更喜欢用wget，curl的用法也和wget类似！

cURL支持的通信协议有FTP、FTPS、HTTP、HTTPS、TFTP、SFTP、Gopher、SCP、Telnet、DICT、FILE、LDAP、LDAPS、IMAP、POP3、SMTP和RTSP。

curl

常用参数

获取帮助：
curl --help
参数描述
-I/–head只显示传输文档，经常用于测试连接本身
-o/–output把输出写到该文件中，必须输入保存文件名
-O/–remote-name把输出写到该文件中，保留远程文件的文件名
-F/–form模拟表单提交
-s/–silent静默模式，不输出任何东西
-S/–show-error显示错误，在选项 -s 中，当 curl 出现错误时将显示
-L/–location跟踪重定向
-f/–fail不输出错误
-n/–netrc从netrc文件中读取用户名和密码
–netrc-optional使用 .netrc 或者 URL来覆盖-n
–ntlm使用 HTTP NTLM 身份验证
-N/–no-buffer禁用缓冲输出
-p/–proxytunnel使用HTTP代理
–proxy-anyauth选择任一代理身份验证方法
–proxy-basic在代理上使用基本身份验证
–proxy-digest在代理上使用数字身份验证
–proxy-ntlm在代理上使用ntlm身份验证
-P/–ftp-port使用端口地址，而不是使用PASV
-M/–manual显示全手动
-Q/–quote文件传输前，发送命令到服务器
-r/–range检索来自HTTP/1.1或FTP服务器字节范围
–range-file读取（SSL）的随机文件
-R/–remote-time在本地生成文件时，保留远程文件时间
–retry传输出现问题时，重试的次数
–retry-delay传输出现问题时，设置重试间隔时间
–retry-max-time传输出现问题时，设置最大重试时间
–socks4用socks4代理给定主机和端口
–socks5用socks5代理给定主机和端口
-t/–telnet-optionTelnet选项设置
–trace对指定文件进行debug
–trace-ascii Like跟踪但没有hex输出
–trace-time 跟踪/详细输出时，添加时间戳
-T/–upload-file上传文件
-u/–user设置服务器的用户和密码
-U/–proxy-user设置代理用户名和密码
-V/–version显示版本信息
-w/–write-out [format]什么输出完成后
-x/–proxy在给定的端口上使用HTTP代理
-X/–request指定什么命令
-y/–speed-time放弃限速所要的时间。默认为30
-Y/–speed-limit停止传输速度的限制，速度时间’秒
-z/–time-cond传送时间设置
-0/–http1.0使用HTTP 1.0
-1/–tlsv1使用TLSv1（SSL）
-2/–sslv2使用SSLv2的（SSL）
-3/–sslv3使用的SSLv3（SSL）
–3p-quotelike -Q for the source URL for 3rd party transfer
–3p-url使用url，进行第三方传送
–3p-user使用用户名和密码，进行第三方传送
-4/–ipv4使用IP4
-6/–ipv6使用IP6
-#/–progress-bar用进度条显示当前的传送状态

常用参数分类

# 调试类
-v, --verbose                          输出信息
-q, --disable                          在第一个参数位置设置后 .curlrc 的设置直接失效，这个参数会影响到 -K, --config -A, --user-agent -e, --referer
-K, --config FILE                      指定配置文件
-L, --location                         跟踪重定向 (H)

# CLI显示设置
-s, --silent                           Silent模式。不输出任务内容
-S, --show-error                       显示错误. 在选项 -s 中，当 curl 出现错误时将显示
-f, --fail                             不显示 连接失败时HTTP错误信息
-i, --include                          显示 response的header (H/F)
-I, --head                             仅显示 响应文档头
-l, --list-only                        只列出FTP目录的名称 (F)
-#, --progress-bar                     以进度条 显示传输进度

# 数据传输类
-X, --request [GET|POST|PUT|DELETE|…]  使用指定的 http method 例如 -X POST
-H, --header <header>                  设定 request里的header 例如 -H "Content-Type: application/json"
-e, --referer                          设定 referer (H)
-d, --data <data>                      设定 http body 默认使用 content-type application/x-www-form-urlencoded (H)
    --data-raw <data>                  ASCII 编码 HTTP POST 数据 (H)
    --data-binary <data>               binary 编码 HTTP POST 数据 (H)
    --data-urlencode <data>            url 编码 HTTP POST 数据 (H)
-G, --get                              使用 HTTP GET 方法发送 -d 数据 (H)
-F, --form <name=string>               模拟 HTTP 表单数据提交 multipart POST (H)
    --form-string <name=string>        模拟 HTTP 表单数据提交 (H)
-u, --user <user:password>             使用帐户，密码 例如 admin:password
-b, --cookie <data>                    cookie 文件 (H)
-j, --junk-session-cookies             读取文件中但忽略会话cookie (H)
-A, --user-agent                       user-agent设置 (H)

# 传输设置
-C, --continue-at OFFSET               断点续转
-x, --proxy [PROTOCOL://]HOST[:PORT]   在指定的端口上使用代理
-U, --proxy-user USER[:PASSWORD]       代理用户名及密码

# 文件操作
-T, --upload-file <file>               上传文件
-a, --append                           添加要上传的文件 (F/SFTP)

# 输出设置
-o, --output <file>                    将输出写入文件，而非 stdout
-O, --remote-name                      将输出写入远程文件
-D, --dump-header <file>               将头信息写入指定的文件
-c, --cookie-jar <file>                操作结束后，要写入 Cookies 的文件位置

常用curl实例

通用语法：

curl [option] [URL...]在处理URL时其支持类型于SHELL的名称扩展功能

1.查看源码

直接curl 网址，源码就会打印在命令行上

curl www.baidu.com

2.保存成文件(-O)

-O参数将服务器回应保存成文件，并将 URL 的最后部分当作文件名。

curl -o home.html  http://www.sina.com.cn

-o参数将服务器的回应保存成文件，等同于wget命令。

curl -o example.html https://www.example.com

3.显示网页头部信息(-i)

用-i,也会把网页信息显示出来

# curl -i www.baidu.com

使用-I 发起head请求
curl -I https://www.xgss.net/demo

4. 显示通信的过程(-v)

详细显示请求响应相关信息

curl -v www.baidu.com

5.详细的通信信息(–trance)

文件名 url,具体信息保存到单独的文件中

curl --trace info.txt www.baidu.com

6.指定请求方法（-X）

-X参数指定 HTTP 请求的方法。

http的动作，例如GET POST，PUT，DELETE等,需要参数

curl -X POST www.baidu.com
curl -X POST --data "data=xxx" example.com/form.cgi

POST发送请求的数据体可以用-d

curl -X POST -d'login=emma&password=123' https://baidu.com/login

curl -X POST -d 'login=emma' -d 'password=123' https://baidu.com/login

使用-d参数以后，HTTP 请求会自动加上标头Content-Type :
application/x-www-form-urlencoded。并且会自动将请求转为 POST 方法，因此可以省略-X POST。-d参数可以读取本地文本文件的数据，向服务器发送。

curl -d 'data.txt' https://baidu.com/login

7.页面来源(–referer)

使用参数表示的是你从哪个页面来的

curl --referer www.baidu.com www.xgss.net
curl访问 www.xgss.net，referer是www.baidu.com

-e参数用来设置 HTTP 的标头Referer，表示请求的来源。

curl -e 'https://google.com?q=example' https://www.xgss.net/?st7
nginx日志：
GET /?st7 HTTP/1.1 - 200 - curl/7.29.0 - www.xgss.net - from:https://google.com?q=example - POST:- - COOKIE:-

8.伪造User Agent( -A )

User Agent字段，这个字段表示的是客户端设备的信息，服务器可能会根据这个User Agent字段来判断是手机还是电脑

–user-agent 可以用-A或者-H来替代

curl --user-agent "$UA" url

比如IPhone 
Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5

命令：
# UA='Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5'
# curl --user-agent "$UA" www.xgss.net?s8
nginx日志：
GET /?s8 HTTP/1.1 - 200 - Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5 - www.xgss.net - from:- - POST:- - COOKIE:-

9.携带cookie信息(–cookie)

curl --cookie "name=xxx" www.xgss.net?s9

`-c cookie-file`可以保存服务器返回的cookie到文件，
`-b cookie-file`可以使用这个文件作为cookie信息，进行后续的请求。

 nginx日志：
 GET /?s9 HTTP/1.1 - 200 - curl/7.29.0 - www.xgss.net - from:- - POST:- - COOKIE:name=xxx

10.增加头部信息(-H)

使用 --header或者-H参数添加 HTTP 请求的标头。

curl --header "Content-Type:application/json" http://www.xgss.net/?s10

curl -H 'Accept-Language: en-US' -H 'Secret-Message: xyzzy' https://google.com

11.发起get请求并发送数据( -G -d )

curl -G -d "hello" -v http://www.xgss.net/?s11

nginx日志：
GET /?s11&hello HTTP/1.1 - 200 - curl/7.29.0 - www.xgss.net - from:- - POST:- - COOKIE:-

12.模拟用户登录(-u)

使用-u 提供用户名密码，或者 --user

# 此参数相当于设置http头 Authorization:
curl --user user:password http://www.xgss.net/login.php
# 使用用户名、密码认证，此参数会覆盖“-n”、“--netrc”和“--netrc-optional”选项

curl http://admin:admin@localhost:9002/actuator

13.保存cookie信息(-c)

使用-c 保存服务端响应的cookie

curl -u 'admin:admin' -c cookie.txt http://localhost:9002/actuator

14.使用cookie文件(-b)

curl -b ./cookie_c.txt  http://blog.mydomain.com/wp-admin

15.模拟模拟登录(-D)

-c(小写)产生的cookie和-D里面的cookie是不一样的

curl -D ./cookie_D.txt -F log=aaaa -F pwd=****** http://blog.mydomain.com/login.php

16.断点续传(-C)

curl -C -O http://www.xgss.net/?s16

17.传送数据( -d)

-d参数用于发送 POST 请求的数据体

最好用登录页面测试，因为你传值过去后，回抓数据，你可以看到你传值有没有成功

curl -d log=aaaa  http://www.xgss.net/wp-login.php?s17

登录服务器查看日志：
POST /wp-login.php?s1 HTTP/1.1 - 302 - curl/7.29.0 - www.xgss.net - from:- - POST:log=aaaa - COOKIE:-

模拟登录：
curl  -d "username=admin&password=123456" https://baidu.com/login/

18.显示抓取错误 (-f)

curl -f https://www.xgss.net/asdf
curl: (22) The requested URL returned error: 404 Not Found

19.代理访问(-x)

当我们经常用curl去搞人家东西的时候，人家会把你的IP给屏蔽掉的,这个时候,我们可以用代理

curl -x 10.10.90.83:80 -o home.html https://www.xgss.net/?s19

curl -x socks5://james:cats@myproxy.com:8080 https://www.example.com

如果没有指定代理协议，默认为 HTTP

curl -x james:cats@myproxy.com:8080 https://www.example.com

20.分段下载

比较大的东西，我们可以分段下载

curl -r 0-100 -o img.part1 http://mydomian.cn/thumb/xxx.jpg
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100  101  100  101    0    0  1926      0 --:--:-- --:--:-- --:--:--    0
curl -r 100-200 -o img.part2 http://mydomian.cn/thumb/xxx.jpg
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100  101  100  101    0    0  3498      0 --:--:-- --:--:-- --:--:--  98k
curl -r 200- -o img.part3 http://mydomian.cn/thumb/xxx.jpg
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100 13515  100 13515    0    0  154k      0 --:--:-- --:--:-- --:--:--  280k
ll |grep img.part

用的时候，把他们cat一下就OK了,cat img.part* >img.jpg

21.不错误和进度(-s)

-s参数将不输出错误和进度信息。

curl -s https://www.example.com

-S参数指定只输出错误信息，通常与-s一起使用。

$ curl -s -o /dev/null https://google.com

22.显示下载进度条(-#)

curl -# -O  http://www.mydomain.com/linux/25002_3.html
######################################################################## 100.0%

23.通过ftp下载文件

curl -u 用户名:密码 -O http://blog.mydomain.com/demo/curtain/bbstudy_files/style.css
% Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
Dload  Upload  Total  Spent    Left  Speed
101  1934  101  1934    0    0  3184      0 --:--:-- --:--:-- --:--:--  7136
或者用下面的方式
curl -O ftp://xukai:test@192.168.242.144:21/www/focus/enhouse/index.php
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100 87518  100 87518    0    0  2312k      0 --:--:-- --:--:-- --:--:-- 11.5M

24.通过ftp上传(-T)

-T localfile 向服务器PUT文件

curl -T xukai.php ftp://xukai:test@192.168.242.144:21/www/focus/enhouse/
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100 87518    0    0  100 87518      0  2040k --:--:-- --:--:-- --:--:-- 8901k

25.跳过 SSL 检测(-k)

-k参数指定跳过 SSL 检测。

curl -k https://www.xgss.net

26.跟随服务器的重定向(-L)

-L参数会让 HTTP 请求跟随服务器的重定向。curl 默认不跟随重定向。

curl -L -d 'tweet=hi' https://api.twitter.com/tweet

27.限速下载

--limit-rate用来限制 HTTP 请求和回应的带宽，模拟慢网速的环境。

$ curl --limit-rate 200k https://google.com

高级下载功能

1.循环下载(-O)

$curl -O http://mydomain.net/~zzh/screen[1-10].JPG

2.循环（匹配）下载

$curl -O http://mydomain.net/~{zzh,nick}/[001-201].JPG  # >like zzh/001.JPG

3.循环（引用）下载

$ curl -o #2_#1.jpg http://mydomain.net/~{zzh,nick}/[001-201].JPG # like >001_zzh.jpg

$ curl http://www.jbxue.com/archive[1996-1999]/vol[1-4]/part{a,b,c}.html 可以生成多个期望的URL

4.断点续传(-c -O)

$curl -c -O http://mydomain.net/~zzh/screen1.JPG

5.分块下载(-r)

$curl -r  0 -10240  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
$curl -r 10241 -20480  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
$curl -r 20481 -40960  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
$curl -r 40961 - -o  "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3
...
$cat zhao.part* > zhao.mp3

6.模拟http basic auth登录配置密码

curl 命令模拟http basic auth登录基本格式：

curl --basic -u users:passwd  https://www.xgss.net

7.绕过CDN指定源站访问

实现绑定hosts访问

curl -voa https://www.xgss.net -x 1.2.3.4:80
星哥说事
关注
  • 1
    点赞
  • 踩
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
curl源代码分析(包含源代码)
01-08
curl源代码分析 包含源代码 http协议 ftp协议 等等 批量下载 跨平台
curl学习
Yu的博客
08-08 122
目录 curl完整命令详解 查看网页源码 保存网页内容 自动跳转 显示head信息 显示通信过程 查看更详细的通信过程 发送表单信息 文件上传 refer user agent cookie 增加head信息 http认证 curl完整命令详解 https://man.linuxde.net/curl curl: command line url reviewer...
用Crul 命令 来调试服务器接口
hellohaifei
12-13 1224
Linux,mac 下执行  curl -v -d ‘{"data":{},"uid":"1090549","ver":"1.0","token":"4a5nynjw8f2r7kfitdgwqrjhwrj5vcmqah0zsbnqgf5dpbm8drut840tmap5a2jb","seqnum":"G MCAMERAARD10905491418465366126111715"} ’htt
crul命令解释
热门推荐
小志的博客
07-15 1万+
1、crul命令解释 curl命令可以用来执行下载、发送各种HTTP请求，指定HTTP头部等操作。 如果系统没有curl可以使用yum install curl安装，也可以下载安装。 curl是将下载文件输出到stdout 2、crul命令示例 [root@localhost]# crul http://www.baidu.com 返回这个网址的form表单，运行结果如下 3、crul下载...
curl学习笔记
大白兔的开发专栏
01-11 461
该文章部分内容整理自博客http://blog.sina.com.cn/s/blog_48f93b530100dt52.html 一、官网 http://curl.haxx.se/。建议上去看看，对于学习英文也很有帮助。 二、主要内容：包括命令行工具和libcurl库两个部分。命令行工具可以直接输入指令完成ftp或者http功能，libcurl则是一个客户端URL传输库，是线程
详解php curl带有csrf-token验证模拟提交方法
10-18
主要介绍了详解php curl带有csrf-token验证模拟提交方法，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
CRuL - Code Revision Library-开源
04-18
用于MulitValue数据库系统的开源代码修订库和软件项目管理系统。
curl-7.53.1-win64
08-09
curl是利用URL语法在命令行方式下工作的开源文件传输工具。它被广泛应用在Unix、多种Linux发行版中，并且有DOS和Win32、Win64下的移植版本。 curl-7.53.1-win64-mingw.7z。windows的curl.exe。直接在当前目录下的cmd...
CentOS7 可用的 curl 8.4 rpm 包
最新发布
10-14
可联网机器（包含内网yum），可以解压后直接执行命令 yum update libcurl-8.4.0-1.el7.1.x86_64.rpm curl-8.4.0-1.el7.1.x86_64.rpm
curl curl-7.59.0 64位
04-11
crul命令，解压后，进入I386文件目录，将该目录下的CURL.EXE文件，拷贝到windows/system32/ 目录下即可使用。
crul的用法
07-07
curl命令是一个利用URL规则在命令行下工作的文件传输工具。它支持文件的上传和下载，所以是综合传输工具，但按传统，习惯称curl为下载工具。作为一款强力工具，curl支持包括HTTP、HTTPS、ftp等众多协议，还支持POST、cookies、认证、从指定偏移处下载部分文件、用户代理字符串、限速、文件大小、进度条等特征。做网页处理流程和数据检索自动化，curl可以祝一臂之力。
linux crul 命令
GoodIdea
06-10 458
-a/--append 上传文件时，附加到目标文件 -A/--user-agent <string> 设置用户代理发送给服务器 -anyauth 可以使用“任何”身份验证方法 -b/--cookie <name=string/file> cookie字符串或文件读取位置 - basic 使用HTTP基本验证 -B/--u...
php curl用法
tianmo2010的专栏
08-22 8206
命令使用curl:   curl -s http://10.10.69.61/threads/foo/bar/page/1/m/n -d content=body -X PUT  curl 是使用URL语法的传送文件工具，支持FTP、FTPS、HTTP HTPPS SCP SFTP TFTP TELNET DICT FILE和LDAP。curl 支持SSL证书、H
crul详解
weixin_30621959的博客
10-18 1721
curl命令参数详解　　http://www.cnblogs.com/duhuo/p/5695256.htmlcurl命令实例　　http://www.cnblogs.com/liqiu/p/3200582.html 转载于:https://www.cnblogs.com/yc913344706/p/7689448.html
Java实现cRUL
MosMovon的专栏
01-29 3622
你可以使用 java.net.URL 或者 java.net.URLConnection. 如下访问百度首页并将文件保存到D:/Baidu.html public class TestJavaURL { public static void curl(String addr){ try { URL url = new URL(addr);
curl
morning_china的专栏
06-18 623
https://blog.csdn.net/fungleo/article/details/80703365
【Linux】之 curl 命令
王廷云的博客
08-13 3025
目录 一、CRUL 简介 二、CRUL 常见用法 1、发送 HTTP 请求 2、用户代理 User-Agent 3、Cookie 4、请求头 Header 5、保存请求结果 6、链接重定向 一、CRUL 简介 curl 是一款很强大的 http 命令行工具，用来请求 Web 服务器，支持文件的上传和下载，所以它的名字可以理解为：客户端的 URL 工具（Client for the URL）； curl支持的通讯协议有：DICT, FILE, FTP, FTPS, GOPHER, HTTP,
curl命令
weicaijiang的专栏
03-28 3222
命令概要 该命令设计用于在没有用户交互的情况下工作。 curl 是一个工具，用于传输来自服务器或者到服务器的数据。「向服务器传输数据或者获取来自服务器的数据」 可支持的协议有（DICT、FILE、FTP、FTPS、GOPHER、HTTP、HTTPS、IMAP、IMAPS、LDAP、LDAPS、POP3、POP3S、RTMP、RTSP、SCP、SFTP、SMTP、SMTPS、TELNET和TFTP）。 curl提供了大量有用的技巧，比如代理支持、用户身份验证、FTP上传、HTTP post、SSL连接
linux crul
03-16
Linux curl是一个命令行工具，用于发送HTTP请求和接收HTTP响应。它支持多种协议，包括HTTP、HTTPS、FTP、SMTP等。使用curl可以方便地测试和调试Web应用程序，也可以用于自动化测试和数据采集等任务。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值