前面几篇模块,基本都是理论的总结,这一节我们将走进实际操作,在Linux中使用libcurl库访问百度页面。本文为学习笔记,也需要部分内容借鉴了这位大佬的内容,有需要的朋友,可以去看看,这里有传送门。
1、Libcurl库
在linux下用c语言做HTTP的编程有一种方法是依赖于这个libcurl库,以后做跨平台网络协议相关的开发,第一个要想到的就是它。
libcurl是一个跨平台的网络协议库,支持http, https, ftp等协议。
libcurl同样支持HTTPS证书授权,HTTP POST, HTTP PUT, FTP 上传, HTTP基本表单上传,代理,cookies,和用户认证。
libcurl的官网 http://curl.haxx.se/
库下载:库下载
下载好后,放入Linux系统中,拖拉、共享文件夹都可以(注:ARM的Linux与x86电脑上Linux操作完全一模一样)
2、libcurl安装
(1)、解压文件
tar xvf curl-7.71.1.tar.bz2
(2)、进入文件夹
cd curl-7.71.1
(3)、观察与查看README
对于这种开源的包,一定要学会它的使用,一般README里面有些如何使用这个库
vi README
(4)、如果内容不够,就去看docs文件夹,这个是对README的补充
cd docs
其实嵌入式开发变得简单了,是因为嵌入式经过十几二十年的发展有很多人对其进行解读,写了很多文章。
重点是看INSTALL文件
还是重点来看看docs下的INSTALL文件,库一定要学会安装才能使用。
其实重点看INSTALL.md就可以了。
其实在这里面就体现了Linux下安装东西和window下面有很大的区别
window下之间借助图形化界面就可以了
而Linux下面很多情况就是需要
./configure 配置
make 编译
make install 安装
注:可以看到./configure后面没有跟任何参数就是默认安装位置了,这里我们肯定要做配置,不配置都不知道文件安装到哪里去了
继续查看INSTALL.md其实可以发现有这条说明表面./configure帮助
(如果你不想默认安装,想安装到你指定的目录,就执行以下目录)
是否支持https
回到/curl-7.71.1
目录下,configure --help看看
./configure --help
运行可以看到上文所提及的安装路径配置:
也可以看到特别重要的交叉编译说明(交叉编译后面我会专门出一篇博客说明):
3、库的配置、编译、安装
(1)安装位置的更改
依据INSTALL.md
安装编译说明,进行以下命令为:$
获取当前路径,编译的时候会自动生成_install文件夹,并且把编译生成的东西全部放入这个文件夹。
./configure --prefix=$PWD/_install
注:
另外,这是针对于交叉编译的配置:编译后在树莓派上用
./configure --prefix=$PWD/_install --host=arm-linux(help里面有写)
这样,在ubuntu中就会使用arm-gcc进行编译
如果上述操作直接在树莓派上进行,则不用再去额外配置交叉编译,因为树莓派已经是比较成熟的ARM板子了,有很多开源的工具。不够工作中开发板往往没有编译工具,需要在上位机上进行编译,那么这里就要进行交叉编译配置。
(2)开始编译
make
(3)安装
make install
(4)预览
进入 /_install
进入头文件,因为我们后面使用函数都要调用这里的头文件
cd include
在进入这个目录
cd curl
可以看到这里面都是我们要用的头文件
所以需要链接外部库(这里我们是给出树莓派的链接模板)
gcc a.c -lwiringPi -lpthread
用到这个库的时候,我们同样需要链接_install/lib
里面的libcurl.so
动态库 (.a
是静态库)之前我已经有写博客详细说明二者。
头文件主要是宏定义、声明一些函数、函数名等,具体函数实现在动态库里面。
4、调用libcurl编程访问百度主页
代码
#include <stdio.h>
#include <curl/curl.h>
typedef unsigned int bool;//数据类型别名用typedef 有分号
#define true 1 //宏定义(替换)用define 无冒号
#define false 0
bool getUrl(char *filename)//GET请求
{
CURL *curl;
CURLcode res;
FILE *fp;
if ((fp = fopen(filename, "w")) == NULL) // 返回结果用文件存储
return false;
struct curl_slist *headers = NULL;
headers = curl_slist_append(headers, "Accept: Agent-007");
curl = curl_easy_init(); // 初始化
if (curl)
{
//curl_easy_setopt(curl, CURLOPT_PROXY, "10.99.60.201:8080");// 代理
curl_easy_setopt(curl, CURLOPT_HTTPHEADER, headers);// 改协议头
curl_easy_setopt(curl, CURLOPT_URL,"http://www.baidu.com");
curl_easy_setopt(curl, CURLOPT_WRITEDATA, fp); //将返回的http头输出到fp>指向的文件,
//即为filename文件,而主函数传入的参数是 /tmp/get.html,即为真正保存在get.html文件中
curl_easy_setopt(curl, CURLOPT_HEADERDATA, fp); //将返回的html主体数据输出到fp指向的文件
res = curl_easy_perform(curl); // 执行
if (res != 0) {
curl_slist_free_all(headers); //释放句柄
curl_easy_cleanup(curl);
}
fclose(fp);
return true;
}
}
bool postUrl(char *filename)//POST请求
{
CURL *curl;
CURLcode res;
FILE *fp;
if ((fp = fopen(filename, "w")) == NULL)
return false;
curl = curl_easy_init();
if (curl)
{
curl_easy_setopt(curl, CURLOPT_COOKIEFILE, "/tmp/cookie.txt"); // 指定cookie文件
curl_easy_setopt(curl, CURLOPT_POSTFIELDS, "&logintype=uid&u=xieyan&psw=xxx86"); // 指定post内容:用户信息 字段之间&连接
//curl_easy_setopt(curl, CURLOPT_PROXY, "10.99.60.201:8080");
curl_easy_setopt(curl, CURLOPT_URL, " http://mail.sina.com.cn/cgi-bin/login.cgi "); // 指定url
curl_easy_setopt(curl, CURLOPT_WRITEDATA, fp);
res = curl_easy_perform(curl);//执行
curl_easy_cleanup(curl);
}
fclose(fp);
return true;
}
int main(void)
{
getUrl("/tmp/get.html");
postUrl("/tmp/post.html");
}
为什么要有最开始的那三句代码呢?
类似于bool,true,faluse
,这是C99标准才会支持,C++里有专门的bool类型,用来表示真或假。但是在C语言里没有这样的类型,为了修改方便直接这样替换。
编译注意(编译时链接库、头文件路径,运行需添加动态库为环境变量)
链接库和头文件再编译,同时注意指明他们的路径
gcc demo.c -I ./curl-7.71.1/_install/include/ -L ./curl-7.71.1/_install/lib/ -lcurl
注意:动态库静态库的链接用
-L
,而头文件用-I
错误排查:
(1)提示找不到头文件
#include <curl/curl.h>
,说明没有指明头文件的路径
(2)如果只是使用
-L
是默认去usr/lib
下去找的,会提示找不到库文件的路径cannot find -lcurl
(3)如果编译报错一堆函数不认识,函数是存在库里面的,说明没有链接库
如:
usr/bin/ld: getAndPost.c:(.text+0x1a2): undefined reference to `curl_easy_init'
/usr/bin/ld: getAndPost.c:(.text+0x1d2): undefined reference to `curl_easy_setopt'
/usr/bin/ld: getAndPost.c:(.text+0x1f6): undefined reference to `curl_easy_setopt'
/usr/bin/ld: getAndPost.c:(.text+0x217): undefined reference to `curl_easy_setopt'
/usr/bin/ld: getAndPost.c:(.text+0x238): undefined reference to `curl_easy_setopt'
/usr/bin/ld: getAndPost.c:(.text+0x244): undefined reference to `curl_easy_perform'
如果以上都没有问题,就会生成可执行文件./a.out,但是直接运行这个./a.out
是会报错的
原因是运行时要链接动态库,没有添加环境变量。(也可以百度查询)
export LD_LIBRARY_PATH=./curl-7.71.1/_install/lib/
再运行./a.out 就发现运行成功了。
这跟我们平常去访问百度是一样的,只是没有用前端css去排版,不好看罢了,当你右键查看页面源码就知道了。
五、libcurl函数库常用字段解读
1.curl_global_init():初始化libcurl
函数只能用一次。(其实在调用curl_global_cleanup 函数后仍然可再用)
如果这个函数在curl_easy_init函数调用时还没调用,它将由libcurl库自动调用,所以多线程下最好主动调用该函数以防止在线程中curl_easy_init时多次调用。
注意:虽然libcurl是线程安全的,但curl_global_init是不能保证线程安全的,所以不要在每个线程中都调用curl_global_init,应该将该函数的调用放在主线程中。
参数:flags
CURL_GLOBAL_ALL //初始化所有的可能的调用。(最常用)
CURL_GLOBAL_SSL //初始化支持 安全套接字层。
CURL_GLOBAL_WIN32 //初始化win32套接字库。
CURL_GLOBAL_NOTHING //没有额外的初始化。
2.curl_easy_init():拿到句柄
用来初始化一个CURL的指针(有些像返回FILE类型的指针一样)。相应的在调用结束时要用curl_easy_cleanup函数清理。
一般curl_easy_init意味着一个会话的开始. 它会返回一个easy_handle(CURL*对象), 一般都用在easy系列的函数中。
后续所有的操作都是对这个指针进行设置,把这种类型的指针就叫做句柄(类似于之前Linux系统编程里面的文件操作、Linux网络编程socket函数后生成的fd,后续的bind,accept等操作也是基于这个fd),实例:
3.curl_easy_setopt(CURL *handle, CURLoption option, parameter)
:设置传输选项
参数:
(1)CURL类型的指针
(2)CURLoption类型的选项.(都在curl.h库里有定义,man 也可以查看到)
(3)parameter 既可以是个函数的指针,也可以是某个对象的指针,也可以是个long型的变量,取决于第二个参数。
这个函数很重要,几乎所有的curl 程序都要频繁的使用它。它告诉curl库,程序将有如何的行为,比如要查看一个网页的html代码等。(这个函数有些像ioctl函数)
第二个参数CURLoption常用的宏:
(1)CURLOPT_URL: 设置访问URL,就是设置访问的网址
(2)CURLOPT_POSTFIELDS
在post请求中:以&
拼接字符串的形式把参数链接起来,下篇文章提到的翔云人工智能平台OCRkey和密码就要放在这里传输。
(3)CURLOPT_WRITEFUNCTION,CURLOPT_WRITEDATA
CURLOPT_WRITEFUNCTION使用举例:
回调函数:网页有数据请求回来的时候,如何去处理这些数据。(做人脸识别,肯定要获得人脸识别的结果)
设置的回调函数格式要求为:
size_t function( void *ptr, size_t size, size_t nmemb, void *stream);
函数将在libcurl接收到数据后被调用,因此函数多做数据保存的功能,如处理下载文件。
所以其实百度的代码可以修改为,这样就不用去打开那个post.txt文件查看了,直接就在当前输出行显示
size_t readData(void *ptr, size_t size, size_t nmemb, void *stream)
{
char buf[1024] = {'\0'};
strncpy(buf,ptr,1024);
printf("===========get data ===========\n");
printf("%s\n",buf);
}
curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION,readData);
4.curl_easy_perform()
:执行任务
在初始化CURL类型的指针 以及curl_easy_setopt完成后调用. 就像字面的意思所说perform就像是个舞台.让我们设置的option 运作起来。
5.curl_easy_cleanup()
:释放内存
结束libcurl使用的时候,用来对curl_global_init做的工作清理。类似于close的函数。