php的curl携带header请求头信息实现http访问

代元培

已于 2024-05-13 13:07:13 修改

阅读量4.7k

点赞数

分类专栏： PHP 文章标签： http php curl header

于 2022-02-21 14:24:18 首次发布

本文链接：https://blog.csdn.net/sosemseo/article/details/123046377

版权

PHP 专栏收录该内容

113 篇文章

订阅专栏

本文介绍了如何使用PHP的curl库模拟浏览器发送请求，包括设置请求头信息来避免被识别为爬虫，如设置User-Agent、Referer等，以绕过如Incapsula等安全验证机制。通过示例代码展示了如何构造和发送POST请求。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

curl请求时添加请求头信息可以模拟真人操作，不容易被当成是爬虫机器人（采集），从而可以绕过Incapsula等安全验证机制。

1、首先使用浏览器（示例使用的是火狐浏览器）访问接口网址，使用F12调试，查看请求头信息。

2、实现代码：

<?php
/**
 * 开始访问请求
 * @param $url
 * @return bool|string
 */
function fetch_url($url){
    $header = FormatHeader($url);
    $useragent = 'Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:83.0) Gecko/20100101 Firefox/83.0';
    $timeout= 120;
    $ch = curl_init($url);
    curl_setopt($ch, CURLOPT_FAILONERROR, true);
    //设置请求头信息
    curl_setopt($ch, CURLOPT_HTTPHEADER, $header);
    //不取得返回头信息	
    curl_setopt($ch, CURLOPT_HEADER, 0);
    // 关闭https验证
    curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, false);
    curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, false);
    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true );
    curl_setopt($ch, CURLOPT_ENCODING, "" );
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true );
    curl_setopt($ch, CURLOPT_AUTOREFERER, true );
    curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout );
    curl_setopt($ch, CURLOPT_TIMEOUT, $timeout );
    curl_setopt($ch, CURLOPT_MAXREDIRS, 10 );
    curl_setopt($ch, CURLOPT_USERAGENT, $useragent);
    $content = curl_exec($ch);
    if(curl_errno($ch)){
        echo 'Error:' . curl_error($ch);
    }else{
        return $content;
    }
    curl_close($ch);
}

//添加请求头
function FormatHeader($url){
    // 解析url
    $temp = parse_url($url);
    $query = isset($temp['query']) ? $temp['query'] : '';
    $path = isset($temp['path']) ? $temp['path'] : '/';
    $header = array (
        "POST {$path}?{$query} HTTP/1.1",
        "Host: {$temp['host']}",
        "Referer: http://{$temp['host']}/",
        "Content-Type: text/xml; charset=utf-8",
        'Accept: application/json, text/javascript, */*; q=0.01',
        'Accept-Encoding:gzip, deflate, br',
        'Accept-Language:zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2',
        'Connection:keep-alive',
        'User-Agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:83.0) Gecko/20100101 Firefox/83.0',
        'X-Requested-With: XMLHttpRequest',
    );
    return $header;
}

3、调用示例：

<?php
// lcg_value()返回范围为(0,1)的一个伪随机数float(0.065663139262908)
$url="http://www.xxx.com/getdata.php?v=".lcg_value();
// 访问网址
$html = fetch_url($url);