.net 6根据url获取网页html内容

/// <summary>
/// 获取网页的内容,整个HTML内容,以字符串形式返回
/// </summary>
/// <returns></returns>
public static async Task<string?> GetHtmlContent_BaseAsync(string strUrl)
{
    //cookie声明
    //CookieContainer cookies = new();
    //Cookie userSessionCookie = new Cookie("AspNetCore.Antiforgery.cRJ1N2pg0dY", "");
    //userSessionCookie.Domain = "www.baidu.com";
    //userSessionCookie.Path = "/";
    //cookies.Add(userSessionCookie);
    //HttpClientHandler httpClientHandler = new() { CookieContainer = cookies };
    //获取网页的内容
    //var client = new HttpClient(httpClientHandler);

    var client = new HttpClient(
        //如果不带这个,后续的获取网页,返回的压缩格式的,会全是乱码的格式
        new HttpClientHandler() { AutomaticDecompression = DecompressionMethods.Deflate | DecompressionMethods.GZip }
        );
    //标头Header中的一些参数设置
    //获取url中的host部分
    Uri htmlUrl = new Uri( strUrl );
    client.DefaultRequestHeaders.Host = htmlUrl.Host;
    client.DefaultRequestHeaders.UserAgent.ParseAdd("Mozilla/5.0 (Windows NT 6.1) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.56 Safari/536.5");
    client.DefaultRequestHeaders.Accept.ParseAdd("*/*");
    client.DefaultRequestHeaders.AcceptEncoding.ParseAdd("gzip, deflate, br");
    client.DefaultRequestHeaders.Connection.ParseAdd("keep-alive");

    var response = await client.GetAsync(strUrl);
    return await response.Content.ReadAsStringAsync();
}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
可以使用Java中的HttpURLConnection或者HttpClient库来获取网页数据,具体步骤如下: 1. 创建URL对象,设置请求的URL地址。 2. 打开连接,获取HttpURLConnection对象或者HttpClient对象。 3. 设置请求头信息,如User-Agent、Referer等。 4. 发送请求,获取响应数据。 5. 解析响应数据,提取所需内容。 6. 关闭连接,释放资源。 以下是使用HttpURLConnection实现获取网页数据的示例代码: ``` import java.io.BufferedReader; import java.io.InputStream; import java.io.InputStreamReader; import java.net.HttpURLConnection; import java.net.URL; public class Spider { public static void main(String[] args) { try { // 创建URL对象,设置请求的URL地址 URL url = new URL("http://www.example.com"); // 打开连接,获取HttpURLConnection对象 HttpURLConnection conn = (HttpURLConnection) url.openConnection(); // 设置请求头信息 conn.setRequestMethod("GET"); conn.setRequestProperty("User-Agent", "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"); // 发送请求,获取响应数据 InputStream in = conn.getInputStream(); BufferedReader reader = new BufferedReader(new InputStreamReader(in, "UTF-8")); String line; StringBuilder sb = new StringBuilder(); while ((line = reader.readLine()) != null) { sb.append(line); } // 解析响应数据,提取所需内容 String html = sb.toString(); // 关闭连接,释放资源 in.close(); reader.close(); conn.disconnect(); } catch (Exception e) { e.printStackTrace(); } } } ``` 代码中的url变量可以替换成需要爬取的网页地址,User-Agent可以根据需要进行修改。解析响应数据的部分需要根据具体的网页结构进行编写。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

MissyouCYYX

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值