winform 实现qq代理_C#(csharp)用CefSharp开发实现一个浏览器,抓取网站任意资源

b1ea84b7794d7c3e4d9afba32dda979f.gif

79150d1082ea04917ff23f1d91a3229a.png

前言:

不少网站会保护自己,防止别人下载图片。

因此下载器,先后改了好几次,不断技术升级。

早期 用WebClient 下载 HTML 分析 URL 下载。

后来 为了下载 手机网站的图片,用上了 User-Agent 特性,模拟手机浏览器。

之前遇到一个复杂些的 网站M ,页面用 JS 加载生成。无法直接获得HTML。

用Chrome一番分析后,发现其图片地址 有固定格式。文件名是 3位数数字,从1开始累加。

因此只要在浏览器 取到第一个图,后面的图片URL 生成下 也得到了。批量下载搞定。

前段时间 网站M 升级。图片展示使用 HTML5 canavs 显示,而且 图片路径 也加随机字符。难以生成了。

对于Chrome来说依然没有遮挡效果。依然可以取到 URL,可以手工保存图片, 然而 无法批量下载了。

问题来了:

无法取到 HTML分析出 图片路径,而且路径名称随机。那么如何批量下载图片?

既然 图片展示到我们面前,数据必然也已经到了 我们这边,就看我们这么取得了。

解决办法:

WebClient不行,于是想到了  Winform 的 WebBrowser 实现浏览器,能显示必然能取到数据。

WebBrowser对于大部分网站还是可以的。然而对于 HTML5的 或者 新特性的 网站就有些 不方便了。有时候不能正常显示网站。例如,网站M.

它依赖 操作系统的 IE浏览器,而且默认是系统里老版本的 IE。可能是 IE7 吧。

一番资料查找 发现CefSharp。这个是Chrome 的另一个开源项目, C# 调用。可以在Winform,Wpf 等中 嵌入浏览器。

CefSharp在网上有一些资料,不多。为了弄明白CefSharp里 取得 图片URL,图片数据。花了一番功夫,查资料,看源码。

倾情大放送,来一大波代码:

开发环境:VS2015  framework 4.5.2  x86模式   CefSharp 63.0.30 

winform:

556864ae6737471b890ff094c319af27.png

764d791ba2a7f55cafe23e0a92c8258e.png

e969d148deeae608c23050fcd5dc36ff.png

4b8a45eae6e07d069d6f7233f22e3696.png

9e4c48ba0d2e03d4387bb7e26270fe8e.png

565e35d565ebba0a8944d0e413a6ae86.png

cd422445bb271edda053958f2893ae37.png

f16d290d92e28471303f5e9a88c69f32.png

17e2fa85da9010e6784303b10d82ebeb.png

有了上面的代码,便可以获取到 目标网站的 任意资源了。

7af568dbb4b5d73c25bd6fc99617b211.png

END

一些推荐

  1. 【开源Blazor控件库】点击浏览

  2. 【开源B/S项目】WTM

  3. 【开源WPF控件库】点击浏览

  4. 【开源WPF项目】点击浏览

  5. 【开源Xamarin项目】全球优秀Xamarin.Forms项目收集

  6. 【开源Winform控件库】HZHControls、SunnyUI

  7. 【开源Winform项目】SiMay远程控制管理系统

  8. 【开源Qt控件库】QWidgetDemo、Material风格的Qt控件

  9. 【开源Qt项目】点击浏览

  10. 【更多分享】点击浏览


资源分享

  • 回复数字【01】:获取DotNet技术资料
  • 回复数字【02】:获取Java技术资料
  • 回复数字【03】:获取Android技术资料
  • 回复数字【04】:获取C++技术资料
  • 回复数字【05】:获取Qt技术资料
  • 回复数字【06】:获取React资源
  • 添加号主微信号【dotnet9】:备注【入群】加入与大佬们的技术交流

时间如流水,只能流去不流回。

  • 公众号:Dotnet9
  • 号主微信号:dotnet9
  • 文本转自公众号:新阁Net社群
  • 原文地址:https://mp.weixin.qq.com/s/724zSH1_ZwY3BhY2pywoIw
  • 编辑:沙漠之尽头的狼
  • 日期:2020-12-04
01e1000730841fadb358cba38d95754f.png
微信公众号:Dotnet9
-好东西要转发,设为"星标"★抢先看-

a4b19957528d208480d9df886559956b.gif

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值