C#多线程使用webbrowser实现采集动态网页的爬虫机器人

最新推荐文章于 2024-10-07 15:41:56 发布

Hacker_2020

最新推荐文章于 2024-10-07 15:41:56 发布

阅读量1k

点赞数

分类专栏： C#编程语言文章标签： c#

本文链接：https://blog.csdn.net/weixin_40362806/article/details/110090320

版权

C#编程语言专栏收录该内容

76 篇文章 6 订阅

订阅专栏

其实之前我也是用类似的方法来抓取需要登陆的web页面,和一些动态加页的面页

我今天要说的是如何实现多线程使用webborwser采集页面

其中我用到了一个WeiFenLuo.winFormsUI.Docking.dll,是一个开源的组建

下载地址:

https://github.com/dockpanelsuite/dockpanelsuite/downloads

关于这个组件,园子里已经有前辈做出详细的使用方法,在此我不再多做说明

http://www.cnblogs.com/wuhuacong/archive/2009/07/09/1520082.html

在MainForm窗体中添加一个WeiFenLuo控件,并且把MainForm窗体的IsMdiContainer属性设置成True

并且添加addWebForm方法,动态添加子窗体

public void addWebForm(string s)
{
    if (this.InvokeRequired)
    {
        this.BeginInvoke(new OneStringParmenters(addWebForm), s);
    }
    else
    {
        ChildForm f2 = new ChildForm();
        f2.Text = s;
        webForm.Add(s, f2);
        f2.Show(dockPanel1);
    }
}

在ChildForm窗体中添加一个Webborwser控件
并且添加打开页面方法

public delegate void OneStringParmenters(string str);//1个string参数委托
public void Navigate(string url)
{
    if (this.InvokeRequired)
    {
        this.BeginInvoke(new OneStringParmenters(Navigate), url);
    }
    else
    {
        webBrowser1.Navigate(url);
    }
}

以及读取页面html方法

private string strHtmlLeng = "";

private delegate void NoParameters();//无参数委托;
public string StrHtmlLeng
{
    get
    {
        if (this.InvokeRequired)
        {
            IAsyncResult iar = this.BeginInvoke(new NoParameters(GetHtmlLeng));
            while (!iar.IsCompleted)
            {
                System.Threading.Thread.Sleep(0);
            }
        }
        else
        {
            GetHtmlLeng();
        }
        return strHtmlLeng;
    }
}

private void GetHtmlLeng()
{
    strHtmlLeng = webBrowser1.DocumentText;
}

添加一个多线程方法,用来模拟多线程打开页面,并且读取html

public static void OpenWebPage(object strUrl)
{
    DateTime dt = DateTime.Now;
    string u = strUrl.ToString();
    IAsyncResult iar = Program.form.BeginInvoke(new OneStringParmenters(Program.form.addWebForm), u);
    while (!iar.IsCompleted)
    {
        System.Threading.Thread.Sleep(0);
    }
    int n = Program.form.webForm.Count;
    Program.form.webForm[u].Navigate(u);
    System.Threading.Thread.Sleep(TimeSpan.FromMinutes(1));
    string strHtml = Program.form.webForm[u].StrHtmlLeng;
    //把html输出到本地e盘,当采集信息时,可以直接操作html
    System.IO.StreamWriter sw = new StreamWriter(string.Format("e:/{0}.txt", u));
    sw.Write(string.Format("开始时间:{0}\r\n 结束时间:{1}\r\n 打开信息:{2}", dt.ToString("G"), DateTime.Now, strHtml));
    sw.Dispose();
}