HttpWebRequest WebBrowser抓取Web网页数据分析(c#)

通过程序自动的读取其它网站网页显示的信息,类似于爬虫程序。比方说我们有一个系统,要提取BaiDu网站上歌曲搜索排名。分析系统在根据得到的数据进行数据分析。为业务提供参考数据。 为了完成以上的需求,我们就需要模拟浏览器浏览网页,得到页面的数据在进行分析,最后把分析的结构,即整理好的数据写入数据库。那么我们的思路就是:  1、发送HttpRequest请求。  2、接收HttpResponse返回的结果。得到特定页面的html源文件。  3、取出包含数据的那一部分源码。  4、根据html源码生成HtmlDocument,循环取出数据。  5、写入数据库。 程序如下:   //根据Url地址得到网页的html源码 private string GetWebContent(string Url) { string strResult=""; try { HttpWebRequest request = (HttpWebRequest)WebRequest.Create(Url);     //声明一个HttpWebRequest请求 request.Timeout = 30000; //设置连接超时时间 request.Headers.Set("Pragma", "no-cache"); HttpWebResponse response = (HttpWebResponse)request.GetResponse(); Stream streamReceive = response.GetResponseStream(); Encoding encoding = Encoding.GetEncoding("GB2312"); StreamReader streamReader = new StreamReader(streamReceive, encoding); strResult = streamReader.ReadToEnd(); } catch { MessageBox.Show("出错"); } return strResult; } 为了使用HttpWebRequest和HttpWebResponse,需填名字空间引用  using System.Net; 以下是程序具体实现过程: private void button1_Click(object sender, EventArgs e) { //要抓取的URL地址 string Url = "http://list.mp3.baidu.com/topso/mp3topsong.html?id=1#top2"; //得到指定Url的源码   string strWebContent = GetWebContent(Url); richTextBox1.Text = strWebContent;    //取出和数据有关的那段源码 int iBodyStart = strWebContent.IndexOf("", iTableStart); string strWeb = strWebContent.Substring(iTableStart, iTableEnd - iTableStart + 8); //生成HtmlDocument    WebBrowser webb = new WebBrowser(); webb.Navigate("about:blank"); HtmlDocument htmldoc = webb.Document.OpenNew(true); htmldoc.Write(strWeb); HtmlElementCollection htmlTR = htmldoc.getElementsByTagName_r("TR"); foreach (HtmlElement tr in htmlTR) { string strID = tr.getElementsByTagName_r("TD")[0].InnerText; string strName = SplitName(tr.getElementsByTagName_r("TD")[1].InnerText, "MusicName"); string strSinger = SplitName(tr.getElementsByTagName_r("TD")[1].InnerText, "Singer"); strID = strID.Replace(".", ""); //插入DataTable AddLine(strID, strName, strSinger,"0"); string strID1 = tr.getElementsByTagName_r("TD")[2].InnerText; string strName1 = SplitName(tr.getElementsByTagName_r("TD")[3].InnerText, "MusicName"); string strSinger1 = SplitName(tr.getElementsByTagName_r("TD")[3].InnerText, "Singer"); //插入DataTable strID1 = strID1.Replace(".", ""); AddLine(strID1, strName1, strSinger1,"0"); string strID2 = tr.getElementsByTagName_r("TD")[4].InnerText; string strName2 = SplitName(tr.getElementsByTagName_r("TD")[5].InnerText, "MusicName"); string strSinger2 = SplitName(tr.getElementsByTagName_r("TD")[5].InnerText, "Singer"); //插入DataTable strID2 = strID2.Replace(".", ""); AddLine(strID2, strName2, strSinger2,"0"); } //插入数据库 InsertData(dt);     dataGridView1.DataSource = dt.DefaultView; }

阅读更多
想对作者说点什么? 我来说一句

C# 利用WebBrowser获取网页信息

2013年08月01日 792B 下载

没有更多推荐了,返回首页

加入CSDN,享受更精准的内容推荐,与500万程序员共同成长!
关闭
关闭