c# 抓取网页类（获取网页中所有信息）

最新推荐文章于 2024-09-11 23:22:02 发布
最新推荐文章于 2024-09-11 23:22:02 发布
阅读量163 收藏
点赞数
文章标签： ui

using System;
using System.Data;
using System.Configuration;
using System.Net;
using System.IO;
using System.Text;
using System.Collections.Generic;
using System.Text.RegularExpressions;
using System.Threading;
using System.Web;
using System.Web.UI.MobileControls;

/// <summary>
/// 网页类
/// </summary>
public class WebPage
{
#region 私有成员
private Uri m_uri; //url
private List<Link> m_links; //此网页上的链接
private string m_title; //标题
private string m_html; //HTML代码
private string m_outstr; //网页可输出的纯文本
private bool m_good; //网页是否可用
private int m_pagesize; //网页的大小
private static Dictionary<string, CookieContainer> webcookies = new Dictionary<string, CookieContainer>();//存放所有网页的Cookie

#endregion

#region 属性

/// <summary>
/// 通过此属性可获得本网页的网址，只读
/// </summary>
public string URL
{
get
{
return m_uri.AbsoluteUri;
}
}

/// <summary>
/// 通过此属性可获得本网页的标题，只读
/// </summary>
public string Title
{
get
{
if (m_title == "")
{
Regex reg = new Regex(@"(?m)<title[^>]*>(?<title>(?:\w|\W)*?)</title[^>]*>", RegexOptions.Multiline | RegexOptions.IgnoreCase);
Match mc = reg.Match(m_html);
if (mc.Success)
m_title = mc.Groups["title"].Value.Trim();
}
return m_title;
}
}
public string M_html
{
get
{
if (m_html == null)
{
m_html = "";
}
return m_html;
}
}
/// <summary>
/// 此属性获得本网页的所有链接信息，只读
/// </summary>
public List<Link> Links
{
get
{
if (m_links.Count == 0) getLinks();
return m_links;
}
}


/// <summary>
/// 此属性返回本网页的全部纯文本信息，只读
/// </summary>
public string Context
{
get
{
if (m_outstr == "") getContext(Int16.MaxValue);
return m_outstr;
}
}

/// <summary>
/// 此属性获得本网页的大小
/// </summary>
public int PageSize
{
get
{
return m_pagesize;
}
}
/// <summary>
/// 此属性获得本网页的所有站内链接
/// </summary>
public List<Link> InsiteLinks
{
get
{
return getSpecialLinksByUrl("^http://" + m_uri.Host, Int16.MaxValue);
}
}

/// <summary>
/// 此属性表示本网页是否可用
/// </summary>
public bool IsGood
{
get
{
return m_good;
}
}
/// <summary>
/// 此属性表示网页的所在的网站
/// </summary>
public string Host
{
get
{
return m_uri.Host;
}
}
#endregion


/// <summary>
/// 从HTML代码中分析出链接信息
/// </summary>
/// <returns>List<Link></returns>
private List<Link> getLinks()
{
if (m_links.Count == 0)
{
Regex[] regex = new Regex[2];
regex[0] = new Regex(@"<a\shref\s*=""(?<URL>[^""]*).*?>(?<title>[^<]*)</a>", RegexOptions.IgnoreCase | RegexOptions.Singleline);
regex[1] = new Regex("<[i]*frame[^><]+src=(\"|')?(?<url>([^>\"'\\s)])+)(\"|')?[^>]*>", RegexOptions.IgnoreCase);

for (int i = 0; i < 2; i++)
{
Match match = regex[i].Match(m_html);
while (match.Success)
{
try
{
string url = HttpUtility.UrlDecode(new Uri(m_uri, match.Groups["URL"].Value).AbsoluteUri);

string text = "";
if (i == 0) text = new Regex("(<[^>]+>)|(\\s)|(&nbsp;)|&|\"", RegexOptions.Multiline | RegexOptions.IgnoreCase).Replace(match.Groups["text"].Value, "");

Link link = new Link();
link.Text = text;
link.NavigateUrl = url;

m_links.Add(link);
}
catch (Exception ex) { Console.WriteLine(ex.Message); };
match = match.NextMatch();
}
}
}
return m_links;
}
/// <summary>
/// 此私有方法从一段HTML文本中提取出一定字数的纯文本
/// </summary>
/// <param name="instr">HTML代码</param>
/// <param name="firstN">提取从头数多少个字</param>
/// <param name="withLink">是否要链接里面的字</param>
/// <returns>纯文本</returns>
private string getFirstNchar(string instr, int firstN, bool withLink)
{
if (m_outstr == "")
{
m_outstr = instr.Clone() as string;
m_outstr = new Regex(@"(?m)<script[^>]*>(\w|\W)*?</script[^>]*>", RegexOptions.Multiline | RegexOptions.IgnoreCase).Replace(m_outstr, "");
m_outstr = new Regex(@"(?m)<style[^>]*>(\w|\W)*?</style[^>]*>", RegexOptions.Multiline | RegexOptions.IgnoreCase).Replace(m_outstr, "");
m_outstr = new Regex(@"(?m)<select[^>]*>(\w|\W)*?</select[^>]*>", RegexOptions.Multiline | RegexOptions.IgnoreCase).Replace(m_outstr, "");
if (!withLink) m_outstr = new Regex(@"(?m)<a[^>]*>(\w|\W)*?</a[^>]*>", RegexOptions.Multiline | RegexOptions.IgnoreCase).Replace(m_outstr, "");
Regex objReg = new System.Text.RegularExpressions.Regex("(<[^>]+?>)|&nbsp;", RegexOptions.Multiline | RegexOptions.IgnoreCase);
m_outstr = objReg.Replace(m_outstr, "");
Regex objReg2 = new System.Text.RegularExpressions.Regex("(\\s)+", RegexOptions.Multiline | RegexOptions.IgnoreCase);
m_outstr = objReg2.Replace(m_outstr, " ");

}
return m_outstr.Length > firstN ? m_outstr.Substring(0, firstN) : m_outstr;
}


#region 公有文法
/// <summary>
/// 此公有方法提取网页中一定字数的纯文本，包括链接文字
/// </summary>
/// <param name="firstN">字数</param>
/// <returns></returns>
public string getContext(int firstN)
{
return getFirstNchar(m_html, firstN, true);
}

/// <summary>
/// 此公有方法从本网页的链接中提取一定数量的链接，该链接的URL满足某正则式
/// </summary>
/// <param name="pattern">正则式</param>
/// <param name="count">返回的链接的个数</param>
/// <returns>List<Link></returns>
public List<Link> getSpecialLinksByUrl(string pattern, int count)
{
if (m_links.Count == 0) getLinks();
List<Link> SpecialLinks = new List<Link>();
List<Link>.Enumerator i;
i = m_links.GetEnumerator();
int cnt = 0;
while (i.MoveNext() && cnt < count)
{
if (new Regex(pattern, RegexOptions.Multiline | RegexOptions.IgnoreCase).Match(i.Current.NavigateUrl).Success)
{
SpecialLinks.Add(i.Current);
cnt++;
}
}
return SpecialLinks;
}

/// <summary>
/// 此公有方法从本网页的链接中提取一定数量的链接，该链接的文字满足某正则式
/// </summary>
/// <param name="pattern">正则式</param>
/// <param name="count">返回的链接的个数</param>
/// <returns>List<Link></returns>
public List<Link> getSpecialLinksByText(string pattern, int count)
{
if (m_links.Count == 0) getLinks();
List<Link> SpecialLinks = new List<Link>();
List<Link>.Enumerator i;
i = m_links.GetEnumerator();
int cnt = 0;
while (i.MoveNext() && cnt < count)
{
if (new Regex(pattern, RegexOptions.Multiline | RegexOptions.IgnoreCase).Match(i.Current.Text).Success)
{
SpecialLinks.Add(i.Current);
cnt++;
}
}
return SpecialLinks;
}

/// <summary>
/// 这公有方法提取本网页的纯文本中满足某正则式的文字
/// </summary>
/// <param name="pattern">正则式</param>
/// <returns>返回文字</returns>
public string getSpecialWords(string pattern)
{
if (m_outstr == "") getContext(Int16.MaxValue);
Regex regex = new Regex(pattern, RegexOptions.Multiline | RegexOptions.IgnoreCase);
Match mc = regex.Match(m_outstr);
if (mc.Success)
return mc.Groups[1].Value;
return string.Empty;
}
#endregion

#region 构造函数

private void Init(string _url)
{
try
{
m_uri = new Uri(_url);
m_links = new List<Link>();
m_html = "";
m_outstr = "";
m_title = "";
m_good = true;
if (_url.EndsWith(".rar") || _url.EndsWith(".dat") || _url.EndsWith(".msi"))
{
m_good = false;
return;
}
HttpWebRequest rqst = (HttpWebRequest)WebRequest.Create(m_uri);
rqst.AllowAutoRedirect = true;
rqst.MaximumAutomaticRedirections = 3;
rqst.UserAgent = "Mozilla/4.0 (compatible; MSIE 5.01; Windows NT 5.0)";
rqst.KeepAlive = true;
rqst.Timeout = 10000;
lock (WebPage.webcookies)
{
if (WebPage.webcookies.ContainsKey(m_uri.Host))
rqst.CookieContainer = WebPage.webcookies[m_uri.Host];
else
{
CookieContainer cc = new CookieContainer();
WebPage.webcookies[m_uri.Host] = cc;
rqst.CookieContainer = cc;
}
}
HttpWebResponse rsps = (HttpWebResponse)rqst.GetResponse();
Stream sm = rsps.GetResponseStream();
if (!rsps.ContentType.ToLower().StartsWith("text/") || rsps.ContentLength > 1 << 22)
{
rsps.Close();
m_good = false;
return;
}
Encoding cding = System.Text.Encoding.Default;
string contenttype = rsps.ContentType.ToLower();
int ix = contenttype.IndexOf("charset=");
if (ix != -1)
{
try
{
cding = System.Text.Encoding.GetEncoding(rsps.ContentType.Substring(ix + "charset".Length + 1));
}
catch
{
cding = Encoding.Default;
}

//该处视情况而定 有的需要解码
//m_html = HttpUtility.HtmlDecode(new StreamReader(sm, cding).ReadToEnd());
m_html = new StreamReader(sm, cding).ReadToEnd();

}
else
{
//该处视情况而定 有的需要解码
//m_html = HttpUtility.HtmlDecode(new StreamReader(sm, cding).ReadToEnd());

m_html = new StreamReader(sm, cding).ReadToEnd();
Regex regex = new Regex("charset=(?<cding>[^=]+)?\"", RegexOptions.IgnoreCase);
string strcding = regex.Match(m_html).Groups["cding"].Value;
try
{
cding = Encoding.GetEncoding(strcding);
}
catch
{
cding = Encoding.Default;
}
byte[] bytes = Encoding.Default.GetBytes(m_html.ToCharArray());
m_html = cding.GetString(bytes);
if (m_html.Split('?').Length > 100)
{
m_html = Encoding.Default.GetString(bytes);
}
}
m_pagesize = m_html.Length;
m_uri = rsps.ResponseUri;
rsps.Close();
}
catch (Exception ex)
{

}
}
public WebPage(string _url)
{
string uurl = "";
try
{
uurl = Uri.UnescapeDataString(_url);
_url = uurl;
}
catch { };
Init(_url);
}
#endregion
}


iteye_12049
关注
c# 网页采集类 （方法）
xi_meng的专栏
07-26 827
class WebCollection { /// /// 获取列表页所有URL链接地址 /// /// 列表页的URL /// 列表页开始的网页源代码 /// 列表页结束的网页源代码 /// 链接开始的网页源代码 /// 链接结束的网页源代码
C# 获取 网页中 的 全部 URL 源代码
06-21
C# 获取网页中的全部 URL 源代码C# 获取网页中的全部 URL 源代码C# 获取网页中的全部 URL 源代码C# 获取网页中的全部 URL 源代码
C#爬取某网站数据
08-24
为某公司写的爬取某网站的资源的C#代码。其中有我写的解析html的库，几乎能提取全所有有效信息
[c#][http]C#获取网页内容的三种方式
最新发布
一名不太专业的程序员
09-11 2342
//若成功取得网页的内容，则以System.IO.Stream形式返回，若失败则产生ProtoclViolationException错 误。//如果获取网站页面采用的是GB2312，则使用这句。///HttpWebRequest类继承于WebRequest，并没有自己的构造函数，需通过WebRequest的Creat方法 建立，并进行强制的类型转换。///返回的内容是Stream形式的，所以可以利用StreamReader类获取GetResponseStream的内容，并以。///定义写入流操作。
一个实用的C#网页抓取类代码分享
weixin_33862993的博客
09-16 129
一个实用的C# 网页抓取类 模拟蜘蛛，类中定义了超多的C#采集文章、网页抓取文章的基础技巧，下面分享代码： using System; using System.Data; using System.Configuration; using System.Net; using System.IO; using System.Text; using System.Collect...
C#抓取网页内容常用类
02-17
C#抓取网页内容常用类
C# 抓取网页内容的方法
09-05
其中，WebRequest 类的 Create 方法用于创建一个新的网页请求，WebResponse 类用于获取网页的响应，Stream 类用于读取响应流中的内容，而 FileStream 类用于将读取的内容写入到文件中。 核心代码如下： ``` ...
C#使用WebClient登录网站并抓取登录后的网页信息实现方法
08-30
在实际开发中，我们经常需要模拟浏览器的行为来登录网站并抓取登录后的网页信息，这时我们可以使用C#中的WebClient类来实现这个功能。下面我们将详细介绍C#使用WebClient登录网站并抓取登录后的网页信息实现方法。 ...
C#爬取数据_详细篇
deer_soul的博客
11-09 5081
C#爬取数据的三种方法
基于C# 网页信息抓取
08-17
本程序编写了一个从网页中抓取信息（如最新的头条新闻，新闻的来源，标题，内容等）的类，而且本程序文件夹中含有word文件，文件将介绍如何使用这个类来抓取网页中需要的信息。文件将以抓取博客园首页的博客标题和链接为例。
C#从指定的网站提取网页内容
11-10
本程序使用多线程从特定网页中提取textarea块中的内容。 具体从http://www.veryhuo.com提取中间演示textarea内的html文本，从(网页特效代码)->(详细分类)->html网页中textarea内容，程序内使用了1.多线程 2.正则表达式 3.web文件读取 4.本地文件保存及编码问题。线程挂起没实现 好像用ThreadPool可以暂停纯种线程。
正则表达式相关：C# 抓取网页类（获取网页中所有信息）
巴萨，足球的艺术
03-20 1008
using System;   using System.Data;   using System.Configuration;   using System.Net;   using System.IO;   using System.Text;   using System.Collections.Generic;   using System.Text.RegularExpre
C#获取网页内容的三种方式
weixin_30287169的博客
09-20 2381
C#通常有三种方法获取网页内容，使用WebClient、WebBrowser或者HttpWebRequest/HttpWebResponse。 方法一：使用WebClient static void Main(string[] args) { try { WebClient MyWebClient = new WebClient(); ...
C#获取网页的内容 （转载）
ccx_john的专栏
12-15 1021
C#获取网页内容的三种方式 搜索网络，发现C#通常有三种方法获取网页内容，使用WebClient、WebBrowser或者HttpWebRequest/HttpWebResponse。。。 方法一：使用WebClient （引用自：http://fbljava.blog.163.com/blog/static/265211742008712105145244/） static voi
C#获取网页内容
12-17 186
using System.Net;using System.IO;using System.Text; //方法一： // Create a request for the URL. WebRequest request = WebRequest.Create("http://www.h...
C# 根据链接提取div内容
weixin_30607659的博客
02-25 593
安装NuGet包 HtmlAgilityPack var wc = new WebClient(); wc.Encoding = Encoding.GetEncoding("UTF-8"); //转格式 var html = wc.DownloadString(url); //获取内容 ...
C#正则表达式实现网页抓取类详解及实例
"C#基于正则表达式实现获取网页中所有信息的网页抓取类实例，通过创建一个名为WebPage的类，该类包含了处理网页URL、链接、标题、HTML代码、纯文本内容以及网页状态等核心功能。类内部使用正则表达式进行网页信息的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值