C#获取远程网页中的所有链接URL

本文介绍网络蜘蛛获取网页中所有链接的方法，实现原理：使用System.Net.WebClient类获取远程网页内容，然后使用URL正则表达式分析Html代码中的链接。代码如下：

using System;
using System.Net;
using System.Text;
using System.Text.RegularExpressions;

namespace HttpGet
{
class Class1
{
[STAThread]
static void Main(string[] args)
{
System.Net.WebClient client = new WebClient();
byte[] page = client.DownloadData("http://news.163.com");
string content = System.Text.Encoding.UTF8.GetString(page);
string regex = "href=[///"///'](http://|//.///|///)?//w+(//.//w+)*(/w+(//.//w+)?)*(///|//?//w*=//w*(&//w*=//w*)*)?[///"///']";
Regex re = new Regex(regex);
MatchCollection matches = re.Matches(content);

System.Collections.IEnumerator enu = matches.GetEnumerator();
while (enu.MoveNext() && enu.Current != null)
{
Match match = (Match)(enu.Current);
Console.Write(match.Value + "/r/n");
}
}
}
}

  

Trackback: http://tb.blog.csdn.net/TrackBack.aspx?PostId=1606253

<script src="http://localhost:82/PromoteIcon.aspx?id=1606253" type="text/javascript"></script> [ 收藏到我的网摘]   冰点发表于 2007年05月12日 20:25:00