从Internet上抓取指定URL的源码的方案(C#)

原创 2004年10月24日 09:05:00

引言:
  在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下。
  类名GetPageCode,有一个方法GetSource,通过属性传递参数,入参控制的是要取得URL的地址,代理服务器的设置及输出方式的控制,这里大家可以再扩展自己的需要,我这里只提供了两种方式,一种是直接写到本地的某个文件中,另外一种就是返回字符串的。类里已经作了比较详细的注释,我想大家很容易就看明白了,如果实在不明白,那就msn上问吧,MSN:yubo@x263.net

调用方式:
#region 测试获取远程网页
GetPageCode gpc = new GetPageCode();
gpc.Url="http://ppcode.com";
gpc.ProxyState=1;//使用代理服务器,0为不使用,设置为1后下面的代理设置才起作用
gpc.ProxyAddress="http://proxyName.com";//代理服务器地址
gpc.ProxyPort="80";//代理服务器的端口
gpc.ProxyAccount="proxy";//代理服务器账号
gpc.ProxyPassword="password";//代理服务器密码
gpc.ProxyDomain="bqc";//代理服务器
gpc.OutFilePath=filePath;//设置输出文件路径的地方,如果不设置,则返回字符串
gpc.GetSource();//处理
string tempErr=gpc.NoteMessage;//如果出错,这里会提示
string tempCode=gpc.OutString;//返回的字符串
#endregion
类代码:
using System;
using System.Collections;
using System.ComponentModel;
using System.Data;
using System.Drawing;
using System.IO;
using System.Net;
using System.Text;
using System.Web;

  
namespace Test.Com
{
 /// <summary>
 /// 功能:取得Internet上的URL页的源码
 /// 创建:2004-03-22
 /// 作者:Rexsp MSN:yubo@x263.net
 /// </summary>
 public class GetPageCode
 {
  #region 私有变量
  /// <summary>
  /// 网页URL地址
  /// </summary>
  private string url=null;
  /// <summary>
  /// 是否使用代码服务器:0 不使用  1 使用代理服务器
  /// </summary>
  private int proxyState=0;
  /// <summary>
  /// 代理服务器地址
  /// </summary>
  private string proxyAddress=null;
  /// <summary>
  /// 代理服务器端口
  /// </summary>
  private string proxyPort=null;
  /// <summary>
  /// 代理服务器用户名
  /// </summary>
  private string proxyAccount=null;
  /// <summary>
  /// 代理服务器密码
  /// </summary>
  private string proxyPassword=null;
  /// <summary>
  /// 代理服务器
  /// </summary>
  private string proxyDomain=null;
  /// <summary>
  /// 输出文件路径
  /// </summary>
  private string outFilePath=null;
  /// <summary>
  /// 输出的字符串
  /// </summary>
  private string outString=null;
  /// <summary>
  /// 提示信息
  /// </summary>
  private string noteMessage;

  #endregion

  #region 公共属性
  /// <summary>
  /// 欲读取的URL地址
  /// </summary>
  public string Url
  {
   get{return url;}
   set{url=value;}
  }
  /// <summary>
  /// 是否使用代理服务器标志
  /// </summary>
  public int ProxyState
  {
   get{return proxyState;}
   set{proxyState=value;}
  }
  /// <summary>
  /// 代理服务器地址
  /// </summary>
  public string ProxyAddress
  {
   get{return proxyAddress;}
   set{proxyAddress=value;}
  }
  /// <summary>
  /// 代理服务器端口
  /// </summary>
  public string ProxyPort
  {
   get{return proxyPort;}
   set{proxyPort=value;}
  }
  /// <summary>
  /// 代理服务器账号
  /// </summary>
  public string ProxyAccount
  {
   get{return proxyAccount;}
   set{proxyAccount=value;}
  }
  /// <summary>
  /// 代理服务器密码
  /// </summary>
  public string ProxyPassword
  {
   get{return proxyPassword;}
   set{proxyPassword=value;}
  }
  /// <summary>
  /// 代理服务器
  /// </summary>
  public string ProxyDomain
  {
   get{return proxyDomain;}
   set{proxyDomain=value;}
  }
  /// <summary>
  /// 输出文件路径
  /// </summary>
  public string OutFilePath
  {
   get{return outFilePath;}
   set{outFilePath=value;}
  }
  /// <summary>
  /// 返回的字符串
  /// </summary>
  public string OutString
  {
   get{return outString;}
  
  }
  /// <summary>
  /// 返回提示信息
  /// </summary>
  public string NoteMessage
  {
   get{return noteMessage;}
  
  }
 
  #endregion
 
  #region 构造函数
  public GetPageCode()
  {
  }
  #endregion

  #region 公共方法
  /// <summary>
  /// 读取指定URL地址,存到指定文件中
  /// </summary>
  public void GetSource()
  {
   WebRequest request = WebRequest.Create(this.url);
   //使用代理服务器的处理
   if(this.proxyState==1)
   {
    //默认读取80端口的数据
    if(this.proxyPort==null)
     this.ProxyPort="80";

    WebProxy myProxy=new WebProxy();
    myProxy = (WebProxy)request.Proxy;
    myProxy.Address = new Uri(this.ProxyAddress+":"+this.ProxyPort);
    myProxy.Credentials = new NetworkCredential(this.proxyAccount, this.proxyPassword, this.ProxyDomain);
    request.Proxy = myProxy;
   }
   try
  
   {
    //请求服务
    WebResponse response = request.GetResponse();
    //返回信息
    Stream resStream = response.GetResponseStream();
    StreamReader sr = new StreamReader(resStream, System.Text.Encoding.Default);
    string tempCode= sr.ReadToEnd();
    resStream.Close();
    sr.Close();

    //如果输出文件路径为空,便将得到的内容赋给OutString属性
    if(this.outFilePath==null)
    {
     this.outString=tempCode;
    }
    else
    {

     FileInfo fi = new FileInfo(this.outFilePath);
     //如果存在文件则先干掉
     if(fi.Exists)
      fi.Delete();
  
     StreamWriter sw = new StreamWriter(this.outFilePath,true,Encoding.Default);
     sw.Write(tempCode);
     sw.Flush();
     sw.Close();
    }
   }
   catch
   {
    this.noteMessage="出错了,请检查网络是否连通;";
   }


  }
  #endregion

 }
}

从Internet上抓取指定URL的源码的方案

引言:  在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下。...
  • nileel
  • nileel
  • 2007年04月17日 12:15
  • 987

Internet上抓取指定URL的源码的方案(C#)

类名GetPageCode,有一个方法GetSource,通过属性传递参数,入参控制的是要取得URL的地址,代理服务器的设置及输出方式的控制,这里大家可以再扩展自己的需要,我这里只提供了两种方式,一种...
  • MadeInJack
  • MadeInJack
  • 2008年03月28日 12:56
  • 234

从Internet上抓取指定URL的源码的方案(C#)-.NET教程,C#语言

引言:    在做无线项目的时候,与通讯公司的数据通讯有一部分是通过xml交互的,所以必须要动态抓取通讯公司提供的固定的internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享...
  • javaweb_research
  • javaweb_research
  • 2011年07月30日 11:18
  • 515

[收藏]从Internet上抓取指定URL的源码的方案(C#)

 调用方式:#region 测试获取远程网页GetPageCode gpc = new GetPageCode();gpc.Url="http://ppcode.com/";gpc.ProxyStat...
  • rockethead
  • rockethead
  • 2004年12月17日 16:31
  • 782

从Internet上抓取指定URL的源码的方案(C#)

 引言:  在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下...
  • 3cts
  • 3cts
  • 2004年10月22日 10:17
  • 1212

从Internet上抓取指定URL的源码的方案(C#)

 zyvslxl 于 2004年 10月16日 发表 from:http://blog.blogchina.com/article_49413.178037.html引言:  在做无线项目的时候,与通...
  • uuty
  • uuty
  • 2004年10月17日 19:50
  • 1015

C#抓取百度和谷歌的搜索结果(标题和链接) 代码整理

     这两天公司让做一个小的功能就是抓取百度和谷歌的搜索结果,把搜索到的标题和链接一一提取出来。其实页面是很好提取的,主要的问题就是正则表达式处理下载下来的页面。于是在论坛上请教了大家,在大家的帮...
  • lsgy2008
  • lsgy2008
  • 2011年04月08日 09:12
  • 7473

C#实现从Internet上抓取指定URL的源码的方案

引言:  在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下。...
  • evenbing
  • evenbing
  • 2008年01月28日 18:11
  • 593

用.NET从网上抓取指定URL源码的方案

来源: cnse   $0志槼A烨N    在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定...
  • Hilin
  • Hilin
  • 2006年08月29日 12:51
  • 934

抓取网页所有url的简单Python爬虫源码

抓取网页所有url的简单Python爬虫源码,只用到了一个Python标准库urllib模块,没有用BeautifulSoup第三方库。 简单Python爬虫源码发,如下: ...
  • liujiayu2
  • liujiayu2
  • 2015年10月18日 22:17
  • 1419
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:从Internet上抓取指定URL的源码的方案(C#)
举报原因:
原因补充:

(最多只允许输入30个字)