ASP.NET获取远程网页下载到本地文件

通过ASP.NET生成静态文件的文章网上有好多文章，而本站也有不少的相关文章教程，通常ASP.NET生成静态文件的做法是使用文件流读取模板内容，之后替换模板内容中相关关键字，再生成静态文件。本文的做法另类一点，通过URL来生成静态文件，下面来看下是如何实现吧。

创建一个TestWeb.aspx文件，这个文件后台.cs的代码做法步骤如下：

第1步：先引用如下命令空间

using System;

using System.Net;
using System.IO;
using System.Text;

第2步：创建获取远程URL并生成文件的方法与文件夹不存在则自动建立方法

获取远程URL并生成文件的代码：

 C# Code [http://www.xueit.com]

<!-- Code highlighting produced by Actipro CodeHighlighter (freeware) http://www.CodeHighlighter.com/ --> /// <summary> /// 生成网页文件 /// </summary> /// <param name="url"> 远程URL </param> /// <param name="filename"> 生成文件名路径 </param> /// <param name="pagecode"> 目标URL页面编码 </param> protected void DownUrltoFile( string url, string filename, string pagecode) { try { // 编码 Encoding encode = Encoding.GetEncoding(pagecode); // 请求URL HttpWebRequest req = (HttpWebRequest)WebRequest.Create(url); // 设置超时(10秒) req.Timeout = 10000 ; this .NotFolderIsCreate(filename); // 获取Response HttpWebResponse rep = (HttpWebResponse)req.GetResponse(); // 创建StreamReader与StreamWriter文件流对象 StreamReader sr = new StreamReader(rep.GetResponseStream(),encode); StreamWriter sw = new StreamWriter(Server.MapPath(filename), false ,encode); // 写入内容 sw.Write(sr.ReadToEnd()); // 清理当前缓存区，并将缓存写入文件 sw.Flush(); // 释放相关对象资源 sw.Close(); sw.Dispose(); sr.Close(); sr.Dispose(); Response.Write( " 生成文件 " filename " 成功 " ); } catch (Exception ex) { Response.Write( " 生成文件 " filename " 失败，原因： " ex.Message); } }

以上代码关键知识点，通过HttpWebRequest、HttpWebResponse请求获取远程URL数据，之后使用StreamReader、StreamWriter文件流读写数据写入文件，注意还有编码Encoding。

文件夹不存在则自动建立的代码：

 C# Code [http://www.xueit.com]

<!-- Code highlighting produced by Actipro CodeHighlighter (freeware) http://www.CodeHighlighter.com/ --> /// <summary> /// 文件夹不存在则创建 /// </summary> /// <param name="filename"> 文件名所在路径 </param> protected void NotFolderIsCreate( string filename) { string fileAtDir = Server.MapPath(Path.GetDirectoryName(filename)); if ( ! Directory.Exists(fileAtDir)) Directory.CreateDirectory(fileAtDir); }

下面我们看下如何调用生成文件。

在Page_Load中调用DownUrltoFile()方法，以获取百度首页生成静态文件

 

 C# Code [http://www.xueit.com]

<!-- Code highlighting produced by Actipro CodeHighlighter (freeware) http://www.CodeHighlighter.com/ --> protected void Page_Load( object sender, EventArgs e) { // 调用方法 this .DownUrltoFile( " http://www.baidu.com " , "html /baidu.htm " , " GB2312 " ); }

因为百度首页是Gb2312编码，所以上面的调用方法输入GB2312。我们来看下生成的效果图：

运行效果图1

生成后文件

 

打开生成的静态文件

怎么样，不错吧。

有了这个方法，可以很简单的通过动态文件URL来生成静态文件了，比如：

新闻资讯表article有一个字段htmlFile，保存资讯文件名的，内容如html/news/20091224-001.html，在后台添加保存文章后，调用方法：

 Code [http://www.xueit.com]

<!-- Code highlighting produced by Actipro CodeHighlighter (freeware) http://www.CodeHighlighter.com/ --> DownUrltoFile( "http://www.xueit.com/show.aspx?pid=1 " , " html/news/20091224-001.html " , " GB2312 " );

其中URL：http://www.xueit.com/show.aspx?pid=1 是动态显示文章，html/news/20091224-001.html是表字段htmlFile预先保存的文件名，这样就可以生成静态文件了。

以上的做法是不使用模板来生成静态文件的方法，只是换个思路来做，有好建议可以上我的站 一起来交流下。