博客下载工具 源码

在这篇文章里面,我写了如何制作一个下载工具的思路,但是我没有讲我为什么要写这样一个下载工具:

很简单:公司不允许上外网

 

工具的不足:

上面的那个工具有一点不足,它只能搜索博客园的某个名人的博客文章,但是有时候我想要搜索的可能是某个关键字,比如当我需要silverlight的资料的时候,我可能会将我知道的几个博客中搜到的silverlight的文章全部下过来,比如msdn,codeproject,stackoverflow,博客园。。

 

解决方案:

可以自动构造搜索的字符串,然后对要下载的链接进行正则匹配。

如下图所示:

image

在这里我想在博客园中下载silverlight的资料,大概是1到500页之间的博客,搜索到的文章必须匹配到正则。

点击生成Url就会生成如下图的Url:

image

 

有了这些Url,自然就需要东西来下载了,

于是我写了一个Client来将Url保存成mhtml文件,这个在我以前的文章中可以找到保存成mhtml的原理。

但是这个使用这种方案有一个我无法解决的问题,那就是保存成mhtml的时候,有时候微软的组件会抛出异常,这个异常无法捕捉,它直接会导致程序退出,我曾经尝试过创建应用程序域来保存mhtml,但是依然会导致整个程序退出,所以我写了一个server来监视client,如果client退出的话,server就重启client,

image

 

在这里选择了包含下载路径的download.txt,点击开启跟踪就会自动下载了,client是后台运行的。

image

 

上面演示了如何从博客园下载关于silverlight的文章。

下面是msdn的:

image

image

 

下面是CodeProject的:

image

image

 

 

这个工具是一年前写的,时间比较仓促,代码命名是不推荐的,尚未进行代码重构,希望大家对代码本身的质量不要太过执着。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
本程序用java编写,运行的时候需要JDK1.5或以上环境,无需安装。程序通过分析博客园博 客源码来生成一些必要的数据,可能在以后使用当中出现爬取不了的情况,可能是博客园的源码 结构修改了。程序只是用于学习之用,严禁用于非法目的而照成博客园服务器过载。 由于生成PDF的时候需要依赖字库,所以在打包程序的时候把一些必要的字库已经放到程序中 去了。可能在生成一些PDF文件的时候出现乱码问题,那是因为里面缺少需要的字库,如遇到这 个问题,请和本人联系:wyphao.2007@163com fonts文件夹是生成pdf文件依赖的字体库,如果生成的pdf文件是乱码,说明缺少相关的字体。 #################################################### 程序功能: 1、支持输入博客博客用户名针对性下载 2、支持选择保存下载的文件 保存的结构目录为: 选择的保存路径\博客园用户名\pdf 生成的PDF文件保存路径 选择的保存路径\博客园用户名\doc 生成的DOC文件保存路径 选择的保存路径\博客园用户名\txt 生成的TXT文件保存路径 3、支持获取用户博客信息 4、支持显示用户所有的帖子列表 5、可以自己选择需要下载的帖子,有全选、反选、重置按钮 6、支持下载的文件保存为 pdf、doc、txt三种格式 7、生成的pdf、doc文件支持图片 8、支持进度显示 #################################################### 制作时间:2012年07月21日 - 2012年07月21日 制 作:w397090770 个人博客:http://blog.csdn.net/w397090770 Email :wyphao.2007@163.com 版权所有,翻版不究 ####################################################
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值