python3爬虫下载网页上的pdf

 

 

 

今天在网上看一个课程的讲义，每次都点pdf打开什么的有点麻烦，就想着用爬虫把他们都下载下来。虽然网上资料很多，但毕竟python不是很熟，期间遇到好多问题，不过最终也下载完成了。

 

主要参考了

1 http://blog.csdn.net/baidu_28479651/article/details/76158051

2 廖雪峰关于正则表达式的教程（感觉写的看着有点费劲呢）

电脑上装的是3.6.3。

 

 

针对我想爬的文件进行修改，在这一过程里遇到了（不分先后）：

1.正则表达式里‘_’的匹配问题，他应该是个特殊字符要加转义符‘\_’才能匹配；

2. 解码时遇到不能识别的错误，这里我直接在decode时加上了忽略错误的参数‘ignore’；

3. 匹配的url列表中有很多重复项，下载时有重复工作，这里我先用set把重复项去掉再转换成了list返回（不过这样list顺序就乱了，可以再sort一下）；

4. 创建文件夹前进行了判断，存在时就不创建了，不然碰到文件夹存在程序会终止的；（下载文件时同样是判断下比较好，但这里偷懒了，‘w’参数有对应机制）

5. 获取文件getFile时，有可能爬取到的文件字符串对应