- 博客(7)
- 资源 (1)
- 收藏
- 关注
原创 uWSGI + Nginx 部署 Django 项目笔记
最近学习 Python 时接触到了项目部署的问题,之前已经写过一篇使用 Apache 进行部署的笔记,这一篇对更加常用的 uwsgi + Nginx 方案进行部署,同时使用 Fabric 进行服务端的自动更新重载,避免了每次更新代码之后都要手动上传的麻烦。
2017-05-22 15:30:39 1687
原创 Scrapy 入门笔记(4) --- 使用 Pipeline 保存数据
最近学习用 Scrapy 框架写爬虫,将学习过程中用到的解析技术,Scrapy 的各个模块使用与进阶到分布式爬虫学到的知识点、遇到的问题以及解决方法记录于此,以作总结与备忘,也希望对需要的同学有所帮助。本篇主要讲解 pipeline 保存数据模块的使用,包括将数据存储为 Json 文件,存储到 MySQL 数据库以及图片的下载
2017-05-18 15:57:48 23186 6
原创 Scrapy 入门学习笔记(3) -- 使用 Item 类转换传输数据以及ItemLoader 机制解析
最近学习用 Scrapy 框架写爬虫,简单来说爬虫就是从网上抓取网页,解析网页,然后进行数据的存储与分析,将从网页的解析到数据的转换存储。将学习过程中用到的解析技术,Scrapy 的各个模块使用与进阶到分布式爬虫学到的知识点、遇到的问题以及解决方法记录于此,以作总结与备忘,也希望对需要的同学有所帮助。本篇主要讲解 Item 类封装数据以及 ItemLoader 加载数据机制。
2017-05-18 14:02:16 6142
原创 数据库开发规范参考
最近做一个小项目时要自行设计数据库,因此对数据库的相关设计规范进行了回顾,整理起来作为总结备忘,也为以后的数据库设计提供参考。
2017-05-18 13:56:33 1172
原创 Scrapy 入门学习笔记(2) -- xpath 与 css 解析以及解析网页示例
最近学习用 Scrapy 框架写爬虫,简单来说爬虫就是从网上抓取网页,解析网页,然后进行数据的存储与分析,将从网页的解析到数据的转换存储。将学习过程中用到的解析技术,Scrapy 的各个模块使用与进阶到分布式爬虫学到的知识点、遇到的问题以及解决方法记录于此,以作总结与备忘,也希望对需要的同学有所帮助。本篇主要讲解 xpath 、css 解析网页的语法以及在 Scrapy 中的使用
2017-05-15 20:33:24 11463 1
原创 Apache 部署 Django 项目过程记录与问题总结
最近学习 Django 框架开发,将项目部署到 Linux 服务器上时遇到了很多坑,在此整理一下以作备忘,同时希望对需要的同学有所帮助。
2017-05-12 08:44:24 1642
原创 Scrapy 入门学习笔记(1) -- Scrapy 项目搭建与架构介绍
最近学习用 Scrapy 框架写爬虫,简单来说爬虫就是从网上抓取网页,解析网页,然后进行数据的存储与分析,将从网页的解析到数据的转换存储。将学习过程中用到的解析技术,Scrapy 的各个模块使用与进阶到分布式爬虫学到的知识点、遇到的问题以及解决方法记录于此,以作总结与备忘,也希望对需要的同学有所帮助。
2017-05-12 08:37:03 1260
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人