Django+Scrapy 有空学习下

Django是web框架,python写的,搭配Scrapy,可以实现抓取页面

可以参考这种配置:

linux+mysql+redis+django+scrapy+webkit,其中scrapy+webkit作为抓取端,redis作为链接库存储,mysql作为网页信息存储,django作为爬虫管理界面,快速实现分布式抓取系统的原型。

http://www.searchtb.com/2011/07/%E5%BF%AB%E9%80%9F%E6%9E%84%E5%BB%BA%E5%AE%9E%E6%97%B6%E6%8A%93%E5%8F%96%E9%9B%86%E7%BE%A4.html


今天想在c++程序里调用scrapy,用批处理方式或者CreateProcess创建进程的方式可以调用cmd命令,但一开始运行显示:scrapy不是内部命令或运行程序,后来发现python26\Srcipts目录下的scrapy.bat的作用是 将 scrapy作为可直接运行的命令,所以就在原来的批处理文件中,先运行scrapy.bat,再运行scrapy crawl 等命令。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Django是一个用于快速开发Web应用程序的Python Web框架Scrapy是一个用于爬取网页数据的Python框架。ECharts是一个可视化数据展示的JavaScript图表库。 Django可以作为Web应用程序的后端框架,结合Scrapy来爬取数据并将其存储到数据库中。然后,我们可以使用ECharts来展示这些数据。 首先,我们需要安装DjangoScrapy和ECharts库。使用Django创建一个新的项目,并在其中创建一个应用程序。接下来,使用Scrapy编写一个爬虫,通过定义爬取网页数据的规则来获取所需数据并存储到数据库中。最后,使用Django的模板系统和ECharts库来生成数据可视化的页面。 在Django中,我们可以创建一个视图函数,用于处理用户请求并从数据库中获取数据。然后,将这些数据传递给前端页面,让ECharts来生成图表展示。在前端页面中,我们可以使用ECharts提供的各种图表类型来展示数据,比如折线图、柱状图、饼图等。 在使用ECharts时,我们可以根据数据的特点选择合适的图表类型,并通过设置各种选项来自定义图表的样式和行为。比如,我们可以设置图表的标题、副标题、图例、坐标轴等信息,以及图表的颜色、标记点和线条等样式。 总之,结合DjangoScrapy和ECharts,我们可以快速开发出一个数据爬取、存储和可视化的Web应用程序。这样,我们可以更直观、更方便地展示和分析网页数据,从而得出有价值的结论。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值