eclipse创建scrapy项目

1.
您必须创建一个新的Scrapy项目。 进入您打算存储代码的目录中(比如否F:/demo),运行下列命令:

scrapy startproject tutorial
2.在eclipse中创建一个python项目 ,在F:/demo目录下 把刚创建的项目 tutorial 和scrapy.cfg配置文件拷入 eclipse下的python项目中

[color=red]3.在python项目下tutorial/spiders下创建一个py文件(例如:myblog.py)
代码:[/color]

# -*- coding: utf-8 -*-
import scrapy
from tutorial.items import IteyeItem #导入item
from scrapy.selector import HtmlXPathSelector

class MyblogSpider(scrapy.Spider):
name = "myblog"
allowed_domains = ["886.iteye.com"] #服务器 post
start_urls = (
'http://886.iteye.com/',
'http://st4024589553.iteye.com/'
)

def parse(self, response):
lis = response.xpath("//div[@class='blog_main']/div[1]/h3") #增加xpath
item = IteyeItem()
for li in lis:

title= li.xpath('a/text()').extract()[0]
print li.xpath('a/text()').extract()[0]
item['title']=title
item['link']=li.xpath('a/@href').extract()
yield item
[color=red]4.在tutorial下创建 cmdline.py 文件[/color]
代码:
# coding=utf-8
'''
Created on 2017年2月5日

@author: chenkai
'''
import scrapy.cmdline

'''
cmdline.py用于启动scrapy项目,其中argv第三个参数为启动爬虫的名字。如下图
'''
if __name__ == '__main__':
scrapy.cmdline.execute(argv=['scrapy','crawl','myblog']) #myblog myblog.py中name


5.
[color=red]代码编辑好后,右键cmdline.py -->Debug As -->Run config.... -->右键Python Run-->new
-->project 选择你创建的python项目 --》Main Module 选择项目下的cmdline.py文件即可
apply一下[/color]

[color=red]6.编辑tutorial/items.py 文件[/color]
代码:
# -*- coding: utf-8 -*-

import scrapy

class IteyeItem(scrapy.Item):
title = scrapy.Field()
link = scrapy.Field()


[color=red]7.
(1)现在可以直接运行cmdline.py文件 run 输出信息
(2)也可以在提示符窗口里运行,cmd -->scrapy crawl myblog 同样可以启动

[/color]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值