python 定时抓取

from selenium.webdriver.common.keys import Keys
from selenium import webdriver
import pandas as pd
import time



#driver = webdriver.Chrome()
driver = webdriver.Firefox()

def getPage(driver):
	data=[]
	driver.get("url")
	#driver.page_source
	element=driver.find_element_by_css_selector('html')
	html=element.get_attribute('outerHTML')
	#do sonme analyze
	
	c=element.find_elements_by_css_selector(".jiedian")
	index=0
	for i in c:
	    if i.find_elements_by_css_selector(".ec-tuiguang") and i.find_elements_by_css_selector(".ec_title"):
	        t=i.find_element_by_css_selector(".ec_title h3")
	        u=i.find_element_by_css_selector("span.c-showurl")
	        item=[time.strftime("%Y-%m-%d %H:%M:%S", time.localtime()),str(index),t.text,u.text]
	        data.append(item)
	        print "/".join(item)
	        index+=1
	        
	return data
	
allData=[]
for j in range(0,10):
  d=getPage(driver)
  allData.extend(d)
  time.sleep(10)
  
df=pd.DataFrame(allData,columns=['time','index','title','url'])
df.to_csv("data.csv",encoding='utf8',index=False)

driver.close()

 

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值