爬虫频繁访问我的网站
试验form的POST之前,先将django的CSRF注释掉。
再放爬虫来访问网页,测试网站稳定性。
import json, requests, sys
from bs4 import BeautifulSoup
# 打开网页,判断为静态网页
def scrapy_get():
url ='http://127.0.0.1:8000'
response = requests.get(url)
print(response.status_code)
scrapy_get()
# # 爬取数据 并保存数据
# pageSource = response.text # 获取Elements中渲染完成的网页源代码
# soup = BeautifulSoup(pageSource,'html.parser') # 使用bs解析网页
# print(soup)
def scrapy_post():
url ='http://127.0.0.1:8000'
# data={'sitedata': '---','statusdata':'1-todo',}
data={'username': '****','password':'****','statusdata':'1-todo',}
response = requests.post(url,data=data)
print(response.status_code)
pageSource = response.text # 获取Elements中渲染完成的网页源代码
soup = BeautifulSoup(pageSource,'html.parser') # 使用bs解析网页
print(soup)
for i in range(100):
scrapy_post()