python爬取aspx数据_用python抓取.aspx页面

本文介绍了如何使用Python的urllib和BeautifulSoup库来抓取和处理.aspx页面。通过构造HTTP POST请求,获取并填充VIEWSTATE和VIEWSTATEGENERATOR等关键参数,尝试模拟表单提交,但发现即使改变某些字段值,输出结果不变,寻求问题解决线索。
摘要由CSDN通过智能技术生成

使用互联网上的资源,我组合了以下HTTP POST请求:import urllib

from bs4 import BeautifulSoup

headers = {

'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',

'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.17 (KHTML, like Gecko) Chrome/24.0.1312.57 Safari/537.17',

'Content-Type': 'application/x-www-form-urlencoded',

'Accept-Encoding': 'gzip,deflate,sdch',

'Accept-Language': 'en-US,en;q=0.8',

'Accept-Charset': 'ISO-8859-1,utf-8;q=0.7,*;q=0.3'

}

class MyOpener(urllib.FancyURLopener):

version = 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.17 (KHTML, like Gecko) Chrome/24.0.1312.57 Safari/537.17'

myopener = MyOpener()

url = 'http://www.foodemissions.com/foode

你可以通过以下步骤使用 Python 爬取京东购物车: 1. 安装必要的库:requests、BeautifulSoup、selenium。 2. 使用 requests 库向京东登录页面发送请求,获取到登录页面的 HTML。 3. 使用 BeautifulSoup 库解析登录页面的 HTML,获取到登录所需的参数,如 cookie、token 等。 4. 使用 selenium 库打开浏览器,模拟用户登录京东网站。 5. 登录成功后,访问购物车页面,获取购物车页面的 HTML。 6. 使用 BeautifulSoup 库解析购物车页面的 HTML,获取购物车中商品的信息,如商品名称、价格、数量等。 7. 将商品信息存储到本地文件或数据库中。 8. 关闭浏览器,结束程序。 示例代码如下: ```python import requests from bs4 import BeautifulSoup from selenium import webdriver # 请求登录页面 login_url = 'https://passport.jd.com/new/login.aspx' response = requests.get(login_url) # 解析登录页面,获取登录所需参数 soup = BeautifulSoup(response.text, 'html.parser') cookie = soup.find('input', {'id': 'uuid'})['value'] token = soup.find('input', {'name': 'token'})['value'] # 模拟用户登录京东网站 username = 'your_username' password = 'your_password' driver = webdriver.Chrome() driver.get(login_url) driver.find_element_by_link_text('账户登录').click() driver.find_element_by_id('loginname').send_keys(username) driver.find_element_by_id('nloginpwd').send_keys(password) driver.find_element_by_id('loginsubmit').click() # 登录成功后访问购物车页面 cart_url = 'https://cart.jd.com/cart.action' driver.get(cart_url) cart_html = driver.page_source # 解析购物车页面,获取商品信息 cart_soup = BeautifulSoup(cart_html, 'html.parser') items = cart_soup.find_all('div', {'class': 'item-item'}) for item in items: name = item.find('div', {'class': 'p-name'}).text.strip() price = item.find('div', {'class': 'p-price'}).text.strip() quantity = item.find('div', {'class': 'p-num'}).text.strip() print(name, price, quantity) # 关闭浏览器 driver.quit() ``` 注意:请勿使用爬虫程序恶意抓取京东数据,以免触犯相关法律法规。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值