爬虫—美食天下各类菜谱的菜单信息_爬取美食信息点赞人气

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Golang全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Go语言开发知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注go）

正文

源码

import csv
import os
import random

import requests
from lxml import etree

请求头

head = [‘Mozilla/5.0’, ‘Chrome/78.0.3904.97’, ‘Safari/537.36’]
headers = {
‘user-agent’: head[random.randint(0, 2)]
}

def makedir(path):
path = path.strip()

去除尾部 \ 符号

path = path.rstrip(“\”)
if not os.path.exists(path):
os.mkdir(path)
return True
else:
return False

def getHtml(url):
try:
response = requests.request(“GET”, url=url, headers=headers)
if response.status_code == 200:
response.encoding = ‘utf-8’
return response.text
else:
return response.status_code
except Exception as e:
return e

def htmlToTree(html):
return etree.HTML(html)

def elementToString(element):
return etree.tostring(element, pretty_print=True, encoding=‘utf-8’).decode(‘utf-8’)

def parseHtml(html):
allcategory = []
tree = htmlToTree(html)
path = ‘//div[@class=“wrap”]//div[@class=“category_box mt20”]/div[@class=“category_sub clear”]’
data = tree.xpath(path)
for item in data:
category_list = []
div = elementToString(item)
div_tree = htmlToTree(div)
category = div_tree.xpath(‘//h3/text()’)[0]
category_name = div_tree.xpath(‘//ul/li/a/text()’)
category_url = div_tree.xpath(‘//ul/li/a/@href’)
category_list.append(category)
category_list.append(dict(zip(category_name, category_url)))
allcategory.append(category_list)
return allcategory

def writerCsv(food_list, category_name, name):
try:
title = [key for key in food_list[0].keys()] # 表头的代码去掉
if ‘/’ in name or category_name:
name = name.replace(‘/’, ‘’)
category_name = category_name.replace(‘/’, ‘’)
path = os.path.join(os.getcwd() + ‘\source\{0}’.format(category_name))
flag = makedir(path)
csvdata = open(‘source/{0}/{1}.csv’.format(category_name, name), ‘a’, encoding=‘utf-8’)
dictwriter = csv.DictWriter(csvdata, fieldnames=title)
dictwriter.writeheader()

for data in food_dict:

dictWriter.writerow(data)

dictwriter.writerows(food_list)
csvdata.close()
return True
except Exception as e:
return False

def parseRecipe(html, category_name, name):
tree = htmlToTree(html)
path = ‘//div[@class=“wrap”]//div[@id=“J_list”]/ul/li’

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注Go）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
13232735438)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！