web数据管理
KatherinePavlovna
云卷云舒
展开
-
mac pip3安装beautifulsoup4后pycharm无法import
更正:好糗,原来是自己没有把python的目录结构和工程项目文件搞清楚建立工程时有两种:(1)新建一个(2)用existing可以用之前下载的一些文件—————————————————————————————————————————————————————————出现标题的问题的其实真正原因是没有在所建工程下面的文件里面用pip3安装beautifulsou...原创 2019-03-23 19:20:23 · 1301 阅读 · 0 评论 -
mac pip install scrapy报错解决
如上图 输入 pip install scrapy报错 /usr/bin/clang -fno-strict-aliasing -Wsign-compare -fno-common -dynamic -DNDEBUG -g -fwrapv -O3 -Wall -Wstrict-prototypes -arch i386 -arch x86_64 -g -I/Library/Fram...原创 2019-03-18 11:06:10 · 741 阅读 · 0 评论 -
web数据管理课实验:selenium爬虫
从三月到现在,断断续续,写写停停。从scrapy框架换到selenium然后中断了一个月没写,终于,六月初,写完了!所有数据量5G+这次爬取的是丝芙兰的官网、希思黎的官网。爬完才发现原来丝芙兰有100个品牌共计3800+个产品评论2w+产品咨询1w+一部分要展示在网页上的数据存的数据库,另一部分不展示仅存取的数据存的csv。。数...原创 2019-06-23 08:28:11 · 1055 阅读 · 2 评论