以下是一些该课程学习中,难以在网上找到答案,自己的分析,
如有不恰当之处,还请批评指正!
----------------------------------------------------------------------------
1-6 浏览器抓包及headers设置(案例一:抓取知乎)
课后思考:今日头条的翻页方式?
打开官网,https://www.toutiao.com/,可以看到没有翻页按键,页面下拉到7个新闻后,加载更新新的新闻,
页面url没有变化,经验证是ajax加载。
按照步骤(network → clear → 下拉至页面更新),发现几个XHR参数max_behot_time变化有规律。
而双击进该页面,显示中文为unicode编码。
所以找到了今日头条的翻页方式,及其真实请求页面。并且建议只在preview里看内容比较方便。(有几次直接双击进源页面发现一堆英文没反应过来。。。然后就miss掉了。。。)
----------------------------------------------------------------------------
1-7 数据入库及MongoDB(案例二:爬取拉勾)
关于win7系统下(win10目前没有尝试)高版本MongoDB无法在 localhost:27017或localhost:28017 访问的问题(或页面无法正常显示)
</