最后的几天,我们的项目在进行测试和完善,遇到了如服务器代理问题,前端缓存问题等难点,大家一起讨论问题并在指导老师的帮助下完成了项目的调试。
构建任务画像首先收集数据,这里的数据来自微博、B站等国内网站,Facebook、Twitter、纽约时报等国外网站,可以实现静态与动态爬取,通过关键词等进行数据库查找,如果没有的话可以进行实时的爬虫搜索。
在这次的项目实训中,我们练习了完整的项目流程,包括项目需求分析,前后端联调,项目文档编写等工作,大家一起讨论合作,完成了项目整体的工作。在这次项目中,我负责的是推特用户与推文爬虫和纽约时报新闻爬虫两个部分,通过对网页的分析爬取数据保存在数据库中,可根据需求设置静态或动态爬取。
这一次的项目实训共五个周的时间,大家一起合作完成项目,对于提升项目合作意识与项目管理能力提供了很大的帮助,感谢一起努力的组员与提供了很大帮助的老师们。
暑期实训项目(8)-- 项目总结
最新推荐文章于 2021-07-30 21:20:09 发布