实现了一个搜索引擎,可以检索csdn网站的所有博客文章,当然,最新的文章是没有的。
先说下项目思路吧, 整个项目分为6个子程序:
爬虫1:爬取所有csdn网站的网页,并将爬到的博客文章url存入数据库。(python)
爬虫2:从数据库中取文章url,并爬取文章内容到数据库。(python)
分词程序:利用friso分词库,将所有文章内容切分成词语。(c/c++)
建立倒排索引程序:处理所有分词程序产生的结果文件,建立倒排索引。(c/c++)
搜索程序:将输入句子切分成关键词,并根据关键词和倒排索引文件计算出相关文章的TF-IDF(词频-逆文件频率),最后根据TF-IDF对搜索结果进行排序。(c/c++)
搜索网站:类似百度等搜索引擎,应用的入口,输入搜索的内容,输出搜索的结果。(java)
程序比较复杂,又用到了不同的语言,所以分成了这么多子程序。
下面是最终的运行效果,看起来还不错
主页(百度即视感)
搜索结果:
界面比较简单,不过确实可以搜索了,点击蓝色字就会打开博文原地址。
整个项目做了很多天,做的也很很辛苦,不过做出来后还是相当有成就感的。感兴趣的可以试试。