索引库就像我们查字典时的检索表,或者大学里图书馆的检索目录。Google的蜘蛛在抓取网页的内容后会直接将这些网页直接放到对应的索引库中。当用户搜索时,只需从索引库中检索用户需要的信息即可。
索引库里根据词语来分类的。虽然互联网的网页每天都在激增,但是每种语言的词语相对固定。比如英语有一百万单词,汉语有8万词语,抓取到的所有网页再除以词语的数量,比如100亿/8万,这些数据量是计算机能够处理的。
索引库就像我们查字典时的检索表,或者大学里图书馆的检索目录。Google的蜘蛛在抓取网页的内容后会直接将这些网页直接放到对应的索引库中。当用户搜索时,只需从索引库中检索用户需要的信息即可。
索引库里根据词语来分类的。虽然互联网的网页每天都在激增,但是每种语言的词语相对固定。比如英语有一百万单词,汉语有8万词语,抓取到的所有网页再除以词语的数量,比如100亿/8万,这些数据量是计算机能够处理的。
转载于:https://my.oschina.net/RiversLau/blog/148472