我用狐火浏览器抓取csdn咨讯文章的网页源码,发现得到的结果和在浏览器中看到的不一样。
开始我的代码为:
Document doc = Jsoup.connect("http://www.csdn.net/article/2015-10-21/2825979").get();
后来想到要模拟浏览器的行为,于是查看请求头,添加”User-Agent”请求头,这样得到的源码和网页上的是一样的,最好也添加一些其它的请求头
Document doc = Jsoup.connect("http://www.csdn.net/article/2015-10-21/2825979").header("User-Agent",
"Mozilla/5.0 (Windows NT 6.3; WOW64; rv:41.0) Gecko/20100101 Firefox/41.0").get();