空闲间写了个java的使用httpClient和Jsoup去获取京东商品信息的接口,然后存储到数据库中。
中间发现一个问题,我们使用httpclient api通过京东url去获取信息:
//获取HttpClient对象 CloseableHttpClient httpClient = HttpClients.custom().setConnectionManager(cm).build(); //声明httpGet请求对象 HttpGet httpGet = new HttpGet(url);
返回结果:
<script>window.location.href='https://passport.jd.com/uc/login'</script>
这个意思是需要跳转到京东登录页面进行登录,解决方法:
设置一下头信息:模拟环境
httpGet.setHeader("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:62.0) Gecko/20100101 Firefox/62.0");