用R语言foreach包对某个函数进行并行的实例

library("httr") 
library("jsonlite")
library("magrittr")

GETPDF <-  function(i){
  url<-"https://index.toutiao.com/api/report"
  headers<-c(        
    "Host"="index.toutiao.com", 
    "User-Agent"="Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.79 Safari/537.36"
  )
  payload <-list("page"=1,"size"=12)
  payload[["page"]]=i
  web <- GET(url,add_headers(.headers = headers),query = payload)
  content <- web %>% content(as="text",encoding="UTF-8") %>% fromJSON() %>% `[[`(9)  
}

library("doParallel")      #加载doParallel包用于之后注册进程
library("foreach")         #导入foreach包

system.time({
  cl<- makeCluster(4)      
  registerDoParallel(cl)       #进行进程注册
  mydata1 <- foreach(
    i=1:16,          #输入等待请求的参数
    .combine=rbind,  #返回结果的整合
    .packages = c("httr", "jsonlite","magrittr") 
    #多个进程共享的系统环境
  ) %dopar% GETPDF(i)
  stopCluster(cl)
})
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值