go并发爬取图片

package main
 
import (
    "fmt"
    "strconv"
    "net/http"
    "io/ioutil"
    "regexp"
    "strings"
)
 
func main(){
    writeChan := make([]chan int,26)
    for i:=0;i<26;i++{
        writeChan[i] = make(chan int)
        go DownloadOnePage(i,writeChan[i])
    }
    for _,ch := range writeChan{
        <-ch 
    }
    
}
 
func DownloadOnePage(index int, writeChan chan int){
    var url = "http://www.umei.cc/p/gaoqing/cn/"+strconv.Itoa(index+1)+".htm"
    var pageStr = GetStrByUrl(url)
    var match = regexp.MustCompile(`src="(https?:.*.jpg)"`)
    var results = match.FindAllStringSubmatch(pageStr,-1)
    for _, result := range results{
        fmt.Println("title:", result[1])
        var imageUrl = result[1] 
        var fileName = strings.Split(imageUrl,"/")
        var filePath = "D:/go_project/practice/image/"+fileName[len(fileName)-1]
        DownloadImg(result[1],filePath)
    }
    writeChan <- 1
}
 
func GetStrByUrl(url string) string {
    resp, err := http.Get(url)
    fmt.Println(resp)
    if nil != err{
        fmt.Println(err)
    }
    defer resp.Body.Close()
    fmt.Println(resp.StatusCode)
    respBytes, err :=ioutil.ReadAll(resp.Body)
    if nil != err{
        fmt.Println(err)
    }
    respStr := string(respBytes)
    return respStr
}
 
func DownloadImg(imageUrl, fileName string){
    resp, err := http.Get(imageUrl)
    fmt.Println(resp)
    if nil != err{
        fmt.Println(err)
        return 
    }
    defer resp.Body.Close()
    respBytes, err :=ioutil.ReadAll(resp.Body)
    if nil != err{
        fmt.Println(err)
        return
    }
    ioutil.WriteFile(fileName, respBytes, 0666)
}
 
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值