go语言实现抓取高清图片
2019/7/10 22:12:01
本文主要是介绍go语言实现抓取高清图片,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
看到有很多python 的,然后写了个go 的,可以抓取高清图片
getp.go
复制代码 代码如下:
package main
import (
"io/ioutil"
"log"
"net/http"
"os"
"regexp"
"strconv"
"strings"
"sync"
)
var urlist [4]string
var album chan string
var w sync.WaitGroup
var dir string
func main() {
dir = "tmp/"
err := os.Mkdir(dir, 0777)
if err != nil {
isexist := os.IsExist(err)
log.Println(isexist)
}
album = make(chan string, 200)
urlist = [4]string{"http://me2-sex.lofter.com/tag/%E7%BE%8E%E5%A5%B3%E6%91%84%E5%BD%B1?page=", "http://me2-sex.lofter.com/tag/%E6%AC%A7%E7%BE%8E?page=", "http://me2-sex.lofter.com/tag/%E6%A8%A1%E7%89%B9?page=", "http://me2-sex.lofter.com/tag/%E7%BE%8E%E5%AA%9B%E9%A6%86?page="}
for _, v := range urlist {
for i := 1; i <= 20; i++ {
url := v + strconv.Itoa(i)
w.Add(1)
go GetAlbum(url)
w.Wait()
}
}
}
func GetAlbum(url string) {
data := GetUrl(url)
body := string(data)
part := regexp.MustCompile(`<a class="img" href="(.*)">`)
match := part.FindAllStringSubmatch(body, -1)
for _, v := range match {
album <- v[1]
w.Add(1)
go GetItem()
}
w.Done()
}
func GetItem() {
url := <-album
defer func() {
ret := recover()
if ret != nil {
log.Println(ret)
w.Done()
} else {
w.Done()
}
}()
data := GetUrl(url)
if len(data) > 10 {
body := string(data)
part := regexp.MustCompile(`bigimgsrc="(.*)"`)
match := part.FindAllStringSubmatch(body, -1)
for _, v := range match {
str := strings.Split(v[1], "/")
length := len(str)
source := GetUrl(v[1])
name := str[length-1]
file, err := os.Create(dir + name)
if err != nil {
panic(err)
}
size, err := file.Write(source)
defer file.Close()
if err != nil {
panic(err)
}
log.Println(size)
}
}
}
func GetUrl(url string) []byte {
ret, err := http.Get(url)
if err != nil {
log.Println(url)
status := map[string]string{}
status["status"] = "400"
status["url"] = url
panic(status)
}
body := ret.Body
data, _ := ioutil.ReadAll(body)
return data
}
以上所述就是本文的全部内容了,希望对大家熟悉go语言能够有所帮助。
这篇关于go语言实现抓取高清图片的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-23MongoDB身份认证机制揭秘!
- 2024-11-20MongoDB教程:从入门到实践详解
- 2024-11-17执行 Google Ads API 查询后返回的是空数组什么原因?-icode9专业技术文章分享
- 2024-11-17google广告数据不同经理账户下的凭证可以获取对方的api数据吗?-icode9专业技术文章分享
- 2024-11-15SendGrid 的 Go 客户端库怎么实现同时向多个邮箱发送邮件?-icode9专业技术文章分享
- 2024-11-15SendGrid 的 Go 客户端库怎么设置header 和 标签tag 呢?-icode9专业技术文章分享
- 2024-11-12Cargo deny安装指路
- 2024-11-02MongoDB项目实战:从入门到初级应用
- 2024-11-01随时随地一键转录,Google Cloud 新模型 Chirp 2 让语音识别更上一层楼
- 2024-10-25Google Cloud动手实验详解:如何在Cloud Run上开发无服务器应用