美文网首页
goquery库的使用

goquery库的使用

作者: gurlan | 来源:发表于2020-04-01 14:41 被阅读0次

    简介

    goquery为Go语言带来了类似于jQuery的语法和一组特性。它基于Go的net / html包和CSS Selector库cascadia。由于net / html解析器返回节点,而不是功能齐全的DOM树,因此jQuery的有状态操作函数(如height(),css(),detach())已经停止。

    此外,因为net / html解析器需要UTF-8编码,所以goquery也是如此:调用者有责任确保源文档提供UTF-8编码的HTML。有关执行此操作的各种选项

    安装

    go get github.com/PuerkitoBio/goquery
    

    选择器

    基于HTML Element 元素的选择器
    就是基于a,p等这些HTML的基本元素进行选择。
    使用方法 :使用语法为 dom.Find(“p”),匹配文档中所有的p标签。

    ID 选择器

    ID选择器是我们使用最频繁的,假如我们有2个p元素,其实我们只需要其中的一个,那么我们只需要给这个标记一个唯一的id即可,这样我们就可以使用id选择器,精确定位了。
    使用方法 :id选择器以#开头,紧跟着元素id的值,使用语法为
    dom.Find("#title") ,匹配文档中所有的 id=title的内容
    如果多个标签的ID都是title,我们可以指定某一个标签,如dom.Find(“p#title”)

    Class选择器

    类选择跟ID选择器一样都是使用很频繁的,我们可以通过类选择器快速筛选到需要的内容。
    使用方法 : id选择器以.开头,紧跟着元素class的值,使用语法为dom.Find(".content1"),匹配文档中所有的 id=title的元素。
    类选择权器跟ID选择器一样,也可以指定某一个标签dom.Find(“div.content1”)

    属性选择器

    一个HTML元素都有自己的属性以及属性值,所以我们也可以通过属性和值筛选元素。
    使用方法 :我们可以通过元素的属性和属性值来筛选数据,使用语法为dom.Find("p[class=content1],匹配文档中所有的 p标 签的class属性是content1的元素。
    当然我们这里以class属性为例,还可以用其他属性,比如href等很多,自定义属性也是可以的。

    更多选择器请参考:飞雪无痕 的 《golang goquery selector(选择器) 示例大全》
    原文链接:https://www.flysnow.org/2018/01/20/golang-goquery-examples-selector.html

    内置函数

    1)类似函数的位置操作

    Eq(index int) *Selection //根据索引获取某个节点集
    First() *Selection //获取第一个子节点集
    Last() *Selection //获取最后一个子节点集
    Next() *Selection //获取下一个兄弟节点集
    NextAll() *Selection //获取后面所有兄弟节点集
    Prev() *Selection //前一个兄弟节点集
    Get(index int) *html.Node //根据索引获取一个节点
    Index() int //返回选择对象中第一个元素的位置
    Slice(start, end int) *Selection //根据起始位置获取子节点集

    2)循环遍历选择的节点

    Each(f func(int, *Selection)) *Selection //遍历
    EachWithBreak(f func(int, *Selection) bool) *Selection //可中断遍历
    Map(f func(int, *Selection) string) (result []string) //返回字符串数组

    3)检测或获取节点属性值

    Attr(), RemoveAttr(), SetAttr() //获取,移除,设置属性的值
    AddClass(), HasClass(), RemoveClass(), ToggleClass()
    Html() //获取该节点的html
    Length() //返回该Selection的元素个数
    Text() //获取该节点的文本值

    4)在文档树之间来回跳转(常用的查找节点方法

    Children() //返回selection中各个节点下的孩子节点
    Contents() //获取当前节点下的所有节点
    Find() //查找获取当前匹配的元素
    Next() //下一个元素
    Prev() //上一个元素
    使用示例:
    这里示例是爬取一个电影网站中电影的信息:
    网页地址为:http://www.haokongbu.com/dongzuopian/144016.html

    c := colly.NewCollector()
    c.UserAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 Edge/16.16299"
    
    ///On every a element which has href attribute call callback
    c.OnHTML("body", func(e *colly.HTMLElement) {
        dom := e.DOM
        //电影海报
        poster, _ := dom.Find(".poster").Find("img").Attr("src")
        
        intro := dom.Find(".intro")
        //电影名称
        movieName := intro.Find("h2").Text()
        
        lis := intro.Find("ul").Find("li")
        //电影豆瓣评分
        score := lis.Eq(0).Find("font").Text()
        //时长
        length := lis.Eq(1).Find("span").Text()
        //导演
        doctor := lis.Eq(2).Find("span").Text()
        //年代
        time := lis.Eq(3).Find("span").Text()
        //地区
        country := lis.Eq(4).Find("span").Text()
        //类型
        category := lis.Eq(5).Find("span").Text()
        //语言
        language := lis.Eq(6).Find("span").Text()
        //编剧
        scriptwriter := lis.Eq(7).Find("span").Text()
        //影片别名
        alias := lis.Eq(8).Find("span").Text()
        //上映时间
        releaseDate := lis.Eq(10).Find("span").Text()
        //主演
        actors := lis.Eq(11).Find("span").Text()
        //关键字
        keyword := lis.Eq(12).Find("span").Text()
    
        baiduyunaddres := dom.Find(".baiduyunaddres").Eq(0)
        //下载地址
        downloadInfos := make([]DownLoadInfo, 0)
        //在线播放地址
        onlinePlayUrls := make([]OnlinePlayUrl, 0)
    
        baiduyunaddres.Find("ul").Find("li").Each(func(i int, selection *goquery.Selection) {
            way := selection.Find("span").Text()
            href, _ := selection.Find("a").Attr("href")
            title := selection.Find("a").Text()
            if way == "在线" {
                if href != "" {
                    playUrl := "https://www.haokongbu.com" + href
                    movieUrl := GetPlayUrl(playUrl)
                    onlinePlayUrls = append(onlinePlayUrls, OnlinePlayUrl{Title: title, MovieUrl: movieUrl})
    
                }
                //fmt.Println(playUrl)
            } else {
                    downloadInfos = append(downloadInfos, DownLoadInfo{Way: way, Title: title, Href: href})
            }
        })
        //电影简介
        introduction, _ := dom.Find(".movietext").Find(".introduction").Html()
    })
    
    c.Visit("http://www.haokongbu.com/dongzuopian/144016.html")
    

    相关文章

      网友评论

          本文标题:goquery库的使用

          本文链接:https://www.haomeiwen.com/subject/hafauhtx.html