既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上Go语言开发知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
log.Fatal(err)
}
doc.Find("script").Each(func(i int, s \*goquery.Selection) {
script := s.Text()
fmt.Println("执行Script:", script)
// 执行JavaScript代码
// ...
})
}
在上面的代码中,我们首先通过`http.Get`方法获取到目标网页的内容。然后使用`goquery.NewDocumentFromReader`方法将内容解析为一个可查询的文档对象。通过调用`doc.Find("script")`方法,我们可以找到网页中的所有`<script>`标签。接下来,我们可以遍历这些`<script>`标签,并使用其他方法或库来执行JavaScript代码。
### 方法二:使用chromedp库
chromedp是一个使用Golang编写的Chrome DevTools协议库,它可以模拟浏览器行为,包括触发和执行JavaScript代码。下面是一个使用chromedp库触发JavaScript代码的示例:
package main
import (
“context”
“fmt”
“log”
"github.com/chromedp/chromedp"
)
func main() {
ctx, cancel := chromedp.NewContext(context.Background())
defer cancel()
var result string
err := chromedp.Run(ctx,
chromedp.Navigate("https://www.example.com"),
chromedp.WaitVisible("body", chromedp.ByQuery),
chromedp.Evaluate(`document.title`, &result),
)
if err != nil {
log.Fatal(err)
}
fmt.Println("网页标题:", result)
}
在上述代码中,我们首先创建了一个Chrome浏览器上下文,然后使用`chromedp.Run`方法通过一系列操作来触发JavaScript代码。在这个例子中,我们导航到目标网页并等待`<body>`元素可见。接下来,我们使用`chromedp.Evaluate`方法来执行JavaScript代码`document.title`,并将结果存储在`result`变量中。
### 选择合适的方法
选择合适的方法取决于你的具体需求。如果你只需要解析HTML内容并找到JavaScript代码,然后使用其他方法或库来执行代码,那么goquery库就足够了。然而,如果你需要模拟浏览器行为、触发JavaScript代码并获取其执行结果,那么chromedp库可能更适合你。
无论你选择哪种方法,都需要记住JavaScript的执行是在浏览器环境中进行的,因此你需要确保你的机器上安装了Chrome浏览器或其他支持Chrome DevTools协议的浏览器。此外,chromedp库还依赖Chrome浏览器的headless模式,因此你可能需要配置一些额外的设置来启用它。
### 使用场景
触发JavaScript代码在爬虫程序中具有广泛的应用场景。以下是一些常见的使用场景:
1. 动态加载内容:许多网页使用JavaScript来动态加载内容,例如通过AJAX请求或懒加载技术。通过触发JavaScript代码,我们可以获得完整的页面内容,而不仅仅是初始加载时的静态内容。
2. 执行交互操作:有些网页依赖用户与页面进行交互,例如点击按钮、填写表单等。通过触发JavaScript代码,我们可以模拟用户操作并执行这些交互操作。
3. 解析动态生成的内容:一些网页使用JavaScript来生成或修改内容。通过触发JavaScript代码,我们可以获取到最终呈现给用户的内容。
### 案例
#### 案例一:动态加载内容
假设我们要爬取一个新闻网站,该网站使用AJAX技术动态加载新闻列表。在初始加载时,只有部分新闻显示在页面上。当用户滚动到页面底部时,会自动加载更多的新闻。这时候我们就需要触发JavaScript代码来获取完整的新闻列表。
package main
import (
“fmt”
“log”
“net/http”
"github.com/PuerkitoBio/goquery"
)
func main() {
url := “https://example.com/news”
resp, err := http.Get(url)
if err != nil {
log.Fatal(err)
}
defer resp.Body.Close()
doc, err := goquery.NewDocumentFromReader(resp.Body)
if err != nil {
log.Fatal(err)
}
// 找到包含动态加载新闻的JavaScript代码
doc.Find("script").Each(func(i int, s \*goquery.Selection) {
scriptContent := s.Text()
if containsDynamicNews(scriptContent) {
// 触发JavaScript代码,获取完整的新闻列表
fullNewsList := triggerJavaScript(scriptContent)
fmt.Println(fullNewsList)
}
})
}
func containsDynamicNews(scriptContent string) bool {
// 判断JavaScript代码中是否包含动态加载新闻的逻辑
// 返回true或false
}
func triggerJavaScript(scriptContent string) string {
// 执行JavaScript代码,获取完整的新闻列表
// 返回完整的新闻列表
}
使用goquery库可以方便地解析HTML内容并找到JavaScript代码。我们可以找到相应的JavaScript代码,然后通过其他库或方法来模拟用户滚动行为并触发JavaScript代码,从而获取完整的新闻列表。
#### 案例二:执行交互操作
假设我们要从一个在线电商网站上爬取商品信息,该网站使用JavaScript实现了一些交互功能,例如筛选商品、查看评论等。为了获取到特定筛选条件下的商品信息或评论内容,我们需要模拟用户的交互行为并触发相应的JavaScript代码。
package main
import (
“context”
“fmt”
“log”
"github.com/chromedp/chromedp"
)
func main() {
ctx, cancel := chromedp.NewContext(context.Background())
defer cancel()
var result string
err := chromedp.Run(ctx,
chromedp.Navigate("https://example.com/products"),
chromedp.Click("#filterButton"),
chromedp.WaitVisible("#filteredProducts"),
chromedp.InnerHTML("#filteredProducts", &result),
)
if err != nil {
log.Fatal(err)
}
fmt.Println(result)
}
![img](https://img-blog.csdnimg.cn/img_convert/44edfe313f29b377a86c7381e9c0a602.png)
![img](https://img-blog.csdnimg.cn/img_convert/802b40e5baa181fbe80ffaf217ab1267.png)
**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**
**[需要这份系统化的资料的朋友,可以添加戳这里获取](https://bbs.csdn.net/topics/618658159)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**
那么很难做到真正的技术提升。**
**[需要这份系统化的资料的朋友,可以添加戳这里获取](https://bbs.csdn.net/topics/618658159)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**