2024年最全Golang爬虫如何触发JavaScript代码_golang执行js文件(4)，2024年最新一篇文章帮你解答

2401_84904661

于 2024-05-15 03:33:37 发布

阅读量1k

点赞数 29

文章标签： go 学习面试

本文链接：https://blog.csdn.net/2401_84904661/article/details/138882088

版权

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Go语言开发知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以戳这里获取

方法二：使用chromedp库

chromedp是一个使用Golang编写的Chrome DevTools协议库，它可以模拟浏览器行为，包括触发和执行JavaScript代码。下面是一个使用chromedp库触发JavaScript代码的示例：

package main

import (
	"context"
	"fmt"
	"log"

	"github.com/chromedp/chromedp"
)

func main() {
	ctx, cancel := chromedp.NewContext(context.Background())
	defer cancel()

	var result string
	err := chromedp.Run(ctx,
		chromedp.Navigate("https://www.example.com"),
		chromedp.WaitVisible("body", chromedp.ByQuery),
		chromedp.Evaluate(`document.title`, &result),
	)
	if err != nil {
		log.Fatal(err)
	}

	fmt.Println("网页标题:", result)
}

在上述代码中，我们首先创建了一个Chrome浏览器上下文，然后使用chromedp.Run方法通过一系列操作来触发JavaScript代码。在这个例子中，我们导航到目标网页并等待<body>元素可见。接下来，我们使用chromedp.Evaluate方法来执行JavaScript代码document.title，并将结果存储在result变量中。

选择合适的方法

选择合适的方法取决于你的具体需求。如果你只需要解析HTML内容并找到JavaScript代码，然后使用其他方法或库来执行代码，那么goquery库就足够了。然而，如果你需要模拟浏览器行为、触发JavaScript代码并获取其执行结果，那么chromedp库可能更适合你。

无论你选择哪种方法，都需要记住JavaScript的执行是在浏览器环境中进行的，因此你需要确保你的机器上安装了Chrome浏览器或其他支持Chrome DevTools协议的浏览器。此外，chromedp库还依赖Chrome浏览器的headless模式，因此你可能需要配置一些额外的设置来启用它。

使用场景

触发JavaScript代码在爬虫程序中具有广泛的应用场景。以下是一些常见的使用场景：

动态加载内容：许多网页使用JavaScript来动态加载内容，例如通过AJAX请求或懒加载技术。通过触发JavaScript代码，我们可以获得完整的页面内容，而不仅仅是初始加载时的静态内容。
执行交互操作：有些网页依赖用户与页面进行交互，例如点击按钮、填写表单等。通过触发JavaScript代码，我们可以模拟用户操作并执行这些交互操作。
解析动态生成的内容：一些网页使用JavaScript来生成或修改内容。通过触发JavaScript代码，我们可以获取到最终呈现给用户的内容。

案例

案例一：动态加载内容

假设我们要爬取一个新闻网站，该网站使用AJAX技术动态加载新闻列表。在初始加载时，只有部分新闻显示在页面上。当用户滚动到页面底部时，会自动加载更多的新闻。这时候我们就需要触发JavaScript代码来获取完整的新闻列表。

package main

import (
	"fmt"
	"log"
	"net/http"

	"github.com/PuerkitoBio/goquery"
)

func main() {
	url := "https://example.com/news"
	resp, err := http.Get(url)
	if err != nil {
		log.Fatal(err)
	}
	defer resp.Body.Close()

	doc, err := goquery.NewDocumentFromReader(resp.Body)
	if err != nil {
		log.Fatal(err)
	}

	// 找到包含动态加载新闻的JavaScript代码
	doc.Find("script").Each(func(i int, s \*goquery.Selection) {
		scriptContent := s.Text()
		if containsDynamicNews(scriptContent) {
			// 触发JavaScript代码，获取完整的新闻列表
			fullNewsList := triggerJavaScript(scriptContent)
			fmt.Println(fullNewsList)
		}
	})
}

func containsDynamicNews(scriptContent string) bool {
	// 判断JavaScript代码中是否包含动态加载新闻的逻辑
	// 返回true或false
}

func triggerJavaScript(scriptContent string) string {
	// 执行JavaScript代码，获取完整的新闻列表
	// 返回完整的新闻列表
}

使用goquery库可以方便地解析HTML内容并找到JavaScript代码。我们可以找到相应的JavaScript代码，然后通过其他库或方法来模拟用户滚动行为并触发JavaScript代码，从而获取完整的新闻列表。

案例二：执行交互操作

假设我们要从一个在线电商网站上爬取商品信息，该网站使用JavaScript实现了一些交互功能，例如筛选商品、查看评论等。为了获取到特定筛选条件下的商品信息或评论内容，我们需要模拟用户的交互行为并触发相应的JavaScript代码。

package main

import (
	"context"
	"fmt"
	"log"

	"github.com/chromedp/chromedp"
)

func main() {
	ctx, cancel := chromedp.NewContext(context.Background())
	defer cancel()

	var result string

	err := chromedp.Run(ctx,
		chromedp.Navigate("https://example.com/products"),
		chromedp.Click("#filterButton"),
		chromedp.WaitVisible("#filteredProducts"),
		chromedp.InnerHTML("#filteredProducts", &result),
	)
	if err != nil {
		log.Fatal(err)
	}

	fmt.Println(result)
}

使用chromedp库可以轻松实现模拟浏览器行为和触发JavaScript代码。我们可以使用该库导航到目标网页并执行所需的交互操作，然后获取到生成的内容或执行结果。

案例三：解析动态生成的内容

假设我们要爬取一个社交媒体网站上的用户信息，该网站使用JavaScript来生成用户动态信息。在页面初始加载时，只显示了用户的基本信息，而用户的动态信息是通过JavaScript代码动态生成的。为了获取到完整的用户信息，我们需要触发JavaScript代码并获取到生成的动态内容。

package main

import (
	"fmt"


![img](https://img-blog.csdnimg.cn/img_convert/e6876a3596813b403db64698c6e7b82d.png)
![img](https://img-blog.csdnimg.cn/img_convert/8405c1f46d2c722f9a98e6935d60b578.png)

**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化的资料的朋友，可以添加戳这里获取](https://bbs.csdn.net/topics/618658159)**


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

那么很难做到真正的技术提升。**

**[需要这份系统化的资料的朋友，可以添加戳这里获取](https://bbs.csdn.net/topics/618658159)**


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

2401_84904661

关注

29
点赞
踩
24

收藏

觉得还不错? 一键收藏
0
评论
2024年最全Golang爬虫如何触发JavaScript代码_golang执行js文件(4)，2024年最新一篇文章帮你解答

无论你选择哪种方法，都需要记住JavaScript的执行是在浏览器环境中进行的，因此你需要确保你的机器上安装了Chrome浏览器或其他支持Chrome DevTools协议的浏览器。在页面初始加载时，只显示了用户的基本信息，而用户的动态信息是通过JavaScript代码动态生成的。为了获取到完整的用户信息，我们需要触发JavaScript代码并获取到生成的动态内容。我们可以找到相应的JavaScript代码，然后通过其他库或方法来模拟用户滚动行为并触发JavaScript代码，从而获取完整的新闻列表。
复制链接

扫一扫