nodejs爬取api接口数据添加到mysql数据库

简介 :

1.nodejs+express脚手架+mysql数据库
2.用node爬取api接口的数据
3.node连接mysql数据库
4.把爬取出来的数据添加到mysql数据库中
补充:连接mongoosedb数据库和连接mysql一样

第一步 node连接mysql数据库

安装

npm i express
express -e myapp
npm i mysql
npm i request

代码 router/index.js

const mysql = require("mysql");

// 创建数据库连接
const db = mysql.createConnection({
  host: "xx.xxx.xx.xx", // 连接的数据库服务器
  port: "3136", // 端口号
  user: "username", // 用户名
  password: "passsword", // 密码
  database: "testdb", // 数据库名
});

db.connect((err) => {
  if (err) {
    "连接失败" + err;
  } else {
    console.log("连接成功+success");
  }
});


// 查询
router.get("/list", (req, res, next) => {
  let id = req.query.id;
  console.log(id);
  db.query(`select * from student`, (err, result) => {
    if (err) {
      // res.send({ code: 0, msg: "失败" });
      console.log("查询失败1+++++++" + err);
    } else {
      res.send({
        code: 0,
        data: result,
      });
      console.log("查询成功2++++++" + result[0].age);
    }
  });
});
第二步 node爬取api接口的数据

新建一个js文件

const request = require("request");
let params = {
  url: "https://bi-api.cy8.shop/member/my_menus",
  method: "get",
  json: true,
  headers: {
    "content-type": "application/json",
    token: "54cb9ee5-f3c2-11ec-8aa5-b4a9fc9dbd2f",
  },
};

request(params, function (err, res, body) {
  //   console.log(err);
  //   console.log(res);
  console.log(body.data);
  
  var db = require("../db/db");  //创建数据库连接的db
  for (var i = 0; i < body.data.length; i++) {
    console.log(body.data[i]);
    let sql =
      "insert into student (id,stu_name,url,parent_id,type) values( '" +
      body.data[i].id +
      "' , '" +
      body.data[i].name +
      "','" +
      JSON.stringify(body.data[i].child_list) +
      "',  '" +
      body.data[i].parent_id +
      "' ,'" +
      body.data[i].type +
      "'       )";
    console.log(sql);
    db.query(sql, (err, result) => {
      if (err) {
        console.log("增加失败" + err);
      } else {
        console.log("增加成功成功" + result);
      }
    });
  }
});

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
一般来说,在爬取网站列表数据的代码中,你需要获取到每个列表项的链接,然后再通过这个链接去爬取详情数据。可以使用像 `request` 或 `axios` 这样的 Node.js HTTP 客户端,或者使用像 `cheerio` 或 `puppeteer` 这样的 HTML 解析库,来实现这个过程。 下面是一个示例代码,用于爬取一个虚构的网站中的商品列表和商品详情: ```javascript const request = require('request'); const cheerio = require('cheerio'); // 爬取商品列表 request('http://example.com/products', (error, response, body) => { if (error) { console.error(error); return; } const $ = cheerio.load(body); const productLinks = []; // 获取每个商品链接 $('a.product-link').each((i, el) => { const link = $(el).attr('href'); productLinks.push(link); }); // 爬取每个商品的详情 productLinks.forEach(link => { request(`http://example.com${link}`, (error, response, body) => { if (error) { console.error(error); return; } const $ = cheerio.load(body); const productName = $('h1.product-name').text(); const productDescription = $('div.product-description').text(); console.log(`商品名称:${productName}`); console.log(`商品描述:${productDescription}`); }); }); }); ``` 在这个示例中,我们首先使用 `request` 库来请求商品列表页面,然后使用 `cheerio` 库解析 HTML 并获取每个商品的链接。接着,我们遍历每个链接,使用 `request` 库再次请求该链接,然后解析 HTML 并提取商品名称和描述信息。最后,我们将这些信息打印输出到控制台。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

跟着阿龙学编程

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值