nodejs爬取api接口数据添加到mysql数据库

简介 :

1.nodejs+express脚手架+mysql数据库
2.用node爬取api接口的数据
3.node连接mysql数据库
4.把爬取出来的数据添加到mysql数据库中
补充:连接mongoosedb数据库和连接mysql一样

第一步 node连接mysql数据库

安装

npm i express
express -e myapp
npm i mysql
npm i request

代码 router/index.js

const mysql = require("mysql");

// 创建数据库连接
const db = mysql.createConnection({
  host: "xx.xxx.xx.xx", // 连接的数据库服务器
  port: "3136", // 端口号
  user: "username", // 用户名
  password: "passsword", // 密码
  database: "testdb", // 数据库名
});

db.connect((err) => {
  if (err) {
    "连接失败" + err;
  } else {
    console.log("连接成功+success");
  }
});


// 查询
router.get("/list", (req, res, next) => {
  let id = req.query.id;
  console.log(id);
  db.query(`select * from student`, (err, result) => {
    if (err) {
      // res.send({ code: 0, msg: "失败" });
      console.log("查询失败1+++++++" + err);
    } else {
      res.send({
        code: 0,
        data: result,
      });
      console.log("查询成功2++++++" + result[0].age);
    }
  });
});
第二步 node爬取api接口的数据

新建一个js文件

const request = require("request");
let params = {
  url: "https://bi-api.cy8.shop/member/my_menus",
  method: "get",
  json: true,
  headers: {
    "content-type": "application/json",
    token: "54cb9ee5-f3c2-11ec-8aa5-b4a9fc9dbd2f",
  },
};

request(params, function (err, res, body) {
  //   console.log(err);
  //   console.log(res);
  console.log(body.data);
  
  var db = require("../db/db");  //创建数据库连接的db
  for (var i = 0; i < body.data.length; i++) {
    console.log(body.data[i]);
    let sql =
      "insert into student (id,stu_name,url,parent_id,type) values( '" +
      body.data[i].id +
      "' , '" +
      body.data[i].name +
      "','" +
      JSON.stringify(body.data[i].child_list) +
      "',  '" +
      body.data[i].parent_id +
      "' ,'" +
      body.data[i].type +
      "'       )";
    console.log(sql);
    db.query(sql, (err, result) => {
      if (err) {
        console.log("增加失败" + err);
      } else {
        console.log("增加成功成功" + result);
      }
    });
  }
});

  • 2
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
要将DataStream<String> json数据实时接入StarRocks数据库,你需要先进行以下步骤: 1. 导入 StarRocks JDBC 驱动程序:将 StarRocks JDBC 驱动程序添加到你的项目中,以便你能够使用 JDBC API 连接 StarRocks 数据库。 2. 建立数据库连接:通过 JDBC API 创建一个数据库连接。可以使用以下代码创建连接: ``` Class.forName("com.starrocks.jdbc.Driver"); Connection conn = DriverManager.getConnection("jdbc:starrocks://<host>:<port>/<database>", "<user>", "<password>"); ``` 其中,`<host>` 为 StarRocks 服务器的 IP 地址或主机名,`<port>` 为 StarRocks 服务器的端口号,`<database>` 为要连接的数据库名称,`<user>` 和 `<password>` 分别为 StarRocks 数据库的用户名和密码。 3. 解析 JSON 数据:使用 JSON 解析库将 JSON 数据解析为 Java 对象。可以使用常见的 JSON 解析库,如 Jackson、Gson 等。 4. 插入数据:使用 JDBC API 将解析后的 Java 对象插入到 StarRocks 数据库中。可以使用以下代码将数据插入到 StarRocks 表中: ``` PreparedStatement stmt = conn.prepareStatement("INSERT INTO <table> VALUES (?, ?, ?, ...)"); stmt.setXXX(1, value1); stmt.setXXX(2, value2); ... stmt.executeUpdate(); ``` 其中,`<table>` 为要插入数据的表名,`XXX` 是要插入的数据类型,`value1`、`value2` 等为要插入的值。 5. 关闭数据库连接:使用 JDBC API 关闭数据库连接。可以使用以下代码关闭连接: ``` conn.close(); ``` 以上是将 DataStream<String> json 数据实时接入 StarRocks 数据库的大致步骤。需要根据具体的需求进行调整。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

跟着阿龙学编程

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值