C#写个简单数据采集工具

最近工作中需要采集一些数据,有不想去录脚本,不想使用比较复杂的工具,就自己写了一个

总结一下自己实现这个小工具的过程:

比如我们要采集类似于csdn首页的列表的标题,文章的链接地址,阅读数等信息

最简单的方式就是找到这个页面元素的xpath,如标题的 //*[@id="feedlist_id"]/li/div/div[1]/h2/a  ,这个 Google和火狐浏览 

器自带这个功能,参考下面这个文档

https://blog.csdn.net/li6727975/article/details/46126079

https://blog.csdn.net/m526500289/article/details/88649295

这样找到元素的xpath然后就可以采集数据了,采集工具实现效果如下:

数据就出来了。

实现代码也简单

  // 取到采集元素
                List<string> notePath = textBox2.Text.Replace(",", ",").Split(',').ToList();

                StringBuilder sb = new StringBuilder();

                DataTable dt = new DataTable();


                foreach (var item in notePath)
                {
                    var data = item.Split('|');
                    DataColumn dc = new DataColumn(data[2]);
                    dt.Columns.Add(dc);

                }

                int i = 0;
                foreach (var item in notePath)
                {
                    var data = item.Split('|');
                    var nodes = doc.DocumentNode.SelectNodes(data[0]);
                    int j = 0;
                    foreach (var tagValue in nodes)
                    {
                        if (i == 0)
                        {
                            DataRow row = dt.NewRow();
                            dt.Rows.Add(row);
                        }

                        DataRow dr = dt.Rows[j];
                        dr[i] = GetValue(tagValue, data[1]);
                        j++;
                    }

                    i++;
                }
                // 结果赋值
                dataGridView1.DataSource = dt;

 

  • 5
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值