C#写个简单数据采集工具

最近工作中需要采集一些数据,有不想去录脚本,不想使用比较复杂的工具,就自己写了一个

总结一下自己实现这个小工具的过程:

比如我们要采集类似于csdn首页的列表的标题,文章的链接地址,阅读数等信息

最简单的方式就是找到这个页面元素的xpath,如标题的 //*[@id="feedlist_id"]/li/div/div[1]/h2/a  ,这个 Google和火狐浏览 

器自带这个功能,参考下面这个文档

https://blog.csdn.net/li6727975/article/details/46126079

https://blog.csdn.net/m526500289/article/details/88649295

这样找到元素的xpath然后就可以采集数据了,采集工具实现效果如下:

数据就出来了。

实现代码也简单

  // 取到采集元素
                List<string> notePath = textBox2.Text.Replace(",", ",").Split(',').ToList();

                StringBuilder sb = new StringBuilder();

                DataTable dt = new DataTable();


                foreach (var item in notePath)
                {
                    var data = item.Split('|');
                    DataColumn dc = new DataColumn(data[2]);
                    dt.Columns.Add(dc);

                }

                int i = 0;
                foreach (var item in notePath)
                {
                    var data = item.Split('|');
                    var nodes = doc.DocumentNode.SelectNodes(data[0]);
                    int j = 0;
                    foreach (var tagValue in nodes)
                    {
                        if (i == 0)
                        {
                            DataRow row = dt.NewRow();
                            dt.Rows.Add(row);
                        }

                        DataRow dr = dt.Rows[j];
                        dr[i] = GetValue(tagValue, data[1]);
                        j++;
                    }

                    i++;
                }
                // 结果赋值
                dataGridView1.DataSource = dt;

 

Soukey采摘网站数据采集软件是一款基于.Net平台的开源软件,也是网站数据采集软件类型中唯一一款开源软件。尽管Soukey采摘开源,但并不会影响软件功能的提供,甚至要比一些商用软件的功能还要丰富。Soukey采摘当前提供的主要功能如下: 1. 多任务多线程数据采集,支持POST方式; 2. 可采集Ajax页面; 3. 支持Cookie,支持手工登录采集数据; 4. 支持采集事务; 5. 支持数据自动及手工导出,导出格式为:文本、Excel、Access、MSSql、Mysql等; 6. 支持在线发布数据; 7. 支持导航网址的采集,导航深度不限; 8. 支持自动翻页; 9. 支持文件下载,可以采集图片、Flash及其他文件; 10. 支持采集结果数据的加工,包括替换、附前缀后缀、截取等操作,支持正则; 11. 采集网址定义不仅支持基本参数定义,也可外接字典数据作为网址参数,进行数据采集; 12. 支持一个任务多实例运行; 13. 提供计划任务,计划任务支持Soukey采集任务、外部可执行文件任务、数据库存储过程任务; 14. 计划任务执行周期支持每天、每周及自定义运行间隔;最小单位为:半小时; 15. 支持任务触发器,即可在采集任务完成后,自动触发执行其他任务(包括可执行文件或存储过程)。 16. 完善的日志功能:系统日志、任务执行日志、出错日志等等; 17. 系统提供MINI浏览器可用于捕获Cookie或POST数据; Soukey采摘并不限制您是否商用此软件,源码完全开放,
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值