浅谈自动采集程序及入库

原创 2005年05月21日 13:28:00
最近网上流行着一些采集程序,更多人拿着这些东西在网上叫卖,很多不太懂的人看着那些程序眼羡,其实如果你懂一些ASP,了解自动采集程序的原理后,你会感觉实现自动化也是那么的简单.
原理及优点:通过XML中的XMLHTTP组件调用其它网站上的网页,然后批量截取或替换原有的信息使其转化成变量后再一一储存到数据库中。其主要的优点便是无需再手工添加大量的信息了,可以指定对某一个站信息的截取进行批量录入,达到省时省力的目的。与其单纯的ASP小偷程序不同的是:它已经不再依赖其目标网站。
简单事例:
 1<%
 2'声明取得目标信息的函数,通过XML组件进行实现。
 3Function GetURL(url) 
 4Set Retrieval = CreateObject("Microsoft.XMLHTTP"
 5With Retrieval 
 6.Open "GET", url, False
 7.Send 
 8GetURL = bytes2bstr(.responsebody)
 9'对取得信息进行验证,如果信息长度小于100则说明截取失败
10if len(.responsebody)<100 then
11response.write "获取远程文件 <a href="&url&" target=_blank>"&url&"</a> 失败。"
12response.end
13end if
14
15End With 
16Set Retrieval = Nothing 
17End Function
18' 二进制转字符串,否则会出现乱码的!
19function bytes2bstr(vin) 
20strreturn = "" 
21for i = 1 to lenb(vin) 
22thischarcode = ascb(midb(vin,i,1)) 
23if thischarcode < &h80 then 
24strreturn = strreturn & chr(thischarcode) 
25else 
26nextcharcode = ascb(midb(vin,i+1,1)) 
27strreturn = strreturn & chr(clng(thischarcode) * &h100 + cint(nextcharcode)) 
28= i + 1 
29end if 
30next 
31bytes2bstr = strreturn 
32end function 
33'声明截取的格式,从Start开始截取,到Last为结束
34Function GetKey(HTML,Start,Last)
35filearray=split(HTML,Start)
36filearray2=split(filearray(1),Last)
37GetKey=filearray2(0)
38End Function
39
40Dim Softid,Url,Html,Title 
41
42'获取要取页面的ID
43
44SoftId=Request("Id")
45
46  Url="http://www3.skycn.com/soft/"&SoftId&".html" 
47
48  Html = GetURL(Url) 
49
50'以截取天空软件的软件名为例子
51
52  Title = GetKey(Html,"<font color='#004FC6' size='3'>","</font></b></td></tr>")
53
54'打开数据库,准备入库
55
56dim connstr,conn,rs,sql
57
58connstr="DBQ="+server.mappath("db1.mdb")+";DefaultDir=;DRIVER={Microsoft Access Driver (*.mdb)};"
59
60set conn=server.createobject("ADODB.CONNECTION")
61
62conn.open connstr
63
64set rs=server.createobject("adodb.recordset")
65
66sql="select [列名] from [表名] where [列名]='"&Title&"'"
67
68rs.open sql,conn,3,3
69
70if rs.eof and rs.bof then 
71
72rs("列名")=Title
73
74rs.update 
75
76set rs=nothing
77
78end if
79
80set rs=nothing
81
82Response.Write"采集完毕!"
83
84%>

仓储系统之入库、出库理解浅谈

入库: 相关表

浅谈使用SQLBulkCopy批量数据入库

随着网站浏览人数的增多,页面浏览日志的记录成了数据库TCP/IP连接数飙升的祸首,初步想法就是先把日志记录到内存,累计到一定数量时,一次性入库。故此,就想到了sqlbulkcopy,它可以使数据批量入...
  • li_lfg
  • li_lfg
  • 2011年08月19日 11:08
  • 151

sqoop2 java 批量入库程序

1、需求,sqoop2写命令太麻烦,于是写了一个通用型的java 的sqoop2导入程序,很简单,有什么不足,望各位看官指出。 import org.apache.sqoop.client.Sqoop...

浅谈恶意程序行为分析

  • 2010年10月06日 10:19
  • 470KB
  • 下载

大数据量、高效通信及入库程序设计的关键实现技术要求

1.1   大数据量、高效通信及入库程序设计的关键实现技术要求: 1.         业务需求: 1)         通信方式 TCP、UDP、串口; 2)         数据并发量 ...

android录制总结与自动遍历浅谈

  • 2015年02月10日 15:01
  • 481KB
  • 下载
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:浅谈自动采集程序及入库
举报原因:
原因补充:

(最多只允许输入30个字)