如何采集网站内容

<%
  'On Error Resume Next
 
  Function Gethttppage(Path)
   T = Getbody(Path)
   Gethttppage=Bytestobstr(T,"Gb2312")
  End Function
 
  ' 首先,进行小偷程序的一些初始化设置,以上代码的作用分别是忽略掉所有非致命性错误,把小偷程序的运行超时时间设置得很长(这样不会出现运行超时的错误),转换原来默认的utf-8编码转换成gb2312编码,否则直接用xmlhttp组件调用有中文字符的网页得到的将是乱码。

 Function Getbody(Url)
 ' On Error Resume Next
  Set Retrieval = Createobject("Microsoft.Xmlhttp")
  With Retrieval
  .Open "Get", Url, False, "", ""
  .Send
  Getbody = .Responsebody
  End With
  Set Retrieval = Nothing
 End Function

 '然后调用xmlhttp组件创建一个对象并进行初始化设置。

 Function Bytestobstr(Body,Cset)
  Dim Objstream
  Set Objstream = Server.Createobject("Adodb.Stream")
  Objstream.Type = 1
  Objstream.Mode =3
  Objstream.Open
  Objstream.Write Body
  Objstream.Position = 0
  Objstream.Type = 2
  Objstream.Charset = Cset
  Bytestobstr = Objstream.Readtext
  Objstream.Close
  Set Objstream = Nothing
 End Function

 Function Newstring(Wstr,Strng)
  Newstring=Instr(Lcase(Wstr),Lcase(Strng))
  If Newstring<=0 Then Newstring=Len(Wstr)
 End Function

 '处理抓取回来的数据需要调用adodb.Stream组件并进行初始化设置。%>
<%
  Dim Wstr,Str,Url,Start,Over,City
  '定义一些需要使用到的变量
 
  newyear = Request.Querystring("year")
  newmonth = Request.Querystring("month")
  '程序传回的id变量(即用户选择的城市)赋给id
 
 ' Url="Http://Appnews.Qq.Com/Cgi-bin/News_qq_search?city="&City&""
  Url="http://appastro.qq.com/cgi-bin/astro_sun?year="&newyear&"&month="&newmonth&""

  '这里设置需要抓取的页面地址,当然你也可以直接指定某个地址而不使用变量

 Wstr=Gethttppage(Url)
 '获取指定页面的全部数据

 Start=Newstring(Wstr,"line-height:170%; color:#000000")
 '这里设置需要处理的数据的头部,这个变量应视不同情况而设置,具体内容可以通过查看需要抓取的页面的源代码来确定。因为在这个程序里我们需要抓取整个页面,所以设置为页面全部抓取。注意,设置的内容必须是页面内容唯一的,不可以重复。

 Over=Newstring(Wstr,"/images/pop_bt01.gif")
 '和start相对应的就是需要处理的数据的尾部,同样的,设置的内容必须是页面中唯一的。

 Body=Mid(Wstr,Start,Over-start)
 '设置显示页面的范围

 '下面就是动用乾坤挪移+++的时候了,通过replace可以用一些字符替换掉数据中指定的字符。

 Body = Replace(Body,"line-height:170%; color:#000000","")
 Body = Replace(Body,"/images/pop_bt01.gif","")
 Body = Replace(Body,"<img src=","")

 'Body = Replace(Body,"Http://Appnews.Qq.Com/Cgi-bin/News_qq_search?city","Tianqi.Asp?id")

 '本程序中已经完成了替换的工作,如果有其他需要的话可以继续进行类似的替换操作。

 Response.Write Body
 %>
 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值