程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> 網頁編程 >> ASP編程 >> 關於ASP編程 >> asp 采集程序常用函數分析

asp 采集程序常用函數分析

編輯:關於ASP編程
原理
采集程序實際上是通過了XML中的XMLHTTP組件調用其它網站上的網頁。比如新聞采集程序,很多都是調用了sina的新聞網頁,並且對其中的html進行了一些替換,同時對廣告也進行了過濾。用采集程序的優點有:無須維護網站,因為采集程序中的數據來自其他網站,它將隨著該網站的更新而更新;可以節省服務器資源,一般采集程序就幾個文件,所有網頁內容都是來自其他網站。缺點有:不穩定,如果目標網站出錯,程序也會出錯,而且,如果目標網站進行升級維護,那麼采集程序也要進行相應修改;速度,因為是遠程調用,速度和在本地服務器上讀取數據比起來,肯定要慢一些。

一、事例
下面就XMLHTTP在ASP中的應用做個簡單說明
復制代碼 代碼如下:
<%
'常用函數
'1、輸入url目標網頁地址,返回值getHTTPPage是目標網頁的html代碼
function getHTTPPage(url)
dim Http
set Http=server.createobject("MSXML2.XMLHTTP")
Http.open "GET",url,false
Http.send()
if Http.readystate<>4 then
exit function
end if
getHTTPPage=bytesToBstr(Http.responseBody,"GB2312")
set http=nothing
if err.number<>0 then err.Clear
end function
'2、轉換亂瑪,直接用xmlhttp調用有中文字符的網頁得到的將是亂瑪,可以通過adodb.stream組件進行轉換
Function BytesToBstr(body)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = "GB2312" '轉換原來默認的UTF-8編碼轉換成GB2312編碼,否則直接用XMLHTTP組件調用有中文字符的網頁得到的將是亂碼
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
'下面試著調用http://www.jb51.net的html內容
Dim Url,Html
Url="http://www.jb51.net";
Html = getHTTPPage(Url)
Response.write Html
%>

二、幾個常用的函數
(一)InStr 函數
描述
返回某字符(string2)串在另一字符串(string1)中第一次出現的位置。
語法
InStr(string1, string2)
例如:
Dim SearchString, SearchChar
SearchString ="http://www.jb51.net" ' 要在其中搜索的字符串。
SearchChar = "jb51" ' 搜索 "jb51"。
MyBK = Instr(SearchString, SearchChar) ' 返回 8
'如果找不到則返回“0”,例如:
SearchChar = "BK"
MyBK = Instr(SearchString, SearchChar) ' 返回 0
(二)Mid 函數
描述
從字符串中返回指定數目的字符。
語法
Mid(string, start, over)
例如:
Dim MyBK
MyBK = Mid("我們的BK(www.google)設計", 7, 12) '截取字符串"我們的BK(www.google)設計"第7個字符以後的12個字符
'此時MyBK的值就變成了"www.google"
(三)Replace 函數
Dim SearchString, SearchChar
SearchString ="我們的BK設計是一個網站建設資源網站" ' 要在其中搜索的字符串。
SearchString =Replace(SearchString,"BK設計","Www.google")
'此時SearchString的值就變成了"我們的Www.google是一個網站建設資源網站"

三、截取指定區域的HTML代碼
例如我只想獲取以下HTML代碼中"<td>"和"</td>"之間的的文字部分:
<html>
<title>(www.google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="Content">BK(www.google)谷歌搜索引擎是個資源多多的站點……</td></tr>
</table>
</body>
</html>
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網頁的地址)
start=Instr(StrBK,"<td id=""Content"">") '此處的作用是獲取字符串開始地方的定位。這裡要有人問了:原來的代碼是<td id="Content">,怎麼你這裡調用的是<td id=""Content"">啊?答案:asp中(准確的說是VBscript中是用兩個雙引號來表示一個雙引號的,因為雙引號對於程序來說是個敏感字符。)
over=Instr(StrBK,"…</td></tr>")'此處的作用是獲取字符串結束地方的定位。
'這裡又要有人問了:( :程序調用HTML代碼干嗎前面多出來3個點點"…"啊?答:提示:上面一行也有一個</td></tr>,如果這裡用</td></tr>來定位的話,程序會錯誤地把上面一行的</td></tr>當成欲獲取字符串的結束部分了。
RsBK=mid(StrBK,start,over-start) '此處的作用是取出StrBK中第start個字符到第over個字符之間的字符串。mid函數前面一節我也講過了;over-start是為了計算出開始位置和結束位置之間的距離,也就是字符數。
response.write(RsBK) '最後輸出程序獲取的內容
%>
不要高興的太早,當你運行的時候,你會發現頁面的html代碼有錯誤,為什麼呢?因為你獲取的html代碼是:
<td id="Content">BK(www.google)谷歌搜索引擎是個資源多多的站點…
看到了吧?有殘缺的HTML代碼啊!怎麼辦呢?start=Instr(StrBK,"<td id=""Content"">")這個語句獲取的是"<td id="Content">"在StrBK中的位置數,現在我們可以在程序語句的後面加上17,那麼程序就會將位置指向<td id="Content">後面的那個字符.
好的,程序將改成這樣:
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網頁的地址)
start=Instr(StrBK,"<td id=""Content"">") + 17
over=Instr(StrBK,"…</td></tr>") '這裡你也可以減去七(-7)把3個點去掉
RsBK=mid(StrBK,start,over-start)
response.write(RsBK)
%>
這樣就OK了,我們就可以將我們想要的東西偷過來顯示在我們自己的頁面了,呵呵~

四、刪掉或修改獲取的字符
將RsBK中的"BK(www.google)"換成"BK":
RsBK=replace(RsBK,"BK(www.google)","BK")
或者直接把"(www.google)"刪掉:
RsBK=replace(RsBK,"(www.google)","")
好了,現在RsBK就變成了:"BK谷歌搜索引擎是個資源多多的站點……"了.
但是事實中,有些情況可能replace函數是不適應的,比如我們想把某個字符串裡面的所有連接都去掉.連接可能包括很多種類型,replace只能替代其中特定的一個,我們不可能用一個又一個對應的replace函數來替換吧?
但可以使用正則表達式來代替此項工作。這裡不細談了。
(一)如何將對方網站的翻頁也處理成我們自己的呢?
答案是:利用replace函數和頁面參數的傳遞。
例如對方頁面裡含有這樣的翻頁代碼:"<a href=2.htm>下一頁</a>",我們可以先利用上面講的內容,獲取這個字符串,然後用replace函數:RsBK=replace(RsBK,"<a href=","<a href=page.asp?Url=")
然後再page.asp的程序裡獲取Url的參數值,最後用采集技術獲取下一頁你想要的內容就可以了。
(二)如何將獲取的內容入庫
由於篇幅有限,這裡簡單說一下.
其實很簡單:
將偷來的內容作一下處理,防止在寫入數據庫的時候出現sql注入錯誤,例如:replace(String,"'","''")
然後執行一個插入數據庫操作的sql命令就ok了~
以上只是一些關於XMLHTTP組件的初級應用,實際上它還能實現的功能還有很多,比如說保存遠程圖片到本地服務器上,配合adodb.stream組件可以把獲取來的數據保存進數據庫。采集的作用和使用范圍都很廣。
  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved