程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> .NET網頁編程 >> ASP.NET >> ASP.NET基礎 >> asp.NET 髒字過濾算法 修改版

asp.NET 髒字過濾算法 修改版

編輯:ASP.NET基礎
舊的算法是簡單對每一個髒字調用一遍 string.replace,當然是用了StringBuilder。http://www.jb51.net/article/20575.htm。在我這裡測試的時候,RegEx要快一倍左右。但是還是不太滿意,應為我們網站上髒字過濾用的相當多,經過一番思考後,自己做了一個算法。在自己的機器上測試了一下,使用原文中的髒字庫,0x19c的字符串長度,1000次循環,文本查找耗時1933.47ms,RegEx用了1216.719ms,而我的算法只用了34.125ms.

算法的關鍵,還是使用空間來換時間,使用了2個全局的BitArray, 長度均為Char.MaxValue。其中一個BitArray用來判斷是否有某個char開頭的髒字,另一個BitArray用來判斷所有髒字中是否包含某個char。經過這兩個BitArray,可以做出快速判斷,之後就使用Hash Code來判斷完整的髒字,通過預先獲取的最大髒字長度優化遍歷過程。

需要的變量如下:
復制代碼 代碼如下:
private Dictionary<string, object> hash = new Dictionary<string, object>();
private BitArray firstCharCheck = new BitArray(char.MaxValue);
private BitArray allCharCheck = new BitArray(char.MaxValue);
private int maxLength = 0;

其中hash只使用到了key,value都置為null。也可以使用.NET 3.5中的HashSet,或者使用Dictionary<string, int>,記錄髒字的出現次數。

初始化這些數據的方法如下:
復制代碼 代碼如下:
foreach (string word in badwords)
{
if (!hash.ContainsKey(word))
{
hash.Add(word, null);
maxlength = Math.Max(maxlength, word.Length);
firstCharCheck[word[0]] = true;

foreach (char c in word)
{
allCharCheck[c] = true;
}
}
}

判斷髒字是否出現在一個字符串中的代碼如下:

復制代碼 代碼如下:
int index = 0;
int offset = 0;
while (index < text.Length)
{
if (!firstCharCheck[text[index]])
{
while (index < text.Length - 1 && !firstCharCheck[text[++index]]) ;
}

for (int j = 1; j <= Math.Min(maxlength, text.Length - index); j++)
{
if (!allCharCheck[text[index + j - 1]])
{
break;
}

string sub = text.Substring(index, j);

if (hash.ContainsKey(sub))
{
return true;
}
}

index++;
}

return false;

替換的代碼就不貼了,跟判斷包含類似,只不過不能發現一個髒字後就退出循環。如果出現髒字的可能不是很高,就沒有必要創建一個臨時的StringBuilder。

進一步,可以通過借鑒.NET源碼中string.GetHashCode()的實現,避免一次Substring的調用,提高性能。也可以設計遞進的HashCode實現,比如"helloworld"可以用"helloworl"的hash進一步計算,優化效率。

另外,也可以拋棄Hash,改用排序過的string[],用BinarySearch來判斷sub是否為髒字。BinarySearch的結果是可以遞進的,即可以用查找"helloworl"的結果來加速判斷"helloworld"。 (已測試,700個髒字,BinarySearch的效率有時會低很多。)
最後發一點牢騷,當初最早發的時候(http://www.jb51.net/article/20576.htm),僅僅是為了說明下自己的算法,具體的代碼甚至還有一點錯誤。兩個事情讓我覺得心裡不很爽,一個是被亂七八糟的無數網站轉載而不說明出處,導致我後來的改進和錯誤修正達不到效果,二是一些人都願意看到最終的代碼,而不是理解我想要表達的最核心的設計,然後自己去考慮實現。
  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved