程式師世界 >> 數據庫知識 >> MYSQL數據庫 >> MySQL綜合教程 >> 深度解析MySQL 5.7之中文全文檢索，mysql5.7

深度解析MySQL 5.7之中文全文檢索，mysql5.7

編輯：MySQL綜合教程

深度解析MySQL 5.7之中文全文檢索，mysql5.7

前言

其實全文檢索在MySQL裡面很早就支持了，只不過一直以來只支持英文。緣由是他從來都使用空格來作為分詞的分隔符，而對於中文來講，顯然用空格就不合適，需要針對中文語義進行分詞。這不，從MySQL 5.7開始，MySQL內置了ngram全文檢索插件，用來支持中文分詞，並且對MyISAM和InnoDB引擎有效。

在使用中文檢索分詞插件ngram之前，先得在MySQL配置文件裡面設置他的分詞大小，比如，

[mysqld]
ngram_token_size=2

這裡把分詞大小設置為2。要記住，分詞的SIZE越大，索引的體積就越大，所以要根據自身情況來設置合適的大小。

示例表結構：

CREATE TABLE articles (
   id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,
   titleVARCHAR(200),
   body TEXT,
   FULLTEXT (title,body) WITH PARSER ngram
  ) ENGINE=InnoDBCHARACTER SET utf8mb4;

示例數據，有6行記錄。

mysql> select * from articles\G
***************************1. row ***************************
  id: 1
title: 數據庫管理
 body: 在本教程中我將向你展示如何管理數據庫
***************************2. row ***************************
  id: 2
title: 數據庫應用開發
 body: 學習開發數據庫應用程序
***************************3. row ***************************
  id: 3
title: MySQL完全手冊
 body: 學習MySQL的一切
***************************4. row ***************************
  id: 4
title: 數據庫與事務處理
 body: 系統的學習數據庫的事務概論
***************************5. row ***************************
  id: 5
title: NoSQL精髓
 body: 學習了解各種非結構化數據庫
***************************6. row ***************************
  id: 6
title: SQL 語言詳解
 body: 詳細了解如果使用各種SQL
6 rows inset (0.00 sec)

顯式指定全文檢索表源

mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles";
Query OK, 0 rows affected (0.00 sec)

通過系統表，就可以查看到底是怎麼劃分articles裡的數據。

mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;
+------+--------------+-------------+-----------+--------+----------+
| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |
+------+--------------+-------------+-----------+--------+----------+
| 中我 |   2 |   2 |   1 |  2 |  28 |
| 習m |   4 |   4 |   1 |  4 |  21 |
| 習了 |   6 |   6 |   1 |  6 |  16 |
| 習開 |   3 |   3 |   1 |  3 |  25 |
| 習數 |   5 |   5 |   1 |  5 |  37 |
| 了解 |   6 |   7 |   2 |  6 |  19 |
| 了解 |   6 |   7 |   2 |  7 |  23 |
| 事務 |   5 |   5 |   1 |  5 |  12 |
| 事務 |   5 |   5 |   1 |  5 |  40 |
| 何管 |   2 |   2 |   1 |  2 |  52 |
+------+--------------+-------------+-----------+--------+----------+
10 rows in set (0.00 sec)

這裡可以看到，把分詞長度設置為2，所有的數據都只有兩個一組。上面數據還包含了行的位置，ID等等信息。

接下來，我來進行一系列檢索示范，使用方法和原來英文檢索一致。

一、自然語言模式下檢索：

1、得到符合條件的個數，

mysql>SELECT COUNT(*) FROM articles
-> WHERE MATCH (title,body) AGAINST ('數據庫' IN NATURALLANGUAGE MODE);
+----------+
| COUNT(*) |
+----------+
|  4 |
+----------+
1 row in set (0.05 sec)

2、得到匹配的比率，

 mysql>SELECT id, MATCH (title,body) AGAINST ('數據庫' IN NATURAL LANGUAGE MODE)
 AS score FROM articles;
+----+----------------------+
| id| score    |
+----+----------------------+
| 1 | 0.12403252720832825 |
| 2 | 0.12403252720832825 |
| 3 |     0 |
| 4 | 0.12403252720832825 |
| 5 | 0.062016263604164124|
| 6 |     0 |
+----+----------------------+
6rows in set (0.00 sec)

二、布爾模式下搜索，這個就相對於自然模式搜索來的復雜些：

1、匹配既有管理又有數據庫的記錄，

mysql> SELECT * FROM articles WHERE MATCH (title,body)
  ->  AGAINST ('+數據庫 +管理' IN BOOLEAN MODE);
+----+------------+--------------------------------------+
| id| title  | body         |
+----+------------+--------------------------------------+
| 1 | 數據庫管理 | 在本教程中我將向你展示如何管理數據庫  |
+----+------------+--------------------------------------+
1 rowin set (0.00 sec)

2、匹配有數據庫，但是沒有管理的記錄，

mysql> SELECT * FROM articles WHERE MATCH (title,body)
  ->  AGAINST ('+數據庫 -管理' IN BOOLEAN MODE);
+----+------------------+----------------------------+
| id| title    | body      |
+----+------------------+----------------------------+
| 2 | 數據庫應用開發  | 學習開發數據庫應用程序   |
| 4 | 數據庫與事務處理 | 系統的學習數據庫的事務概論  |
| 5 | NoSQL 精髓  | 學習了解各種非結構化數據庫  |
+----+------------------+----------------------------+
3 rows in set (0.00 sec)

3、匹配MySQL，但是把數據庫的相關性降低，

mysql> SELECT * FROM articles WHERE MATCH (title,body)
  ->  AGAINST ('>數據庫 +MySQL' INBOOLEAN MODE);
+----+---------------+-----------------+
| id| title   | body   |
+----+---------------+-----------------+
| 3 | MySQL完全手冊 |學習MySQL的一切 |
+----+---------------+-----------------+
1 rowin set (0.00 sec)

三、查詢擴展模式，比如要搜索數據庫，那麼MySQL，oracle，DB2也都將會被搜索到，

mysql> SELECT * FROM articles
  ->  WHERE MATCH (title,body)
  ->  AGAINST ('數據庫' WITH QUERY EXPANSION);
+----+------------------+--------------------------------------+
| id| title   | body         |
+----+------------------+--------------------------------------+
| 1 | 數據庫管理  | 在本教程中我將向你展示如何管理數據庫  |
| 4 | 數據庫與事務處理 | 系統的學習數據庫的事務概論    |
| 2 | 數據庫應用開發  | 學習開發數據庫應用程序     |
| 5 | NoSQL 精髓  | 學習了解各種非結構化數據庫    |
| 6 | SQL 語言詳解  | 詳細了解如果使用各種SQL     |
| 3 | MySQL完全手冊  | 學習MySQL的一切      |
+----+------------------+--------------------------------------+
6 rows in set (0.01 sec)

當然，我這裡只是功能演示，更多的性能測試，大家有興趣可以進行詳細測試。由於N-grm是中文檢索常用的分詞算法，已經在互聯網大量使用，這次集成到MySQL中，想必效果上不會有太大的問題。

總結

以上就是這篇文章的全部內容了，希望本文的內容對大家的學習或者工作能帶來一定的幫助，如果有疑問大家可以留言交流。