taoCMS是基于php+sqlite/mysql的国内最小(100Kb左右)的功能完善、开源免费的CMS管理系统

MySQL全文检索中Like索引的实现

2011-02-22

在数据库使用中,DBA都会告诉大家SQL的LIKE条件为%XXX%号时,由于不能使用索引,当数据量变大时(比如超过百万条),全表扫描会导致性能很差。

但是在实际业务中,很难避免MySQL全文检索并Like索引的这种需求。比如模糊搜索用户帐号,昵称之类。既然这个需求必须做,但又不可以直接用 LIKE。这里我和大家分享一下我们关于这种需求的一种解决方案。当然别人也可能采用过类似的办法,我不是很清楚。所以也用一下“原创”吧。

MySQL数据库很早就支持全文索引,但是全文索引和LIKE语句是不同的。具体点说,全文索引的单位是词,耳LIKE匹配的是字符。当然实际的区 别更大,比如“老鼠爱大米”这段文本用全文搜索的话,条件“老鼠爱大米”,“老鼠和大米”,“大米老鼠”,“大米与老鼠”会搜索到内容,但是“爱”,“鼠 爱”,“爱大”不会搜索到内容。反之,使用LIKE搜索时,“老鼠和大米”,“大米老鼠”,“大米与老鼠”不会找到内容,而“爱”,“鼠爱”,“爱大”会 找到内容。我们这里不讨论两种方式的优劣,根据实际情况每种功能都会有各自的实际需求。比如对于大段文本,全文检索是最好的方法,但是对于姓名,帐号,昵 称等很短的通常无意义文本,LIKE会更合适一些。

虽然全文检索和LIKE搜索不同,但是在特殊情况下,可以用全文搜索功能来实现LIKE搜索。具体就是每个字符作为一个词,而且使用双引号来限制词精确匹配(简单点说就是老鼠大米和大米老鼠不同),这样可以实现LIKE搜索的功能。

下面还是说一下具体的做法吧。

首先,数据库指定 –ft_min_word_len=2 –ft_stopword_file=”"。第一个参数是告诉数据库,小于2个字符的词忽略。第二个是告诉数据库不忽略任何特殊词。这些设置是给实现功能创造条件。

然后建搜索表

CREATE TABLE tbl_search (
id int(10) unsigned NOT NULL auto_increment,
name varchar(500),
PRIMARY KEY (id),
FULLTEXT KEY idx_name (name)
) ENGINE=MyISAM AUTO_INCREMENT=1;
static String encode(String input) {
if (input == null) return null;
StringBuilder output = new StringBuilder();
for (int i = 0, c = input.length(); i < c; ++i) {
char ch = input.charAt(i);

if (ch >= ’0′ && ch <= ’9′ || ch >= ‘A’ && ch <= ‘Z’ 
|| ch >= ‘0’ && ch <= ‘9’ || ch >= ‘A’ && ch <= ‘Z’ 
|| ch == ‘_’ || ch == ‘-’) {
output.append(Integer.toHexString(ch)).append(‘ ‘);

} else if (ch >= ‘a’ && ch <= ‘z’ || ch >= ‘a’ && ch <= ‘z’) {
output.append(Integer.toHexString((int)ch – 32)).append(‘ ‘);

} else {
Character.UnicodeBlock block = Character.UnicodeBlock.of(ch);
if (block == Character.UnicodeBlock.CJK_UNIFIED_IDEOGRAPHS
|| block == Character.UnicodeBlock.KATAKANA
|| block == Character.UnicodeBlock.HIRAGANA) {
output.append(Integer.toHexString(ch)).append(‘ ‘);
} else {
// do nothing
}
}

}

// trim blank
int last = output.length() – 1;
if (last > 0 && output.charAt(last) == ‘ ‘) {
output.deleteCharAt(last);
}

return output.toString();
}

使用上面的代码对要搜索的内容编码,比如内容是“蓝皮鼠2008”,编码后的结果是“84dd 76ae 9f20 32 30 30 38”。将编码后的内容存入name字段。


使用如下SQL语句进行搜索

select * from tbl_search where match(name) against(‘”76ae 9f20 32″‘ in boolean mode)

这样就基本实现了MySQL全文检索中的Like索引。

类别:技术文章 | 阅读:212952 | 评论:0 | 标签:

想收藏或者和大家分享这篇好文章→

“MySQL全文检索中Like索引的实现”共有0条留言

发表评论

姓名:

邮箱:

网址:

验证码:

公告

taoCMS发布taoCMS 3.0.2(最后更新21年03月15日),请大家速速升级,欢迎大家试用和提出您宝贵的意见建议。

捐助与联系

☟请使用新浪微博联系我☟

☟在github上follow我☟

标签云