2.1.开发环境准备
2.1.1.数据库jar包
我们这里可以尝试着从数据库中采集数据,因此需要连接数据库,我们一直用MySQL,所以这里需要MySQL的jar包
2.1.2.MyBatis的jar包(可选)
从数据库采集数据就需要查询数据库,我们可以用jdbc原生的写DAO,还可以使用我们之前学习过的MyBatis动态代理DAO,因此可能需要MyBatis的jar包
2.1.3.数据库环境
数据库脚本:【资料\数据库\book.sql】,创建一个lucene数据库(utf-8),然后导入这个脚本。
2.1.4.新建java工程
由于是模拟练习,所以主要是学习Lucene的开发jar包的使用,所以普通的Java工程就可以。
2.2.开发代码准备
2.2.1.MyBatis持久层开发
1. 创建pojo
package cn.baidu.pojo;
public class Book {
// 图书ID
private Integer id;
// 图书名称
private String name;
// 图书价格
private Float price;
// 图书图片
private String pic;
// 图书描述
private String desc;
getter/setter方法。。。。。。
}
2. 创建DAO接口
package cn.baidu.dao;
import java.util.List;
import cn.baidu.pojo.Book;
public interface BookDao {
public List<Book> queryBookList() throws Exception;
}
3. 创建映射文件
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mapper
PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN"
"http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="cn.baidu.dao.BookDao">
<select id="queryBookList" resultType="cn.baidu.pojo.Book">
select
id, name, price, pic, description as `desc`
from
book
</select>
</mapper>
2.2.2.创建索引的准备代码
在【cn.baidu.test】中创建【CreateIndexTest.java】
/**
* 使用中文分析器IKAnalyzer创建索引
*
* @author Derek Sun
*/
public class CreateIndexTest {
/**
* 创建索引的准备工作(使用IK分析器)
*/
private IndexWriter createIndexWriter(String indexRepositoryPath) throws Exception {
// 创建Directory对象
Directory dir = FSDirectory.open(new File(indexRepositoryPath));
// 创建一个标准分析器
Analyzer analyzer = new IKAnalyzer();
// 创建IndexWriterConfig对象
// 参数1: Lucene的版本信息, 可以选择对应的Lucene版本也可以使用LATEST
// 参数2: 分析器对象
IndexWriterConfig config = new IndexWriterConfig(Version.LATEST, analyzer);
// 创建IndexWriter对象
return new IndexWriter(dir, config);
}
/**
* 从数据库采集数据
*/
private List<Book> getBookInfoFromDB() throws Exception {
SqlSession sqlSession = null;
try {
InputStream inputStream = Resources.getResourceAsStream("MyBatisConfig.xml");
SqlSessionFactory sqlSessionFactory = new SqlSessionFactoryBuilder().build(inputStream);
sqlSession = sqlSessionFactory.openSession();
BookDao bookDao = sqlSession.getMapper(BookDao.class);
List<Book> bookList = bookDao.queryBookList();
return bookList;
} catch(Exception e) {
e.printStackTrace();
throw e;
} finally {
sqlSession.close();
}
}
/**
* 把数据库中的数据创建索引
*/
@Test
public void testCreateIndex() throws Exception {
// 。。。。。。
}
}
3.Field域
3.1.Field的属性
Field域是Document文档的基本构成元素,和数据库表的字段类似,用于存储不同的数据,包括Field名和Field值两部分。Field域和数据库表字段一样也有不同类型的Field域。
我们先不讨论Field域的类型,首先不管是什么类型的Field域都会有三个共同的属性:
1.是否分词(tokenized):是否对域的内容进行分词处理。
前提:域内容需要查询时,内容多的分,内容少的不分;域内容不需要查询时不分。
比如:商品名称、商品描述等,这些内容都是查询信息的重点部分,而且内容多,因此需要分词
比如:商品id、订单号、身份证号等,这些内容也是查询的部分,但不需要分词。
2.是否索引(indexed):将Field分析后的词或整个Field的值进行索引,只有索引方可搜索到。
前提:域内容需要查询时索引,不需要查询时不索引。
比如:商品名称、商品描述分析后进行索引;商品id、订单号、身份证号不用分词但也要索引,这些将来都要作为查询条件。
比如:图片路径、文件路径等,不用作为查询条件就不用索引。
3.是否存储(stored):将Field值存储在文档中,存储在文档中的Field才可以从Document中获取。
前提:是否要在搜索结果中将内容展示给用户。
比如:商品名称、订单号,凡是将来要从Document中获取的内容都要存储。
比如:商品描述,内容较大不用存储,可以节省lucene的索引文件空间。如果要向用户展示商品描述可以从系统的关系数据库中获取。
3.2.常用Field类型
说完三个共同的属性后,我们再来看看Lucene的Field都有哪些常用类型:
不同类型的Field的上面三个共同属性的值会不同,用户可以根据此选用不同类型的Field完成业务需求。
Field类 数据类型 tokenized是否分词 Indexed
是否索引 Stored
是否存储 说明
StringField(FieldName, FieldValue,Store.YES)) 字符串 N Y Y或N 这个Field用来构建一个字符串Field,但是不会进行分词,会将整个串存储在索引中,比如(订单号,身份证号等)
是否存储在文档中用Store.YES或Store.NO决定
LongField(FieldName, FieldValue,Store.YES) Long型 Y Y Y或N 这个Field用来构建一个Long数字型Field,进行分词和索引,比如(价格)
是否存储在文档中用Store.YES或Store.NO决定
StoredField(FieldName, FieldValue) 重载方法,支持多种类型 N N Y 这个Field用来构建不同类型Field
不分析,不索引,但要Field存储在文档中
TextField(FieldName, FieldValue, Store.NO)
或
TextField(FieldName, reader) 字符串
或
流 Y Y Y或N 如果是一个Reader, lucene猜测内容比较多,会采用Unstored的策略.
3.3.修改Field
3.3.1.修改分析
对昨天的创建索引的代码中创建的Field对象进行类型的修改,根据不同的字段使用合适类型的Field类型:
1.图书id
是否分词:不分词,因为不会根据商品id来搜索商品
是否索引:索引,因为可能需要根据图书ID进行搜索
是否存储:要存储,因为查询结果页面需要使用id这个值。
使用Field:StringField(FieldName, FieldValue, Store.YES)
2.图书名称
是否分词:要分词,因为要根据图书名称的关键词搜索。
是否索引:要索引。
是否存储:要存储。
使用Field:TextField(FieldName, FieldValue, Store.YES)
3.图书价格
是否分词:要分词,lucene对数字型的值只要有搜索需求的都要分词和索引,因为lucene对数字型的内容要特殊
分词处理,需要分词和索引。
是否索引:要索引
是否存储:要存储
使用Field:FloatField(FieldName, FieldValue, Store.YES)
4.图书图片地址
是否分词:不分词
是否索引:不索引
是否存储:要存储
使用Field:StoredField(FieldName, FieldValue)
5.图书描述
是否分词:要分词
是否索引:要索引
是否存储:因为图书描述内容量大,不在查询结果页面直接显示,不存储(不存储是指不在lucene的Field域中保存)
使用Field:TextField(FieldName, FieldValue, Store.NO)
如果要在详情页面显示详细的描述内容信息,解决方案:
从lucene中取出图书的id,根据图书的id查询关系数据库(MySQL)中book表得到描述信息。
3.3.2.代码修改
对之前编写的testCreateIndex()方法进行修改。让不同的列根据需求使用合适类型的Field类
代码片段
// Document文档中添加Field域
// 图书id(不分词、不索引、只存储)
document.add(new StringField("id", book.getId().toString(), Store.YES));
// 图书名称(分词、索引、存储)
document.add(new TextField("name", book.getName().toString(), Store.YES));
// 图书价格(分词、索引、存储)
document.add(new FloatField("price", book.getPrice(), Store.YES));
// 图书图片地址(不分词、不索引、只存储)
document.add(new StoredField("pic", book.getPic().toString()));
// 图书描述(分词、索引、不存储)
document.add(new TextField("desc", book.getDescription().toString(), Store.NO));
图片地址没有作为索引条目:
4.索引维护
4.1.需求
当采集的原数据发生变化的时候,Lucene创建的索引库也要跟着同步变化。比如:管理人员通过电商系统更改图书信息,这时更新的是关系数据库,如果使用lucene搜索图书信息,需要在数据库表book信息变化时及时同步更新到lucene的索引库。
4.2.添加索引
4.2.1.事前准备
1.添加新索引前目录【C:\mydir\03_workspace\lucene\indexDB】
2.用Luke查看【name】Field域的term词项,结果如下:(添加前)
查看document对象的数量是五个
3. 先在扩展词库中增加两个扩展词:
注意:词库文件在eclipse不能直接打开,如果在eclipse中打开会直接用记事本打开,但是记事本一保存可能会保存出带bom头的utf-8格式的文件,所以必须在外面通过专业记事本修改,但要注意这时候要直接去该编译后路径下的文件【bin】下的,如果你改的还是【config】下的就不会被自动编译到bin下,就不会起作用,但可以你还很纳闷为什么不好用。
在bin下打开【ext.dic】,增加两个扩展词
4.2.2.代码实现
@Test
public void testAddIndex() throws Exception {
// 第一步:创建IndexWriter
IndexWriter indexWriter = createIndexWriter("C:\\mydir\\03_workspace\\lucene\\indexDB");
// 创建两个文档对象
Document doc1 = new Document();
Document doc2 = new Document();
// 给第一个文档对象添加域
// id
doc1.add(new StringField("id", "6", Store.YES));
// 图书名称
doc1.add(new TextField("name", "传智播客", Store.YES));
// 图书描述
doc1.add(new TextField("desc", "新增document2", Store.NO));
// 给第二个文档对象添加域
// id
doc2.add(new StringField("id", "7", Store.YES));
// 图书名称
doc2.add(new TextField("name", "baidu", Store.YES));
// 图书描述
doc2.add(new TextField("desc", "新增document3", Store.NO));
// 创建索引
indexWriter.addDocument(doc1);
indexWriter.addDocument(doc2);
// 关闭IndexWriter对象
indexWriter.close();
}
4.2.3.测试
1. 查看索引库目录:红框中的是新添加的索引文件
注意:新增的索引和document对象和原来的不是在同一个文件中。
2. Luke重新读入索引库目
增加了两个document对象:
4.3.删除索引
4.3.1.删除指定的文档对象
根据term项删除指定的文档对象,同时会让对应的索引项失效,索引失效但不会被一同删除,仍然保留在索引表中:
代码【DeleteIndexTest.java】
public class DeleteIndexTest {
/**
* 根据Term删除
* @throws Exception
*/
@Test
public void test() throws Exception {
// 创建目录对象,指定索引路径
Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
// 创建分析器
Analyzer analyzer = new IKAnalyzer();
// 创建写入配置
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
// 创建写入对象
IndexWriter indexWriter = new IndexWriter(dir, config);
// 根据一个term对象删除索引
indexWriter.deleteDocuments(new Term("name", "baidu"));
// 释放资源
indexWriter.close();
}
}
执行后,用Luke查看结果: term索引项仍然存在,没有发生变化,但已经失效了,原因是对应的document对象已经被删除了。
使用【name:baidu】条件查询没有搜索到,说明这个索引已经失效
此时的document对象没有被真正的删除而是放到了类似windows回收站的删除文件中了:
注意:放到删除文件中的ducoment对象在Lucene3.X版本可以恢复删除的文档,3.X之后无法恢复。
如果想要彻底删除指定的索引,需要强制清空“回收站”:执行【DeleteIndexTest.java】的【test2】
/**
* 普通删除+强制情况回收站
*
* @throws Exception
*/
@Test
public void test2() throws Exception {
// 创建目录对象,指定索引路径
Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
// 创建分析器
Analyzer analyzer = new IKAnalyzer();
// 创建写入配置
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
// 创建写入对象
IndexWriter indexWriter = new IndexWriter(dir, config);
// 根据一个term对象删除索引
indexWriter.deleteDocuments(new Term("name", "baidu"));
// 强制清空回收站
indexWriter.forceMergeDeletes();
// 释放资源
indexWriter.close();
}
强制清空回收站后索引库文件发生了变化:
用Luke查看删除后的索引库:name:baidu的term索引项已经没有了:
Document就剩六个了,而且docID的位置也没给留,原先的docID为6的就是name:baidu的那条,已经被删除了:
用【name:baidu】条件查询自然也是什么都查不到了:
4.3.2.删除全部索引(慎用)
将索引目录的索引信息全部删除,直接彻底删除,无法恢复。
执行【DeleteIndexTest.java】的【test3】
/**
* 全部删除
* @throws Exception
*/
@Test
public void test3() throws Exception {
// 创建目录对象,指定索引路径
Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
// 创建分析器
Analyzer analyzer = new IKAnalyzer();
// 创建写入配置
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
// 创建写入对象
IndexWriter indexWriter = new IndexWriter(dir, config);
// 根据一个term对象删除索引
indexWriter.deleteAll();
// 释放资源
indexWriter.close();
}
删除后的索引目录:
索引域数据清空
文档域数据也清空
说明:
建议参照关系数据库的根据主键删除的方式,所以索引中创建document对象时,需要创建一个主键Field,删除时根据此主键Field删除。这样比较安全。
4.3.3.删除小结
1.上面使用IndexWriter的deleteDocuments(term)方法的删除就是Lucene的普通删除方法。只是将document对象删除同时使对应的索引项失效,并没有真的删除。如果想真正的删除就要强制清空回收站,即执行:forceMergeDeletes()方法。
2.慎用deleteAll()。
4.4.修改索引
更新索引采用的是先删后增的方式,即先删除符合条件的索引(即上面刚学完的普通删除),然后再添加新的索引,生成新的索引文件。更新条件依然是根据term词项更新。
更新前索引库的目录:
Document还在:
执行【UpdateIndexTest.java】
package cn.baidu.test;
import java.io.File;
import org.apache.lucene.analysis.Analyzer;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field.Store;
import org.apache.lucene.document.StoredField;
import org.apache.lucene.document.TextField;
import org.apache.lucene.index.IndexWriter;
import org.apache.lucene.index.IndexWriterConfig;
import org.apache.lucene.index.Term;
import org.apache.lucene.store.Directory;
import org.apache.lucene.store.FSDirectory;
import org.apache.lucene.util.Version;
import org.junit.Test;
import org.wltea.analyzer.lucene.IKAnalyzer;
public class UpdateIndexTest {
@Test
public void test() throws Exception {
// 创建分析器对象
Analyzer analyzer = new IKAnalyzer();
// 创建目录对象,指定索引库目录
Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
// 创建写入的配置信息
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
// 创建写入对象
IndexWriter indexWriter = new IndexWriter(dir, config);
// 创建一个新的document对象
Document doc = new Document();
doc.add(new StringField("id", 8));
doc.add(new TextField("name", "luceneUpdateTest", Store.YES));
// 根据term词项更新
indexWriter.updateDocument(new Term("name", "java"), doc);
// 释放资源
indexWriter.close();
}
}
更新后索引库的目录:
Luke查看索引库:name:java的term索引项还在,又新增了name:luceneupdatetest(这里经过分析器的过滤器后大写转变为小写了):
原来的文档已经不存在了,进了“回收站”:
新增了一个document:
注意:如果更新索引的目标文档对象不存在,则直接执行添加。
建议:
为了避免误更新,建议对更新需求采用先查询出来后,确定要更新的记录存在的前提下再执行更新操作。
5.Lucene索引库查询(重点)
5.1.创建查询的两种方法
Lucene要搜索信息需要通过Query查询对象进行。Lucene会根据Query查询对象生成最终的查询语法,类似SQL语法一样。可通过两种方法创建查询对象:
1.通过Query子类搜索
2.使用QueryParse解析查询表达式同时生成Query对象
5.2.通过Query子类查询
Query是一个抽象类,lucene提供了很多查询对象,比如TermQuery项精确查询,NumericRangeQuery数字范围查询等。
程序员可以利用Query的子类手动创建查询对象,但这种查询对象是没有分析器的,因此程序员写了什么样的条件就直接用什么样的条件进行查询,而不会进行词汇分析、语言分析等处理。所以通过Query子类的查询在实际项目中使用的不多。但学习它主要的目的是通过这种最基本的查询对象的学习,让搜索技术的初学者对查询索引有一个基础的认识,为后面学习复杂的查询奠定基础。
抽取搜索逻辑:
private void doSearch(Query query) throws IOException {
System.out.println("实际的查询条件:" + query);
// 创建Directory对象
Directory directory = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
// 创建IndexReader对象
IndexReader reader = DirectoryReader.open(directory);
// 创建IndexSearcher对象
IndexSearcher searcher = new IndexSearcher(reader);
// 执行搜索,返回结果集TopDocs
// 参数1:查询条件对象,参数2:返回的数据条数,指定查询结果最顶部的n条数据返回
TopDocs topDocs = searcher.search(query, 10);
System.out.println("查询到的数据总条数是:" + topDocs.totalHits);
// 获取查询结果集
ScoreDoc[] docs = topDocs.scoreDocs;
// 遍历结果集
for (ScoreDoc scoreDoc : docs) {
// 根据文档对象ID取得文档对象
int docID = scoreDoc.doc;
Document doc = searcher.doc(docID);
System.out.println("======================================");
System.out.println("docID:" + docID);
System.out.println("bookId:" + doc.get("id"));
System.out.println("name:" + doc.get("name"));
System.out.println("price:" + doc.get("price"));
System.out.println("pic:" + doc.get("pic"));
// System.out.println("desc:" + doc.get("desc"));
}
// 3. 关闭IndexReader对象,释放资源
reader.close();
}
5.2.1.全部索引查询——MatchAllDocsQuery
查询索引目录下所有文档的全部内容:相当于【*:*】
// 用MatchAllDocsQuery对象查询
@Test
public void testMatchAllDocsQuery() throws Exception {
Query query = new MatchAllDocsQuery();
doSearch(query);
}
结果:
实际的查询条件:*:*
查询到的数据总条数是:5
======================================
docID:0
bookId:1
name:java 编程思想
price:71.5
pic:23488292934.jpg
======================================
docID:1
bookId:2
name:apache lucene
price:66.0
pic:77373773737.jpg
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
======================================
docID:4
bookId:5
name:solr
price:78.0
pic:99999229292.jpg
5.2.2.精确指定索引词项查询——TermQuery
TermQuery:通过Term项查询。
TermQuery不使用分析器,所以不进行分析,是精确匹配,大小写敏感。所以建议匹配不分词的Field域查询,比如订单号、分类ID号等。而且只接受一个Term对象
【查询name域中包含luceneupdatetest的文档】
// 用TermQuery对象查询
@Test
public void testByTermQuery() throws Exception {
Query query = new TermQuery(new Term("name", "mybatis"));
doSearch(query);
}
结果:
实际的查询条件:name:mybatis
查询到的数据总条数是:1
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
因为在创建索引时经过分析name Filed域已经把大写转小写了,所以索引表中的term此项是【mybatis】而不是【MyBatis】
如果把条件改成:Query query = new TermQuery(new Term("name", "MyBatis"));
结果:
实际的查询条件:name:MyBatis
查询到的数据总条数是:0
5.2.3.数值范围查询——NumericRangeQuery
NumericRangeQuery指定数字范围的查询,五个参数分别是:域名、最小值、最大值、是否包含最小值、是否包含最大值:
/**
* 使用NumericRangeQuery
*/
@Test
public void testByNumericRangeQuery() throws Exception {
Query query = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
doSearch(query);
System.out.println(" ");
query = NumericRangeQuery.newFloatRange("price", 55f, 66f, false, true);
doSearch(query);
System.out.println(" ");
query = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, true);
doSearch(query);
}
结果:用方括号表示包含,用大括号表示不包含
实际的查询条件:price:[55.0 TO 66.0}
查询到的数据总条数是:2
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
实际的查询条件:price:{55.0 TO 66.0]
查询到的数据总条数是:2
======================================
docID:1
bookId:2
name:apache lucene
price:66.0
pic:77373773737.jpg
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
实际的查询条件:price:[55.0 TO 66.0]
查询到的数据总条数是:3
======================================
docID:1
bookId:2
name:apache lucene
price:66.0
pic:77373773737.jpg
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
5.2.4.组合条件查询——BooleanQuery
BooleanQuery布尔查询,实现组合条件查询:它可以组合多个其他类型的query对象。
参数1:被组合的一个query对象
参数2:每加一个条件要指定是MUST,还是MUST_NOT,还是SHOULD,是对参数1条件的逻辑控制。
参数2的值:
Occur.MUST:必须满足此条件
Occur.SHOULD:应该满足此条件(也可以不满足)
Occur.MUST_NOT:必须不满足此条件
MUST、SHOULD、MUST_NOT的使用规则:
MUST:在任何时候,与其他条件组合都有效。
MUST_NOT:
不能与MUST_NOT组合,否则没有任何结果返回
与其他条件组合都有效。
SHOULD:
不能与MUST组合,否则SHOULD条件失效
与其他条件组合都有效。
常用组合关系代表的意思如下:
1、MUST和MUST表示“与”的关系,即“交集”。
2、SHOULD与SHOULD表示“或”的关系,即“并集”。
3、MUST和MUST_NOT前者包含后者不包含。
4、MUST_NOT和MUST_NOT,什么都查询不出来
5、SHOULD与MUST,SHOULD控制的条件失效不被查询考虑,只查询MUST控制的条件。
6、SHOULD与MUST_NOT先查SHOULD,然后再用MUST_NOT过滤。
注意:从上面的组合可以得出,正常情况下SHOULD不应该跟MUST或MUST_NOT组合使用,SHOULD就跟SHOULD组合使用,这样才是正常的检索。MUST_NOT和MUST_NOT也是扯淡的。
示例【MUST与MUST】
/**
* 使用BooleanQuery:MUST与MUST
*/
@Test
public void testByBooleanQuery1() throws Exception {
Query query1 = new TermQuery(new Term("name", "apache"));
Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, false, true);
BooleanQuery booleanQuery = new BooleanQuery();
booleanQuery.add(query1, Occur.MUST); // 书名带有apache的必须包含进来
booleanQuery.add(query2, Occur.MUST); // 价格大于55,小于等于66范围内的书籍必须包含进来
System.out.println("实际的查询条件:" + booleanQuery);
// and相当于求它们的交际
doSearch(booleanQuery);
}
结果:
实际的查询条件:+name:apache +price:{55.0 TO 66.0]
查询到的数据总条数是:1
======================================
docID:1
bookId:2
name:apache lucene
price:66.0
pic:77373773737.jpg
示例【SHOULD与SHOULD】:并集
@Test
public void testByBooleanQuery6() throws Exception {
Query query1 = new TermQuery(new Term("name", "lucene"));
Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
BooleanQuery booleanQuery = new BooleanQuery();
booleanQuery.add(query1, Occur.SHOULD); // 书名带有mybatis的应该包含进来
booleanQuery.add(query2, Occur.SHOULD); // 价格大于等于55,小于66范围内的书籍应该包含
System.out.println("实际的查询条件:" + booleanQuery);
// and相当于求它们的交际
doSearch(booleanQuery);
}
结果:
实际的查询条件:name:lucene price:[55.0 TO 66.0}
查询到的数据总条数是:3
======================================
docID:1
bookId:2
name:apache lucene
price:66.0
pic:77373773737.jpg
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
示例【MUST与MUST_NOT】:前者包含后者不包含
/**
* 使用BooleanQuery
*/
@Test
public void testByBooleanQuery2() throws Exception {
Query query1 = new TermQuery(new Term("name", "mybatis"));
Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
BooleanQuery booleanQuery = new BooleanQuery();
booleanQuery.add(query1, Occur.MUST_NOT); // 书名带有mybatis的不能包含进来
booleanQuery.add(query2, Occur.MUST); // 价格大于等于55,小于66范围内的书籍
System.out.println("实际的查询条件:" + booleanQuery);
// and相当于求它们的交际
doSearch(booleanQuery);
}
结果:
实际的查询条件:-name:mybatis +price:[55.0 TO 66.0}
查询到的数据总条数是:1
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
示例【MUST_NOT和MUST_NOT】:没有意义,什么都查询不到
@Test
public void testByBooleanQuery3() throws Exception {
Query query1 = new TermQuery(new Term("name", "apache"));
Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 56f, true, true);
BooleanQuery booleanQuery = new BooleanQuery();
booleanQuery.add(query1, Occur.MUST_NOT); // 书名带有apache的必须不包含进来
booleanQuery.add(query2, Occur.MUST_NOT); // 价格大于等于55,小于等于56范围内的书籍必须不包含进来
System.out.println("实际的查询条件:" + booleanQuery);
// and相当于求它们的交际
doSearch(booleanQuery);
}
结果:
实际的查询条件:-name:apache -price:[55.0 TO 56.0]
查询到的数据总条数是:0
MUST_NOT必须在它之前有条件确定下来一个固定范围内再进行排除条件过滤,但是两个MUST_NOT,谁也没有给定范围,所以最终查不到结果。
【SHOULD与MUST】:SHOULD控制的条件失效不被查询考虑,只查询MUST控制的条件。
@Test
public void testByBooleanQuery4() throws Exception {
Query query1 = new TermQuery(new Term("name", "lucene"));
Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 56f, true, true);
BooleanQuery booleanQuery = new BooleanQuery();
booleanQuery.add(query1, Occur.SHOULD); // 书名带有lucene的应该包含进来(SHOULD控制的条件失效)
booleanQuery.add(query2, Occur.MUST); // 价格大于等于55,小于等于56范围内的书籍必须包含进来
System.out.println("实际的查询条件:" + booleanQuery);
// and相当于求它们的交际
doSearch(booleanQuery);
}
结果:
实际的查询条件:name:lucene +price:[55.0 TO 56.0]
查询到的数据总条数是:2
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
示例【SHOULD与MUST_NOT】:SHOULD条件有效,在SHOULD查询结果范围内用MUST_NOT过滤。
@Test
public void testByBooleanQuery5() throws Exception {
Query query1 = new TermQuery(new Term("name", "mybatis"));
Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
BooleanQuery booleanQuery = new BooleanQuery();
booleanQuery.add(query1, Occur.MUST_NOT); // 书名带有mybatis的不能包含进来
booleanQuery.add(query2, Occur.SHOULD); // 价格大于等于55,小于66范围内的书籍应该包含
System.out.println("实际的查询条件:" + booleanQuery);
// and相当于求它们的交际
doSearch(booleanQuery);
}
结果:
实际的查询条件:-name:mybatis price:[55.0 TO 66.0}
查询到的数据总条数是:1
======================================
docID:3
bookId:4
name:spring
price:56.0
pic:83938383222.jpg
因为MUST_NOT需要一个结果范围,所以SHOULD条件必须被执行,并固定了范围,然后再用MUST_NOT排除。
5.3.通过QueryParser搜索
我们可以直接写类似上面打印出来的查询语句,通过QueryParser的Parse方法进行解析生成Query对象。
如果使用QueryParser需要的jar包就是:
5.3.1.QueryParser
QueryParser对象的创建就是直接new,参数1:默认的搜索域,参数2:一个分析器对象。
5.3.1.1.基础查询
也叫关键词查询。
语法:域名+“:”+搜索的关键字。 例如:name:java
示例:由于有分析器,所以条件大小写都是一样的,经过分析器后都会处理成小写。
@Test
public void testByQueryParser1() throws Exception {
// 创建分析器
Analyzer analyzer = new StandardAnalyzer();
// 创建查询解析器
QueryParser queryParser = new QueryParser("desc", analyzer);
// 根据查询解析器常见查询对象
Query query = queryParser.parse("name:Mybatis");
// 进行查询
doSearch(query);
System.out.println(" ");
// 根据查询解析器常见查询对象
query = queryParser.parse("name:mybatis");
// 进行查询
doSearch(query);
}
结果:
实际的查询条件:name:mybatis
查询到的数据总条数是:1
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
实际的查询条件:name:mybatis
查询到的数据总条数是:1
======================================
docID:2
bookId:3
name:mybatis
price:55.0
pic:88272828282.jpg
5.3.1.2.范围查询
域名+“:”+[最小值 TO 最大值](用[表示小于等于,{表示小于,]表示大于等于,}表示大于,TO要大写)
例如:size:[1 TO 1000]
注意:QueryParser不支持对数字范围的搜索,它支持字符串范围。数字范围搜索建议使用NumericRangeQuery。虽然上面的NumericRangeQuery在测试时候打印出来的条件和这个写法是一样的,但是使用QueryParser时候就不能这样写,但是字符串范围查询是可以的。
在solr中可以支持这样的数值范围查询语法。
5.3.1.3.组合条件查询
在QueryParser对象中写条件时可以使用:AND,OR,NOT要大写
必须满足此条件 AND或+(加号) 相当于Occur.MUST
应该满足此条件 OR或空(不用符号) 相当于Occur.SHOULD
必须不满足此条件 NOT或-(减号) 相当于Occur.MUST_NOT
前提:QueryParser queryParser = new QueryParser("desc", analyzer);
1)+条件1 +条件2:两个条件都必须满足(相当于MUST与MUST)
queryParser.parse("+mybatis +lucene") 或
queryParser.parse("mybatis AND lucene")
2)条件1 条件2:两个条件满足其一即可(相当于SHOULD与SHOULD)
queryParser.parse("mybatis lucene")
queryParser.parse("mybatis OR lucene")
3)+条件1 -条件2:条件1必须满足,条件2必须不满足(相当于MUST与MUST_NOT)
queryParser.parse("+lucene -mybatis")
4)-条件1 +条件2:条件1必须不满足,条件2必须满足(相当于MUST_NOT与MUST)
queryParser.parse("-lucene +mybatis")
queryParser.parse("NOT lucene AND mybatis")
5)+条件1 条件2:必须满足条件1,条件2失效(相当于MUST与SHOULD)
queryParser.parse("+lucene mybatis"),必须包含lucene的,忽略mybatis的。
╳ queryParser.parse("AND lucene mybatis"),最前面不能写AND或OR,但可以写NOT
6)条件1 +条件2:条件1失效,必须满足条件2(相当于SHOULD与MUST)
queryParser.parse("mybatis +lucene")
╳ queryParser.parse("OR lucene AND mybatis")
7)-条件1 条件2:相当于MUST_NOT与SHOULD
queryParser.parse("-lucene mybatis")
queryParser.parse("NOT lucene mybatis")
5.3.1.4.默认搜索域对查询条件的影响
设置了默认搜索域后,查询条件中必须明确给出要搜索的域才会按照给出的域搜索,否则都会默认认为是搜索默认搜索域。假设:QueryParser queryParser = new QueryParser("desc", analyzer);表明设置了desc为默认搜索域。
比如:
Query query = queryParser.parse("java AND lucene");
被解释成:desc:java AND desc:lucene,条件中没有明确指定时就用默认的域desc。
Query query = queryParser.parse("name:java AND lucene");
被解释成:name:java AND desc:lucene,而不是name:java AND name:lucene。
Query query = queryParser.parse("name:lucene AND java");
被解释成:name:lucene AND desc:java,而不是name:lucene AND name:java。
以上两种条件最终的查询结果是不同的,但如果理解错误很容易误解为查询结果应该是一样的。
Query query = queryParser.parse("desc:java AND lucene");
被解释成:desc:java AND desc:lucene,第二个条件其实使用的是默认域,只不过默认域和前面指定
的域名一致而已
Query query = queryParser.parse("name:java");
还可以指定一个新的Field域,完全跟默认的搜索域没有任何关系,这时只会搜索name域,desc域与本次查询没有任何关系。
5.3.2.MultiFieldQueryParser
通过MultiFieldQueryParse对多个域查询,两个域之间相当于用或连接:
/**
* 使用MultiFieldQueryParser多域查询解析器进行查询
*/
@Test
public void testByMultiFieldQueryParser() throws Exception {
// 创建分析器
Analyzer analyzer = new StandardAnalyzer();
String[] fields = {"name", "desc"};
// 创建多域查询解析器
MultiFieldQueryParser queryParser = new MultiFieldQueryParser(fields, analyzer);
// 根据查询条件解析出对应的查询对象
Query query = queryParser.parse("lucene");
// 打印查询对象
System.out.println(query);
// 进行查询
doSearch(query);
}
结果:
name:lucene desc:lucene
查询到的数据总条数是:2
======================================
docID:1
bookId:2
name:apache lucene
price:66.0
pic:77373773737.jpg
======================================
docID:4
bookId:5
name:solr
price:78.0
pic:99999229292.jpg
生成的查询语句:
name:lucene desc:lucene
没有+和-,说明是或条件,即name:lucene OR desc:lucene
5.4.TopDocs
Lucene搜索结果可通过TopDocs遍历,TopDocs类提供了少量的属性,如下:
方法或属性 说明
totalHits 匹配搜索条件的总记录数
scoreDocs 顶部匹配记录
注意:
Search方法需要指定匹配记录数量n:indexSearcher.search(query, n)
TopDocs.totalHits:是匹配索引库中所有记录的数量
TopDocs.scoreDocs:匹配相关度高的前边记录数组,scoreDocs的长度小于等于search方法指定的参数n
6.相关度排序(了解)
6.1.什么是相关度排序
相关度排序是查询结果按照与查询关键字的相关性进行排序,越相关的越靠前。比如搜索“Lucene”关键字,与该关键字最相关的文章应该排在前边。
6.2.相关度打分
Lucene对查询的关键字与包含这个关键字的文档的相关度进行打分,得分高的就排在前边。如何打分呢?Lucene是在用户进行检索时实时根据搜索的关键字计算出来的,分两步:
1)计算出词(Term)的权重
2)根据词的权重值,计算文档相关度得分。
什么是词的权重?
通过索引部分的学习,明确索引的最小单位是一个Term(索引词典中的一个词)。搜索也是从索引域中查询Term,再根据Term找到文档。Term对文档的重要性称为权重,影响Term权重有两个因素:
Term Frequency (tf):
指此Term在此文档中出现了多少次。tf 越大说明越重要。
词(Term)在文档中出现的次数越多,说明此词(Term)对该文档越重要,如“Lucene”这个词,在文档中出现的次数很多,说明该文档主要就是讲Lucene技术的。
Document Frequency (df):
指有多少文档包含此Term。df 越大说明越不重要。
比如,在多篇英语文档中,this出现的次数更多,就说明越重要吗?不是的,有越多的文档包含此词(Term), 说明此词(Term)太普通,不足以区分这些文档,因而重要性越低。
6.3.设置boost值影响相关度排序
boost是一个加权值(默认加权值为1.0f),它可以影响权重的计算。在索引时对某个文档中的field设置加权值,设置越高,在搜索时匹配到这个文档就可能排在前边。
未设置权重:
当未设置boost加权时name为spring的排名是最后一名,希望把name为spring的排名提高。
先清空索引库,然后可以重新做一个类试验加权值boost的,就是在创建索引的代码中追加加权值的设置逻辑:
package cn.baidu.test2;
import java.io.File;
import java.io.InputStream;
import java.util.ArrayList;
import java.util.List;
import org.apache.ibatis.io.Resources;
import org.apache.ibatis.session.SqlSession;
import org.apache.ibatis.session.SqlSessionFactory;
import org.apache.ibatis.session.SqlSessionFactoryBuilder;
import org.apache.lucene.analysis.Analyzer;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field.Store;
import org.apache.lucene.document.FloatField;
import org.apache.lucene.document.StoredField;
import org.apache.lucene.document.TextField;
import org.apache.lucene.index.IndexWriter;
import org.apache.lucene.index.IndexWriterConfig;
import org.apache.lucene.store.Directory;
import org.apache.lucene.store.FSDirectory;
import org.apache.lucene.util.Version;
import org.junit.Before;
import org.junit.Test;
import org.wltea.analyzer.lucene.IKAnalyzer;
import cn.baidu.dao.BookDao;
import cn.baidu.pojo.Book;
/**
* 增加加权值boost
*
* @author Derek Sun
*
*/
public class CreateIndexTest3 {
private SqlSessionFactory sqlSessionFactory = null;
@Before
public void init() throws Exception {
InputStream inputStream = Resources.getResourceAsStream("MyBatisConfig.xml");
sqlSessionFactory = new SqlSessionFactoryBuilder().build(inputStream);
}
@Test
public void test() throws Exception {
SqlSession sqlSession = null;
try {
sqlSession = sqlSessionFactory.openSession();
BookDao bookDao = sqlSession.getMapper(BookDao.class);
// 1. 从数据库采集数据
List<Book> bookList = bookDao.queryBookList();
// 2. 创建Document文档对象
List<Document> documents = new ArrayList<Document>();
for (Book book : bookList) {
Document document = new Document();
// Document文档中添加Field域
// 图书id
// 不分词、不索引、只存储
document.add(new StoredField("id", book.getId().toString()));
// 图书名称
// 分词、索引、存储
document.add(new TextField("name", book.getName().toString(), Store.YES));
// 图书价格
// 分词、索引、存储
document.add(new FloatField("price", book.getPrice(), Store.YES));
// 图书图片地址
// 不分词、不索引、只存储
document.add(new StoredField("pic", book.getPic().toString()));
// 图书描述
// 分词、索引、不存储
TextField detailField = new TextField("desc", book.getDescription().toString(), Store.NO);
// 判断是不是spring的那一条,如果是就增加它的加权值
if (book.getId() == 4) {
detailField.setBoost(100f);
}
document.add(detailField);
// 把Document放到list中
documents.add(document);
}
// 3. 创建Analyzer分词器(分析文档,对文档进行切分词)
Analyzer analyzer = new IKAnalyzer();
// 4. 创建索引
// 4-1. 创建Directory对象,声明索引库位置
Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
// 4-2. 创建IndexWriteConfig对象,写入索引需要的配置
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
// 4-3. 创建IndexWriter写入对象
IndexWriter indexWriter = new IndexWriter(dir, config);
// 4-4. 把Document写入到索引库,通过IndexWriter对象添加文档对象document
for (Document doc : documents) {
indexWriter.addDocument(doc);
}
// 4-5. 释放资源(释放资源同时还有commit操作)
indexWriter.close();
} catch(Exception e) {
e.printStackTrace();
throw e;
} finally {
sqlSession.close();
}
}
}
执行创建索引的逻辑,使用luke重载新生成的索引库,再次查询spring在第一:
7.Solr介绍
7.1.什么是solr
Solr是Apache下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务。Solr是一个可以独立运行的搜索服务器,可以独立运行在Jetty、Tomcat等这些Servlet容器中。使用solr进行全文检索服务的话,只需要通过http请求访问该服务器即可。
Solr提供了比Lucene更为丰富的查询语言,同时实现了文档的Field域的可配置、可扩展,并对索引、搜索性能进行了优化。
使用Solr 进行创建索引和搜索索引的实现方法很简单,如下:
创建索引:客户端(可以是浏览器可以是Java程序)用 POST 方法向 Solr 服务器发送一个描述 Field 及其内容的 XML 文档,Solr服务器根据xml文档添加、删除、更新索引 。
搜索索引:客户端(可以是浏览器可以是Java程序)用 GET方法向 Solr 服务器发送请求,然后对 Solr服务器返回Xml、json等格式的查询结果进行解析。Solr不提供构建页面UI的功能。Solr提供了一个管理界面,通过管理界面可以查询Solr的配置和运行情况。
7.2.Solr和Lucene的区别
Lucene是一个开放源代码的全文检索引擎开发工具包,它不是一个完整的全文检索应用,不能独立运行。我们可以借助它在企业的系统中实现全文检索搜索功能,或者以Lucene为基础构建一个独立的全文检索搜索引擎应用,像百度,谷歌一样。
Solr是用Lucene开发的一个全文检索搜索引擎服务,它是一个完整的全文检索应用,可以独立运行,企业中可以利用solr的搜索引擎服务非常快速的构建企业自己的搜索引擎,也可以通过Solr高效的完成站内搜索功能。
说直白一些就是:Lucene不能拿来直接用,要在它基础上开发;Solr就是用Lucene开发的搜索引擎服务,可以拿来直接用。
8.Solr安装配置
8.1.下载solr
Solr和lucene的版本是同步更新的,本课程使用的版本:4.10.3
下载地址:http://archive.apache.org/dist/lucene/solr/
Linux下需要solr-4.10.3.tgz,windows下需要solr-4.10.3.zip。
解压solr-4.10.3.zip:
目录说明:
example:solr工程的实例目录:
example/solr:
该目录是一个标准的SolrHome,它包含一个默认配置信息的SolrCore目录。
example/multicore:
该目录包含了在Solr的multicore中设置的多个Core目录。
example/webapps:
该目录中包括一个solr.war,该war可作为solr的运行实例工程。
8.2.SolrHome和SolrCore
SolrHome就是MySQL的数据库主机。
SolrCore就是MySQL的数据库主机下的一个数据库。这里面叫做索引库。MySQL的数据库是相互独立的,SolrCore同样也是相互独立的。
SolrHome是Solr索引库的主目录,一个SolrHome可以包括多个SolrCore(Solr实例),每个SolrCore就是一个索引库,提供单独的搜索和索引服务,有自己独立的配置文件和数据文件。
在【资料\solr\solr-4.10.3\example】目录下,【\solr】是一个SolrHome目录结构,如下:
上图中“collection1”是一个SolrCore(Solr实例)目录 ,目录内容如下所示:
8.3.SolrCore创建与配置
Solr中许多功能都是配置就可以使用的,不需要做太多的实现编码,我们要做的只是配置好,然后调用即可。而且SolrCore的创建就是拷贝官方提供的一个实例,然后改一改配置即可。
8.3.1.创建SolrCore
最快的创建即拷贝解压缩包中的例子,拷到Solr工作目录:【C:\mydir\03_workspace\solr】。拷贝【solr-4.10.3\example\solr】文件夹到Solr工作目录,并改名为【solrhome】(改名不是必须的,只是为了便于理解),这是一个SolrHome目录,它里面自带一个collection1就是一个SolrCore。
8.3.1.配置SolrCore
一个SolrCore的配置都是自己独立的。主要的配置文件在SolrCore目录下的conf/solrconfig.xml。
这个文件配置SolrCore实例的相关信息。主要是Solr索引库依赖的lib(lib标签)、索引文件存放的路径(datadir标签)、Solr提供的请求访问URL配置(requestHandler标签)。如果使用默认配置可以不用做任何修改。
8.3.1.1.lib 标签
在solrconfig.xml中默认配置了【contrib】和【dist】两个目录下的jar包,这些jar目录都在解压后的文件夹中,所以这两个文件夹也需要拷贝过来:
【solr.install.dir】表示当前的SolrCore的目录位置,即【C:\mydir\03_workspace\solr\
solrhome\collection1】,冒号:后面的【../../..】是针对【solr.install.dir】的相对路径,这个相对路径取决于我们把这两个文件夹放哪。这里还可以直接指定绝对路径,但不推荐使用绝对路径。
比如:我们把【contrib】与【dist】复制到【C:\mydir\03_workspace\solr】目录下:
那么【solr.install.dir:】后的【../../..】应该改为【../..】:
(./ 表示当前目录 ../表示上一级目录)
8.3.1.2.datadir标签
配置SolrCore的data目录。data目录用来存放SolrCore的索引文件和tlog日志文件
【solr.data.dir】默认路径是【collection1\data】文件夹,如果没有data,solr会自动创建。
如果不想使用默认的目录也可以通过solrconfig.xml更改索引目录 ,例如:
(建议不修改,因为各自的索引文件和日志放在各自的SolrCore目录下更好,而且当配置多个SolrCore会报错)
8.3.1.3.requestHandler标签
requestHandler请求处理器,定义了索引和搜索的URL访问方式。官方提供的配置文件中就已经给我们配置了许多url访问方式,基本不用改。requestHandler也是可以根据自己的要求自定义。
/update:维护索引使用的url,可以完成索引的添加、修改、删除操作。
/select:查询索引使用的url。
设置搜索参数完成搜索,搜索参数也可以设置一些默认值,如下:
<requestHandler name="/select" class="solr.SearchHandler">
<!-- 设置默认的参数值,可以在请求地址中修改这些参数-->
<lst name="defaults">
<str name="echoParams">explicit</str>
<int name="rows">10</int><!--显示数量-->
<str name="wt">json</str><!--显示格式-->
<str name="df">text</str><!--默认搜索字段-->
</lst>
</requestHandler>
8.4.Solr运行环境
solr 需要运行在一个Servlet容器中,Solr4.10.3要求jdk使用1.7以上,Solr默认提供Jetty(java写的Servlet容器),
使用jetty启动:使用cmd命令行,进入example文件夹启动。启动命令java -jar start.jar
启动后访问地址:http://127.0.0.1:8983/solr
但是企业中一般使用Tomcat作为服务器,本课程也是一样,
相关环境如下:
Solr:4.10.3
Jdk环境:1.7(solr4.10 不能使用jdk1.7以下)
服务器:Tomcat 7
8.5.Solr服务部署
上面拷贝并配置的不是SolrWeb服务,那只是一个个的Solr索引库。
我们现在要部署的才是真正的Solr Web服务。
由于在项目中用到的web服务器大多数是用的Tomcat,所以就进行solr和Tomcat的整合。
8.5.1.安装Tomcat
复制自己的Tomcat7到这里
删除不用的应用(可以不删)
修改server.xml配置文件里面的端口号(否则后面eclipse使用Tomcat会冲突)
修改以下三个端口号
8.5.2.部署solr.war到Tomcat中
1、从solr解压包下的solr-4.10.3\example\webapps目录中拷贝solr.war
复制solr.war
粘贴到自己Tomcat的webapps里
在Tomcat的webapps里,把war解压到当前路径,并删除solr.war
效果:
8.5.3.添加solr服务的扩展jar包(日志包)
把solr解压包下solr-4.10.3\example\lib\ext目录下的所有jar包拷贝到Tomcat部署的solr的WEB-INF/lib文件夹:
复制扩展jar包
粘贴到Tomcat的webapps的solr工程的WEB-INF\lib目录
8.5.4.配置solr应用的web.xml
需要修改web.xml,让Tomcat使用JNDI的方式告诉solr服务器SolrHome在哪。
修改内容:第42行的Solr/home名称必须是固定的,修改第43行,如下图
8.5.5.启动Tomcat进行访问
访问:http://localhost:8081/solr/,出现以下界面则说明solr安装成功!!!
8.6.管理界面功能介绍
8.6.1.Dashboard
仪表盘,显示了该Solr实例开始启动运行的时间、版本、系统资源、jvm等信息。
8.6.2.Logging
Solr运行日志信息
8.6.3.Cloud
Cloud即SolrCloud,即Solr云(集群),当使用Solr Cloud模式运行时会显示此菜单,该部分功能在第二个项目,即电商项目会演示。
8.6.4.Core Admin
Solr Core的管理界面。在这里可以添加SolrCore实例(有bug,不推荐使用浏览器界面添加SolrCore)。
推荐使用手动添加solrcore:
第一步:复制collection1改名为collection2
第二步:修改core.properties。name=collection2
第三步:重启tomcat
8.6.5.java properties
Solr在JVM 运行环境中的属性信息,包括类路径、文件编码、jvm内存设置等信息。
8.6.6.Tread Dump
显示Solr Server中当前活跃线程信息,同时也可以跟踪线程运行栈信息。
8.6.7.Core selector(重点)
选择一个SolrCore进行详细操作,如下:
8.6.7.1.Analysis
通过此界面可以测试索引分析器和搜索分析器的具体分析执行结果
Solr中自带了许多已经定义好的Field,而且Solr的Field中都带有分析器可以对设置的内容进行分析处理,这一点比Lucene要高级,因为Lucene的Field对象不能指定分析器。
在这个界面中可以选择不同的Field域对你输入的内容进行分析测试,用于查看某个Field的分词情况,从而我们可以在开发中选用正确的Field。
1. 我们先选用【_root_】域:
结果:没有分词
我们发现【_root_】的实际类型是【StrField】,String类型的Field是不分词的,这个和Lucene的类似。
2. 我们选用一个可能有分词功能的Field【content】
结果:分词了,但是分的不好
【content】的Field类型是TextField,它使用的分析器是solr标准分析器,只能对英文分词,所以对汉字分的不好。
结论:
虽然solr提供了许多可用的Field,但是这些Field对汉语支持不好,所以在实际开发是我们需要自定义支持汉语的Field才可以进行我们的系统开发。Solr对Field域定义非常灵活、强大,这个明天具体学习。
8.6.7.2.dataimport
可以定义数据导入处理器,从关系数据库将数据创建索引并导入到Solr索引库中。默认没有配置,需要手工配置。
8.6.7.3.Document
通过此菜单可以创建索引、更新索引、删除索引等操作。
通过/update表示更新索引,solr默认根据id(唯一约束)域来更新Document的内容,如果根据id值搜索不到id域则会执行添加操作,如果找到则更新。
overwrite="true" : solr在做索引的时候,如果文档已经存在,就用xml中的文档进行替换
commitWithin="1000" : solr 在做索引的时候,每隔1000(1秒)毫秒,做一次文档提交。为了方便测试也可以在Document中立即提交,</doc>后添加“<commit/>”
1. 添加索引
id域=c001的Document不存在时,创建Document对象,有两个域:id域和title域,查看结果:
Solr会针对你添加的Document对象自动创建索引。
2. 更新索引
Solr只能更新已经存在的索引
查询结果:
3. 如果使用了solr不存在的Field,是不允许的:
4. 如果不带id域也是不允许的:
5. 根据id删除索引:
查询删除结果:
6. 根据条件删除:
先添加两个Document:
查询结果:
执行条件删除:
再查询:只有c002的数据了
8.6.7.4.Query
通过/select执行搜索索引,必须指定“q”查询条件方可搜索。这个我们明天还要好好学习,今天就简单了解。
9.Solrj的使用
9.1.什么是solrj
solrj是访问Solr服务的java客户端,提供索引和搜索的请求方法,如下图:
Solrj和图形界面操作的区别就类似于数据库中使用jdbc和mysql客户端的区别一样。
9.2.需求
使用solrj调用solr服务实现对索引库的增删改查操作。
9.3.环境准备
Solr:4.10.3
Jdk环境:1.7
IDE环境:Eclipse Mars2
9.4.工程搭建
9.4.1.创建java工程
9.4.2.添加jar
Solrj的包,\solr-4.10.3\dist\目录下
solrj依赖包,\solr-4.10.3\dist\solrj-lib
Solr服务的日志依赖包,\solr\example\lib\ext
9.4.3.添加日志配置文件
创建【config】:
加入log4j.properties。
9.5.代码实现
9.5.1.添加&修改索引
9.5.1.1.步骤
1、创建(new)HttpSolrServer对象,通过它和Solr服务器建立连接,需要提供URL
2、创建SolrInputDocument对象,然后通过它的addField(域名,域值)来添加域。
3、通过HttpSolrServer对象的add()方法将SolrInputDocument添加到索引库。
4、HttpSolrServer的commit(提交)。
9.5.1.2.代码
说明:根据id(唯一约束)域来更新Document的内容,如果根据id值搜索不到id域则会执行添加操作,如果找到则更新。
@Test
public void testCreateAndUpdateIndex() throws Exception {
// 1. 创建HttpSolrServer对象
// 设置solr服务接口,浏览器客户端地址http://127.0.0.1:8081/solr/
// 如果想上面不指定某个Solr实例默认使用第一个,但最好还是指定一个
String baseURL = "http://127.0.0.1:8081/solr/collection1";
HttpSolrServer httpSolrServer = new HttpSolrServer(baseURL);
// 2. 创建SolrInputDocument对象
SolrInputDocument document = new SolrInputDocument();
document.addField("id", "c1001");
document.addField("content ", "Hello world!");
// 3. 把SolrInputDocument对象添加到索引库中
httpSolrServer.add(document);
// 4. 提交
httpSolrServer.commit();
}
9.5.1.查询索引
抽取HttpSolrServer 的创建代码
private HttpSolrServer httpSolrServer;
// 提取HttpSolrServer创建
@Before
public void init() {
// 1. 创建HttpSolrServer对象
// 设置solr服务接口,浏览器客户端地址http://127.0.0.1:8081/solr/#/
String baseURL = "http://127.0.0.1:8081/solr/";
this.httpSolrServer = new HttpSolrServer(baseURL);
}
根据条件的简单查询(查询全部)
/**
* 简单搜索
*
* @throws Exception
*/
@Test
public void testSearchIndex1() throws Exception {
// 创建搜索对象
SolrQuery query = new SolrQuery();
// 设置搜索条件
query.setQuery("*:*");
// 发起搜索请求
QueryResponse response = this.httpSolrServer.query(query);
// 处理搜索结果
SolrDocumentList results = response.getResults();
System.out.println("搜索到的结果总数:" + results.getNumFound());
// 遍历搜索结果
for (SolrDocument solrDocument : results) {
System.out.println("----------------------------------------------------");
System.out.println("id:" + solrDocument.get("id"));
System.out.println("content" + solrDocument.get("content"));
}
}
9.5.2.删除索引
删除索引逻辑,两种:
根据id删除
根据条件删除,根据条件删除,可以使用*:*作为条件,就是删除所有数据(慎用)
@Test
public void testDeleteIndex() throws Exception {
// 根据id删除索引数据
// this.httpSolrServer.deleteById("c1001");
// 根据条件删除(如果是*:*就表示全部删除,慎用)
//this.httpSolrServer.deleteByQuery("*:*");
this.httpSolrServer.deleteByQuery("id:c1001");
// 提交
this.httpSolrServer.commit();
}
网友评论