ElasticSearch实战

ElasticSearch实战

es: https://www.elastic.co/cn/

kibana: https://www.elastic.co/cn/kibana

链接：https://pan.baidu.com/s/1qmXNZBVGrcp0fuo9bBqrRA 提取码：6zpo --来自百度网盘超级会员V5的分享 来自狂神公众号

防京东商城搜索（高亮）

1、工程创建（springboot）

创建过程略

目录结构

2、基本编码

①导入依赖

1. <properties>
2. <java.version>1.8</java.version>
3. <elasticsearch.version>7.6.1</elasticsearch.version>
4. </properties>
6. <dependencies>
7. <!-- jsoup解析页面 -->
8. <!-- 解析网页 爬视频可 研究tiko -->
9. <dependency>
10. <groupId>org.jsoup</groupId>
11. <artifactId>jsoup</artifactId>
12. <version>1.10.2</version>
13. </dependency>
14. <!-- fastjson -->
15. <dependency>
16. <groupId>com.alibaba</groupId>
17. <artifactId>fastjson</artifactId>
18. <version>1.2.70</version>
19. </dependency>
20. <!-- ElasticSearch -->
21. <dependency>
22. <groupId>org.springframework.boot</groupId>
23. <artifactId>spring-boot-starter-data-elasticsearch</artifactId>
24. </dependency>
25. <!-- thymeleaf -->
26. <dependency>
27. <groupId>org.springframework.boot</groupId>
28. <artifactId>spring-boot-starter-thymeleaf</artifactId>
29. </dependency>
30. <!-- web -->
31. <dependency>
32. <groupId>org.springframework.boot</groupId>
33. <artifactId>spring-boot-starter-web</artifactId>
34. </dependency>
35. <!-- devtools热部署 -->
36. <dependency>
37. <groupId>org.springframework.boot</groupId>
38. <artifactId>spring-boot-devtools</artifactId>
39. <scope>runtime</scope>
40. <optional>true</optional>
41. </dependency>
42. <!-- -->
43. <dependency>
44. <groupId>org.springframework.boot</groupId>
45. <artifactId>spring-boot-configuration-processor</artifactId>
46. <optional>true</optional>
47. </dependency>
48. <!-- lombok 需要安装插件 -->
49. <dependency>
50. <groupId>org.projectlombok</groupId>
51. <artifactId>lombok</artifactId>
52. <optional>true</optional>
53. </dependency>
54. <!-- test -->
55. <dependency>
56. <groupId>org.springframework.boot</groupId>
57. <artifactId>spring-boot-starter-test</artifactId>
58. <scope>test</scope>
59. </dependency>
60. </dependencies>

②导入前端素材

略

③编写 application.preperties配置文件

1. # 更改端口，防止冲突
2. server.port=9999
3. # 关闭thymeleaf缓存
4. spring.thymeleaf.cache=false

④测试controller和view

1. @Controller
2. public class IndexController {
4. @GetMapping({"/","index"})
5. public String index(){
6. return "index";
7. }
8. }

访问 localhost:9999

到这里可以先去编写爬虫，编写之后，回到这里

⑤编写Config

1. @Configuration
2. public class ElasticSearchConfig {
3. @Bean
4. public RestHighLevelClient restHighLevelClient(){
5. RestHighLevelClient client = new RestHighLevelClient(
6. RestClient.builder(
7. new HttpHost("127.0.0.1",9200,"http")
8. )
9. );
10. return client;
11. }
12. }

⑥编写service

因为是爬取的数据，那么就不走Dao，以下编写都不会编写接口，开发中必须严格要求编写

ContentService

1. @Service
2. public class ContentService {
4. @Autowired
5. private RestHighLevelClient restHighLevelClient;
8. // 1、解析数据放入 es 索引中
9. public Boolean parseContent(String keyword) throws IOException {
10. // 获取内容
11. List<Content> contents = HtmlParseUtil.parseJD(keyword);
12. // 内容放入 es 中
13. BulkRequest bulkRequest = new BulkRequest();
14. bulkRequest.timeout("2m"); // 可更具实际业务是指
15. for (int i = 0; i < contents.size(); i++) {
16. bulkRequest.add(
17. new IndexRequest("jd_goods")
18. .id(""+(i+1))
19. .source(JSON.toJSONString(contents.get(i)), XContentType.JSON)
20. );
21. }
22. BulkResponse bulk = restHighLevelClient.bulk(bulkRequest, RequestOptions.DEFAULT);
23. restHighLevelClient.close();
24. return !bulk.hasFailures();
25. }
27. // 2、根据keyword分页查询结果
28. public List<Map<String, Object>> search(String keyword, Integer pageIndex, Integer pageSize) throws IOException {
29. if (pageIndex < 0){
30. pageIndex = 0;
31. }
33. SearchRequest jd_goods = new SearchRequest("jd_goods");
34. // 创建搜索源建造者对象
35. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
36. // 条件采用：精确查询 通过keyword查字段name
37. TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("name", keyword);
38. searchSourceBuilder.query(termQueryBuilder);
39. searchSourceBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));// 60s
40. // 分页
41. searchSourceBuilder.from(pageIndex);
42. searchSourceBuilder.size(pageSize);
43. // 高亮
44. // ....
46. // 搜索源放入搜索请求中
47. jd_goods.source(searchSourceBuilder);
48. // 执行查询，返回结果
49. SearchResponse searchResponse = restHighLevelClient.search(jd_goods, RequestOptions.DEFAULT);
50. restHighLevelClient.close();
52. // 解析结果
53. SearchHits hits = searchResponse.getHits();
54. List<Map<String,Object>> results = new ArrayList<>();
55. for (SearchHit documentFields : hits.getHits()) {
56. Map<String, Object> sourceAsMap = documentFields.getSourceAsMap();
57. results.add(sourceAsMap);
58. }
60. // 返回查询的结果
61. return results;
62. }
63. }

⑦编写controller

1. @Controller
2. public class ContentController {
4. @Autowired
5. private ContentService contentService;
7. @ResponseBody
8. @GetMapping("/parse/{keyword}")
9. public Boolean parse(@PathVariable("keyword") String keyword) throws IOException {
10. return contentService.parseContent(keyword);
11. }
13. @ResponseBody
14. @GetMapping("/search/{keyword}/{pageIndex}/{pageSize}")
15. public List<Map<String, Object>> parse(@PathVariable("keyword") String keyword,
16. @PathVariable("pageIndex") Integer pageIndex,
17. @PathVariable("pageSize") Integer pageSize) throws IOException {
18. return contentService.search(keyword,pageIndex,pageSize);
19. }
20. }

⑧测试结果

1、解析数据放入 es 索引中

2、根据keyword分页查询结果

3、爬虫（jsoup）

数据获取：数据库、消息队列、爬虫、…

①搜索京东搜索页面，并分析页面

1. http://search.jd.com/search?keyword=java

页面如下

审查页面元素

页面列表id：J_goodsList

目标元素：img、price、name

②爬取数据（获取请求返回的页面信息，筛选出可用的）

创建HtmlParseUtil，并简单编写

1. public class HtmlParseUtil {
2. public static void main(String[] args) throws IOException {
3. /// 使用前需要联网
4. // 请求url
5. String url = "http://search.jd.com/search?keyword=java";
6. // 1.解析网页(jsoup 解析返回的对象是浏览器Document对象)
7. Document document = Jsoup.parse(new URL(url), 30000);
8. // 使用document可以使用在js对document的所有操作
9. // 2.获取元素（通过id）
10. Element j_goodsList = document.getElementById("J_goodsList");
11. // 3.获取J_goodsList ul 每一个 li
12. Elements lis = j_goodsList.getElementsByTag("li");
13. // 4.获取li下的 img、price、name
14. for (Element li : lis) {
15. String img = li.getElementsByTag("img").eq(0).attr("src");// 获取li下 第一张图片
16. String name = li.getElementsByClass("p-name").eq(0).text();
17. String price = li.getElementsByClass("p-price").eq(0).text();
19. System.out.println("=======================");
20. System.out.println("img : " + img);
21. System.out.println("name : " + name);
22. System.out.println("price : " + price);
23. }
24. }
25. }

运行结果

原因是啥？

一般图片特别多的网站，所有的图片都是通过延迟加载的

1. // 打印标签内容
2. Elements lis = j_goodsList.getElementsByTag("li");
3. System.out.println(lis);

打印所有li标签，发现img标签中并没有属性src的设置，只是data-lazy-ing设置图片加载的地址

创建HtmlParseUtil、改写

• 更改图片获取属性为 data-lazy-img

• 与实体类结合，实体类如下

  1. @Data
  2. @AllArgsConstructor
  3. @NoArgsConstructor
  4. public class Content implements Serializable {
  5. private static final long serialVersionUID = -8049497962627482693L;
  6. private String name;
  7. private String img;
  8. private String price;
  9. }

• 封装为方法

1. public class HtmlParseUtil {
2. public static void main(String[] args) throws IOException {
3. System.out.println(parseJD("java"));
4. }
7. public static List<Content> parseJD(String keyword) throws IOException {
8. /// 使用前需要联网
9. // 请求url
10. String url = "http://search.jd.com/search?keyword=" + keyword;
11. // 1.解析网页(jsoup 解析返回的对象是浏览器Document对象)
12. Document document = Jsoup.parse(new URL(url), 30000);
13. // 使用document可以使用在js对document的所有操作
14. // 2.获取元素（通过id）
15. Element j_goodsList = document.getElementById("J_goodsList");
16. // 3.获取J_goodsList ul 每一个 li
17. Elements lis = j_goodsList.getElementsByTag("li");
18. // System.out.println(lis);
19. // 4.获取li下的 img、price、name
20. // list存储所有li下的内容
21. List<Content> contents = new ArrayList<Content>();
22. for (Element li : lis) {
23. // 由于网站图片使用懒加载，将src属性替换为data-lazy-img
24. String img = li.getElementsByTag("img").eq(0).attr("data-lazy-img");// 获取li下 第一张图片
25. String name = li.getElementsByClass("p-name").eq(0).text();
26. String price = li.getElementsByClass("p-price").eq(0).text();
27. // 封装为对象
28. Content content = new Content(name,img,price);
29. // 添加到list中
30. contents.add(content);
31. }
32. // System.out.println(contents);
33. // 5.返回 list
34. return contents;
35. }
36. }

结果展示

4、搜索高亮

在3、的基础上添加内容

①ContentService

1. // 3、 在2的基础上进行高亮查询
2. public List<Map<String, Object>> highlightSearch(String keyword, Integer pageIndex, Integer pageSize) throws IOException {
4. SearchRequest searchRequest = new SearchRequest("jd_goods");
5. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
6. // 精确查询，添加查询条件
7. TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("name", keyword);
8. searchSourceBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));
9. searchSourceBuilder.query(termQueryBuilder);
10. // 分页
11. searchSourceBuilder.from(pageIndex);
12. searchSourceBuilder.size(pageSize);
13. // 高亮 =========
14. HighlightBuilder highlightBuilder = new HighlightBuilder();
15. highlightBuilder.field("name");
16. highlightBuilder.preTags("<span style='color:red'>");
17. highlightBuilder.postTags("</span>");
18. searchSourceBuilder.highlighter(highlightBuilder);
20. // 执行查询
21. searchRequest.source(searchSourceBuilder);
22. SearchResponse searchResponse = restHighLevelClient.search(searchRequest, RequestOptions.DEFAULT);
23. // 解析结果 ==========
24. SearchHits hits = searchResponse.getHits();
25. List<Map<String, Object>> results = new ArrayList<>();
26. for (SearchHit documentFields : hits.getHits()) {
27. // 使用新的字段值（高亮），覆盖旧的字段值
28. Map<String, Object> sourceAsMap = documentFields.getSourceAsMap();
29. // 高亮字段
30. Map<String, HighlightField> highlightFields = documentFields.getHighlightFields();
31. HighlightField name = highlightFields.get("name");
32. // 替换
33. if (name != null){
34. Text[] fragments = name.fragments();
35. StringBuilder new_name = new StringBuilder();
36. for (Text text : fragments) {
37. new_name.append(text);
38. }
39. sourceAsMap.put("name",new_name.toString());
40. }
41. results.add(sourceAsMap);
42. }
43. return results;
44. }

②ContentController

1. @ResponseBody
2. @GetMapping("/h_search/{keyword}/{pageIndex}/{pageSize}")
3. public List<Map<String, Object>> highlightParse(@PathVariable("keyword") String keyword,
4. @PathVariable("pageIndex") Integer pageIndex,
5. @PathVariable("pageSize") Integer pageSize) throws IOException {
6. return contentService.highlightSearch(keyword,pageIndex,pageSize);
7. }

③结果展示

5、前后端分离（简单使用Vue）

删除Controller 方法上的 @ResponseBody注解

①下载并引入Vue.min.js和axios.js

如果安装了nodejs，可以按如下步骤，没有可以到后面素材处下载

1. npm install vue
2. npm install axios

②修改静态页面

引入js

1. <script th:src="@{/js/vue.min.js}"></script>
2. <script th:src="@{/js/axios.min.js}"></script>

修改后的index.html

1. <!DOCTYPE html>
2. <html xmlns:th="http://www.thymeleaf.org">
4. <head>
5. <meta charset="utf-8"/>
6. <title>狂神说Java-ES仿京东实战</title>
7. <link rel="stylesheet" th:href="@{/css/style.css}"/>
8. <script th:src="@{/js/jquery.min.js}"></script>
9. </head>
11. <body class="pg">
12. <div class="page">
13. <div id="app" class=" mallist tmall- page-not-market ">
15. <!-- 头部搜索 -->
16. <div id="header" class=" header-list-app">
17. <div class="headerLayout">
18. <div class="headerCon ">
19. <!-- Logo-->
20. <h1 id="mallLogo">
21. <img th:src="@{/images/jdlogo.png}" alt="">
22. </h1>
24. <div class="header-extra">
26. <!--搜索-->
27. <div id="mallSearch" class="mall-search">
28. <form name="searchTop" class="mallSearch-form clearfix">
29. <fieldset>
30. <legend>天猫搜索</legend>
31. <div class="mallSearch-input clearfix">
32. <div class="s-combobox" id="s-combobox-685">
33. <div class="s-combobox-input-wrap">
34. <input v-model="keyword" type="text" autocomplete="off" id="mq"
35. class="s-combobox-input" aria-haspopup="true">
36. </div>
37. </div>
38. <button type="submit" @click.prevent="searchKey" id="searchbtn">搜索</button>
39. </div>
40. </fieldset>
41. </form>
42. <ul class="relKeyTop">
43. <li><a>狂神说Java</a></li>
44. <li><a>狂神说前端</a></li>
45. <li><a>狂神说Linux</a></li>
46. <li><a>狂神说大数据</a></li>
47. <li><a>狂神聊理财</a></li>
48. </ul>
49. </div>
50. </div>
51. </div>
52. </div>
53. </div>
55. <!-- 商品详情页面 -->
56. <div id="content">
57. <div class="main">
58. <!-- 品牌分类 -->
59. <form class="navAttrsForm">
60. <div class="attrs j_NavAttrs" style="display:block">
61. <div class="brandAttr j_nav_brand">
62. <div class="j_Brand attr">
63. <div class="attrKey">
64. 品牌
65. </div>
66. <div class="attrValues">
67. <ul class="av-collapse row-2">
68. <li><a href="#"> 狂神说 </a></li>
69. <li><a href="#"> Java </a></li>
70. </ul>
71. </div>
72. </div>
73. </div>
74. </div>
75. </form>
77. <!-- 排序规则 -->
78. <div class="filter clearfix">
79. <a class="fSort fSort-cur">综合<i class="f-ico-arrow-d"></i></a>
80. <a class="fSort">人气<i class="f-ico-arrow-d"></i></a>
81. <a class="fSort">新品<i class="f-ico-arrow-d"></i></a>
82. <a class="fSort">销量<i class="f-ico-arrow-d"></i></a>
83. <a class="fSort">价格<i class="f-ico-triangle-mt"></i><i class="f-ico-triangle-mb"></i></a>
84. </div>
86. <!-- 商品详情 -->
87. <div class="view grid-nosku" >
89. <div class="product" v-for="result in results">
90. <div class="product-iWrap">
91. <!--商品封面-->
92. <div class="productImg-wrap">
93. <a class="productImg">
94. <img :src="result.img">
95. </a>
96. </div>
97. <!--价格-->
98. <p class="productPrice">
99. <em v-text="result.price"></em>
100. </p>
101. <!--标题-->
102. <p class="productTitle">
103. <a v-html="result.name"></a>
104. </p>
105. <!-- 店铺名 -->
106. <div class="productShop">
107. <span>店铺： 狂神说Java </span>
108. </div>
109. <!-- 成交信息 -->
110. <p class="productStatus">
111. <span>月成交<em>999笔</em></span>
112. <span>评价 <a>3</a></span>
113. </p>
114. </div>
115. </div>
116. </div>
117. </div>
118. </div>
119. </div>
120. </div>
121. <script th:src="@{/js/vue.min.js}"></script>
122. <script th:src="@{/js/axios.min.js}"></script>
123. <script>
124. new Vue({
125. el:"#app",
126. data:{
127. "keyword": '', // 搜索的关键字
128. "results":[] // 后端返回的结果
129. },
130. methods:{
131. searchKey(){
132. var keyword = this.keyword;
133. console.log(keyword);
134. axios.get('h_search/'+keyword+'/0/20').then(response=>{
135. console.log(response.data);
136. this.results=response.data;
137. })
138. }
139. }
140. });
142. </script>
143. </body>
144. </html>

测试

安装包及前端素材

链接：https://pan.baidu.com/s/1M5uWdYsCZyzIAOcgcRkA_A
提取码：qk8p
复制这段内容后打开百度网盘手机App，操作更方便哦

疑惑：

1、使用term（精确查询）时，我发现三个问题，问题如下：

• 字段值必须是一个词（索引中存在的词），才能匹配

  • 问题：中文字符串，term查询时无法查询到数据（比如，“编程”两字在文档中存在，但是搜索不到）

  • 原因：索引为配置中文分词器（默认使用standard，即所有中文字符串都会被切分为单个中文汉字作为单词），所以没有超过1个汉字的词，也就无法匹配，进而查不到数据

  • 解决：创建索引时配置中文分词器，如

    1. PUT example
    2. {
    3. "mappings": {
    4. "properties": {
    5. "name":{
    6. "type": "text",
    7. "analyzer": "ik_max_word" // ik分词器
    8. }
    9. }
    10. }
    11. }

• 查询的英文字符只能是小写，大写都无效

• 查询时英文单词必须是完整的

 

版权声明：本文为博主原创文章，遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明，KuangStudy,以学为伴，一生相伴！

本文链接：https://www.kuangstudy.com/bbs/1354069127022583809