搜索引擎技术与发展

第1章 遍历搜索引擎技术 1
1.1 快速上手搜索引擎 1
1.1.1 准备工作环境 1
1.1.2 生成索引 3
1.1.3 关键词查询 8
1.1.4 实现搜索界面 10
1.2 搜索语法 22
1.3 你也可以做搜索引擎 24
1.4 搜索引擎的基本技术 25
1.4.1 网络爬虫 25
1.4.2 全文索引结构 26
1.4.3 Solr全文检索引擎 27
1.4.4 Nutch网络搜索软件 27
1.4.5 用户界面 28
1.5 商业搜索引擎技术概述 29
1.5.1 通用搜索 30
1.5.2 垂直搜索 30
1.5.3 站内搜索 31
1.6 本章小结 32
第2章 获得海量数据 34
2.1 自己的网络爬虫 34
2.1.1 使用URL访问网络资源 34
2.1.2 重试 37
2.1.3 网络爬虫的遍历与实现 44
2.1.4 多线程爬虫 48
2.1.5 Log4j2日志 49
2.1.6 存储URL地址 51
2.1.7 定向采集 57
2.1.8 暗网抓取 58
2.1.9 Selenium抓取动态页面 59
2.1.10 图片抓取 61
2.2 数据存储 62
2.2.1 写入文件 63
2.2.2 Jdbi写入数据库 63
2.3 本地部署 66
2.4 本章小结 66
第3章 提取文档中的文本内容 68
3.1 从HTML文件中提取文本 68
3.1.1 使用HTMLParser实现定向抓取 71
3.1.2 结构化信息提取 80
3.1.3 网页的DOM结构 83
3.1.4 网页去噪 85
3.1.5 正文提取 87
3.2 从非HTML文件中提取文本 92
3.2.1 PDF文件 95
3.2.2 Word文件 96
3.2.3 Rtf文件 98
3.2.4 Excel文件 98
3.2.5 PowerPoint文件 99
3.2.6 从图片中提取文本 100
3.3 流媒体内容提取 101
3.3.1 音频流内容提取 101
3.3.2 视频流内容提取 102
3.4 本章小结 103
第4章 中文分词 104
4.1 Lucene中的中文分词 104
4.2 中文分词的原理 105
4.3 查找词典算法 106
4.4 句子切分 112
4.5 有限状态机识别未登录串 113
4.6 *概率分词方法 117
4.7 N元分词方法 125
4.7.1 二元词典 125
4.7.2 二元分词 135
4.7.3 开发中文分析器 139
4.8 新词发现 150
4.9 命名实体识别 152
4.9.1 人名识别 152
4.9.2 组织机构名称识别 160
4.9.3 化学物质识别 161
4.10 词性标注 162
4.11 平滑算法 173
4.12 地名切分 176
4.13 本章小结 182
第5章 Solr服务器端开发 183
5.1 在Linux操作系统中安装Solr 183
5.2 创建和维护索引库 186
5.3 索引本地硬盘上的文件 191
5.4 使用Bean索引文档 192
5.5 更新索引库中的索引文档 194
5.6 删除数据 195
5.7 检测索引 195
5.8 查询解析器 196
5.9 本章小结 196
第6章 用户界面的设计与实现 197
6.1 Solr搜索接口（search代码） 197
6.2 搜索页面设计 198
6.2.1 用于显示搜索结果的模板 200
6.2.2 搜索结果分页 202
6.2.3 测试搜索结果页 215
6.2.4 界面国际化 216
6.2.5 用于Solr的Spring Data 219
6.2.6 Spring-HATEOAS实现REST架构 221
6.3 实现搜索接口 224
6.3.1 基本查询 224
6.3.2 布尔搜索 226
6.3.3 指定范围搜索 226
6.3.4 搜索结果排序 227
6.4 实现聚合 228
6.5 实现相似文档搜索 234
6.6 实现自动完成 235
6.6.1 总体结构 236
6.6.2 服务器端处理 236
6.6.3 自动完成客户端 238
6.7 搜索日志 244
6.8 React框架 247
6.9 本章小结 251
第7章 Solr分布式搜索 252
7.1 使用Solr实现分布式搜索 252
7.1.1 使用SolrCloud 252
7.1.2 分片 254
7.1.3 管理集群 254
7.1.4 SolrCloud工作原理 255
7.1.5 ZooKeeper分布式协调器 256
7.2 Jenkins持续集成 258
7.3 本章小结 259
参考文献 260