- Java锁的逻辑(结合对象头和ObjectMonitor)
- 还在用饼状图?来瞧瞧这些炫酷的百分比可视化新图形(附代码实现)⛵
- 自动注册实体类到EntityFrameworkCore上下文,并适配ABP及ABPVNext
- 基于Sklearn机器学习代码实战
最近阅读了elasticsearch的官方文档,学习了它的很多特性,发现elasticsearch和mysql有很多地方类似,也有很多地方不同。这里做一个对比,帮助大家加深对elasticsearch的理解.
特性 | elasticsearch | mysql | 备注 |
场景 | 全文搜索,日志处理,空间数据分析 | 表结构存储 | es 不适合做join操作,mysql 不适合做全文检索 |
扩展性 | 动态扩展,能够通过添加node快速提升性能 | mysql cluster | |
master 选举 | bully 算法,比较id选出master | master-slave结构,无需选举 | es中master选举可能会出现脑裂问题,配置 minimum_master_nodes参数确保过半选举决定机制 。 |
路由算法 |
指定路由分片:
|
手动路由,或者使用路由组件sharding-jdbc | |
可靠性 | Cross-cluster replication (CCR), 双集群设计 | 主从复制,双数据中心 | |
内存配置 | heap size 推荐 32g,但不要超过内存的一半, 其他需要用到堆外内存的地方,网络,文件缓存,jvm的栈 | 物理内存的80% | 单独的服务器 |
缓存 | filesystem cache, request cahce, query cache 。 所有cache都是基于node 。 |
query cache (deprecated) | |
数据块大小 | 分片大小 几g ~ 几十g, time based data, 20g ~ 40g 。 分片数量,每g内存小于20分片 。 shard越多,维护索引成本越高 。 shard越大,rebalance越慢 。 |
单表数据不超过2kw,3层b+树能存储的数据大概是2kw,如果b+层级变高,查询速度会显著降低 | |
数据结构 | json,底层是lucene | table,底层是b+ tree | |
索引 | 倒排表,fst 。 正向文件,分块 + 压缩 。 DocValues, 映射文件 + 压缩 。 |
b+数,聚簇/非聚簇索引 | |
定义数据结构的方式 | mapping (dynamic mapping & static mapping) | schema | |
支持自动创建数据结构 | 是 | 否 | |
事务 | near real-time,需要refresh才可以查询到 | reaptable read,高级事务 | |
锁 | Index blocks,比如 index.blocks.read_only,索引只读 | 丰富的锁机制,表锁,行锁,间隙锁 | |
文件系统 | 默认mmapfs,采用内存映射方式访问文件,也支持其他的文件系统,比如fs, niofs, hybirdfs 。 |
fs | |
数据恢复 | es在写入之前会先将数据写入到translog,用来对异常情况进恢复 。 flush,lucene 进行提交,并且同时重新开启一段 translog 。 index.translog.sync_interval,持久化translog 间隔,5s 。 index.translog.flush_threshold_size, flush translog阈值大小,512m 。 |
redo log采用的是WAL(Write-ahead logging,预写式日志),所有修改先写入日志,再更新到Buffer Pool,保证了数据不会因MySQL宕机而丢失,从而满足了持久性要求 。 |
es 和 mysql 处理数据恢复的模式基本一致 |
flush机制 | 从内存缓存写入磁盘缓存memorybuffer -> filesystem cache(refresh) 。 刷盘,filesystem cache -> disk ( flush) 。 定时触发或者 translog > 512M 。 |
buffer pool -> disk 。 当redo log满了,或者buffer pool空间不足 。 |
es 和 mysql 刷盘模式基本一致 |
备份 | snapshot 。 |
mysqldump -u root -h host -p --all-databases > backdb.sql 。 |
|
慢日志 | 比如 index.search.slowlog.threshold.query.warn: 10s 。 |
long_query_time=10 | |
服务调用方式 | rest api | mysql connection + sql | |
数据类型 | 较为丰富的数据类型,boolean, keyword, long, data, object, nested, range, ip, text, arrays | int, data, varchar 。 |
es 提供了非常多的数据类型,一些是为了支持全文检索,一些能够方便查询,比如range,ip |
数据属性 | analyzer,分词器 。 index,是否被索引,没有被索引的字段不可查询 。 fielddata,如果想对text类型的字段进行聚合,排序,或者执行脚本,就必须设置fielddata属性 。 doc_values,将_source 转化为表结构放在磁盘上,方便聚合,排序,或者脚本操作,默认支持除了text类型的所有类型 。 ... 。 |
主键索引, 可空,唯一值,自增,默认值 。 |
es的数据属性更复杂 |
查询超时 | 设置 query timeout 。 |
set wait_timeout = 10 。 |
|
context | es查询需要区分query context, 还是 filter context,前者会进行打分,后者只进行过滤 。 |
不需要区分 。 |
|
打分查询 | 比如match,match_phrase 。 |
不支持 。 |
|
runtime field | 使用script 创建临时字段 。 |
语法支持 select concat (a, b) as c 。 |
script更灵活,但是性能会降低 |
精确查询 | 比如term, terms, ids, exists 。 |
语法支持 。 |
mysql使用起来更方便 |
分组聚合查询 | 比如histogram aggs,terms aggs 。 |
group by 。 |
es支持的类型稍微丰富一些,方便开发 |
指标聚合查询 | avg, max, min, sum ,count, cardinality aggs,percentile aggs 。 |
语法支持, count(*), distinct | es是分布式的,聚合的时候存在一些精度问题 |
分页 | from + size (不适合深分页,有去重问题) 。 search_after + PIT (推荐) 。 scroll (不适合深分页) 。 |
limit + size 。 或者进行条件关联,书签 。 |
在深分页上的处理方案上基本一致 |
profile |
|
explain | |
script支持 | painless script | 不支持 |
。
最后此篇关于对比elasticsearch和mysql的文章就讲到这里了,如果你想了解更多关于对比elasticsearch和mysql的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
目前我正在构建相当大的网络系统,我需要强大的 SQL 数据库解决方案。我选择 Mysql 而不是 Postgres,因为一些任务需要只读(MyISAM 引擎)而其他任务需要大量写入(InnoDB)。
我在 mysql 中使用如下命令。当它显示表格数据时,它被格式化为一个非常干净的表格,间距均匀且 |作为列分隔符。 SELECT * FROM TABLE_NAME; 当我从 CLI 运行命令时,如下
我知道这个问题之前已经被问过好几次了,我已经解决了很多问题,但到目前为止没有任何效果。 MySQL 试图将自身安装到的目录 (usr/local/mysql) 肯定有问题。关于我的错误的奇怪之处在于我
以下是我的 SQL 数据结构,我正在尝试如下两个查询: Select Wrk_ID, Wrk_LastName, Skill_Desc from Worker, Skill where
我们有一个本地 mysql 服务器(不在公共(public)域上),并希望将该服务器复制到我们拥有的 google 云 sql 实例。我的问题是:1.这可能吗?2.我们的本地服务器只能在本地网络上访问
我有一个表(test_table),其中一些字段值(例如字段 A、B 和 C)是从外部应用程序插入的,还有一个字段(字段 D),我想从现有表(store_table)插入其值,但在插入前者(A、B 和
我想创建一个 AWS RDS 实例,然后使用 terraform 管理数据库用户。因此,首先,我创建了一个 RDS 实例,然后使用创建的 RDS 实例初始化 mysql 提供程序,以进一步将其用于用户
当用户在我的网站上注册时,他们会在我的一个数据库中创建自己的表格。该表存储用户发布的所有帖子。我还想做的是也为他们生成自己的 MySql 用户——该用户仅有权从他们的表中读取、写入和删除。 创建它应该
我有一个关于 ColdFusion 和 Mysql 的问题。我有两个表:PRODUCT 和 PRODUCT_CAT。我想列出包含一些标记为:IS_EXTRANET=1 的特殊产品的类别。所以我写了这个
我想获取 recipes_id 列的值,以获取包含 ingredient_id 的 2,17 和 26 条目的值。 假设 ingredient_id 2 丢失则不获取记录。 我已经尝试过 IN 运算符
在 Ubuntu 中,我通常安装两者,但 MySQL 的客户端和服务器之间有什么区别。 作为奖励,当一个新语句提到它需要 MySQL 5.x 时,它是指客户端、服务器还是两者兼而有之。例如这个链接ht
我重新访问了我的数据库并注意到我有一些 INT 类型的主键。 这还不够独特,所以我想我会有一个指导。 我来自微软 sql 背景,在 ssms 中你可以 选择类型为“uniqeidentifier”并自
我的系统上有 MySQL,我正在尝试确定它是 Oracle MySQL 还是 MySQL。 Oracle MySQL 有区别吗: http://www.oracle.com/us/products/m
我是在生产 MySQL 中运行的应用程序的新维护者。之前的维护者已经离开,留下的文档很少,而且联系不上了。 我面临的问题是执行以下请求大约需要 10 秒: SELECT COUNT(*) FROM `
我有两个位于不同机器上的 MySQL 数据库。我想自动将数据从一台服务器传输到另一台服务器。比方说,我希望每天早上 4:00 进行数据传输。 可以吗?是否有任何 MySQL 内置功能可以让我们做到这一
有什么方法可以使用 jdbc 查询位于 mysql 根目录之外的目录中的 mysql 表,还是必须将它们移动到 mysql 根目录内的数据库文件夹中?我在 Google 上搜索时没有找到任何东西。 最
我在 mysql 数据库中有两个表。成员和 ClassNumbers。两个表都有一个付费年份字段,都有一个代码字段。我想用代码数字表中的值更新成员表中的付费年份,其中成员中的代码与 ClassNumb
情况:我有 2 台服务器,其中一台当前托管一个实时 WordPress 站点,我希望能够将该站点转移到另一台服务器,以防第一台服务器出现故障。传输源文件很容易;传输数据库是我需要弄清楚如何做的。两台服
Phpmyadmin 有一个功能是“复制数据库到”..有没有mysql查询来写这个函数?类似于将 db A 复制到新的 db B。 最佳答案 首先创建复制数据库: CREATE DATABASE du
我有一个使用 mySQL 作为后端的库存软件。我已经在我的计算机上对其进行了测试,并且运行良好。 当我在计算机上安装我的软件时,我必须执行以下步骤: 安装 mySQL 服务器 将用户名指定为“root
我是一名优秀的程序员,十分优秀!