简介:Java领域优质创作者、CSDN哪吒公众号作者✌ 、Java架构师奋斗者
扫描主页左侧二维码,加入群聊,一起学习、一起进步
欢迎点赞 收藏 ⭐留言
目录
一、分库分表
二、分库分表的方式
1、垂直分表
2、垂直分库
3、水平分表
4、水平分库
三、分库分表带来的问题
1、学习成本问题
2、事务问题
3、跨节点join问题
4、跨节点的count、order by、group by以及聚合函数问题
5、数据迁移、容量规划、扩容问题
6、主键ID问题
7、跨分片的排序分页
四、分库数量
五、分库分表第三方解决方案 – Apache ShardingSphere
六、Apache ShardingSphere的三个核心概念
1、连接
2、增量
3、可插拔
七、Apache ShardingSphere的三款产品
1、ShardingSphere-JDBC
2、Sharding-Proxy
3、ShardingSphere-Sidecar
八、ShardingSphere-JDBC代码实例
1、ShardingSphere-JDBC 实现水平分表
2、ShardingSphere-JDBC 实现水平分库
3、配置公共表
九、 什么是读写分离
十、配置MySQL主从服务器
1、新增MySQL实例
2、修改主、从库的配置文件
3、创建用于主从复制的账号
4、设置从库向主库同步数据
十一、Sharding-JDBC实现读写分离
一、分库分表
1、随着时间和业务发展,数据库数据量不可控,造成表中数据越来越多,此时再进行CRUD操作的话,会造成很大的性能问题,比如查询实时数据,表数据达到了千万级别,要求一分钟查询一次,但你一个select就要耗时2两分钟才能执行完,这岂不是很尴尬。
2、分库分表就是为了解决由于数据量过大而导致数据库性能降低的问题,将原来独立的数据库拆分成若干数据库组成 ,将数据大表拆分成若干数据表组成,使得单一数据库、单一数据表的数据量变小,从而达到提升数据库性能的目的。
3、性能解决方案
方案1
通过提升服务器硬件能力来提高数据处理能力,比如增加存储容量 、CPU等,这种方案成本很高,并且如果瓶颈在MySQL本身那么提高硬件也是有很的。
方案2
把数据分散到不同的数据库中,使得单一数据库的数据量变小来缓解单一数据库的性能问题,从而达到提升数据库性能的目的。
二、分库分表的方式
垂直分表、垂直分库、水平分表、水平分库。
(1)基本概念
将一个表按照字段分成多个表,每个表存储其中一部分字段。
(2)性能提升
为了避免IO争抢并减少锁表的几率;
充分发挥热门数据的操作效率,热门字段和冷门字段分开存储,比如一个产品基本信息表、一个产品详细信息表,大字段一定要放在冷门字段的表中。
(3)为什么大字段IO效率低?
数据本身长度过长,需要更长的读取时间;
跨页,页是数据库存储基本单位,很多查找及定位操作都是以页为单位,单页内的数据行越多数据库整体性能越好,而大字段占用空间大,单页存储数据少,因此IO效率低;
数据以行为单位将数据加载到内存中,如果字段长度短,内存就可以加载更多的数据,减少磁盘IO,从而提高数据库性能;
(1)基本概念
垂直分表只解决了单一表数据量大的问题,但没有将表分布到不同的服务器上,因此每张表还是竞争同一个物理机的CPU、内存、网络IO、磁盘。
垂直分库的意思就是将表进行分类,分别部署在不同的数据库上面,每个库放到不同的服务器上,它的核心理念就是专库专用。
每个微服务使用单独的数据库。
(2)性能提升
解决业务层面的耦合,业务清晰
能对不同业务的数据进行分级管理、维护、监控、扩展等
高并发场景下,垂直分库一定程序上提升IO、减少数据库连接数、降低单机硬件资源的瓶颈