0%

MySQL进阶

并发场景下,读请求会先查缓存,缓存未命中则会去DB取数据并更新到缓存中(可能会出现穿透情况),更新缓存可能会失败导致缓存和DB不一致。对于写请求,缓存和DB的操作不在一个事务中,可能只有一个操作成功而另一个操作失败,从而导致数据不一致。

缓存DB一致性方案

一、canal

  1. canal,发音[kə'næl],原意为水道/管道/沟渠等。它是阿里巴巴旗下的一款开源项目,纯Java开发,主要用途是基于MySQL数据库增量日志解析,提供增量数据订阅和消费。早期阿里巴巴因为杭州和美国双机房部署,存在跨机房同步的业务需求,实现方式主要是基于业务trigger获取增量变更。从2010年开始,业务逐步尝试数据库日志解析获取增量变更进行同步,由此衍生出了大量的数据库增量订阅和消费业务。

canal

基于日志增量订阅和消费的业务包括

  • 数据库镜像
  • 数据库实时备份
  • 索引构建和实时维护(拆分异构索引、倒排索引等)
  • 业务cache刷新
  • 带业务逻辑的增量数据处理
  • 当前的canal支持源端MySQL版本包括5.1.x,5.5.x,5.6.x,5.7.x,8.0.x
  1. 使用

    • 工作原理
      • canal模拟MySQL slave的交互协议,伪装自己为MySQL slave,向MySQL master发送dump协议
      • MySQL master收到dump请求,开始推送binary log给slave(即canal)
      • canal解析binary log对象(原始为byte流)
  2. 参考


连接池

  1. 定义:数据库连接池(Connection pooling)是指程序启动时建立足够的数据库连接,并将这些连接组成一个连接池,由程序动态地对连接池中的连接进行申请、使用、释放。

  2. 过程:数据库连接池在初始化时将创建一定数量的数据库连接放到连接池中,连接的数量是由最小数据库连接数来设定的。无论这些数据库连接是否被使用,连接池都将一直保证至少拥有这么多的连接数量。连接池的最大数据库连接数量限定了这个连接池能占有的最大连接数,当应用程序向连接池请求的连接数超过最大连接数量时,这些请求将被加入到等待队列中。

  3. 工作原理:连接池技术的核心思想是连接复用,通过建立一个数据库连接池以及一套连接使用、分配和管理策略,使得该连接池中的连接可以得到高效、安全的复用,避免了数据库连接频繁建立、关闭的开销。连接池的工作原理主要由三部分组成,分别为连接池的建立、连接池中连接的使用管理、连接池的关闭:

    • ①连接池的建立
      • 一般在系统初始化时,连接池会根据系统配置建立,并在池中创建了几个连接对象,以便使用时能从连接池中获取。连接池中的连接不能随意创建和关闭,这样避免了连接随意建立和关闭造成的系统开销。Java中提供了很多容器类可以方便的构建连接池,例如Vector、Stack等。
    • ②连接池的管理
      • 连接池管理策略是连接池机制的核心,连接池内连接的分配和释放对系统的性能有很大的影响。其管理策略是:
        • 当客户请求数据库连接时,首先查看连接池中是否有空闲连接:
          • 如果存在空闲连接,则将连接分配给客户使用;
          • 如果没有空闲连接,则查看当前所开的连接数是否已经达到最大连接数,如果没达到就重新创建一个连接给请求的客户;
          • 如果达到就按设定的最大等待时间进行等待,如果超出最大等待时间,则抛出异常给客户。
        • 当客户释放数据库连接时,先判断该连接的引用次数是否超过了规定值,如果超过就从连接池中删除该连接,否则保留为其他客户服务。

          该策略保证了数据库连接的有效复用,避免频繁的建立、释放连接所带来的系统资源开销。

    • ③连接池的关闭
      • 当应用程序退出时,关闭连接池中所有的连接,释放连接池相关的资源,该过程正好与创建相反。
  1. 对比
    • 传统连接
      • ①装载数据库驱动程序;
      • ②建立数据库连接;
      • ③访问数据库,执行SQL语句;
      • ④断开数据库连接。
  • 数据库连接池
    • ①程序初始化时创建连接池;
    • ②使用时向连接池申请可用连接;
    • ③使用完毕,将连接返还给连接池;
    • ④程序退出时,断开所有连接,并释放资源。
  1. 常用连接池

  2. 参考


数据库中间件

  1. Mycat是一个开源的分布式数据库系统,是一个数据库中间件,也可以理解为是数据库代理。在架构体系中是位于数据库和应用层之间的一个组件,并且对于应用层是透明的,即数据库感受不到Mycat的存在,认为是直接连接的MySQL数据库(实际上是连接的Mycat,Mycat实现了MySQL的原生协议)。

    数据库系统需要存储引擎,而Mycat没有,所以它并不是完全意义的分布式数据库系统

    • 分片规则:在数据切分处理中,特别是水平切分中,中间件最终要的两个处理过程就是数据的切分、数据的聚合。选择合适的切分规则,至关重要,因为它决定了后续数据聚合的难易程度,甚至可以避免跨库的数据聚合处理。

    • 基本元素

      • 逻辑库:mycat中存在,对应用来说相当于mysql数据库,后端可能对应了多个物理数据库,逻辑库中不保存数据。
      • 逻辑表:逻辑库中的表,对应用来说相当于mysql的数据表,后端可能对应多个物理数据库中的表,也不保存数据。
        • 分片表:进行了水平切分的表,具有相同表结构但存储在不同数据库中的表,所有分片表的集合才是一张完整的表
        • 非分片表:垂直切分的表,一个数据库中就保存了一张完整的表
        • 全局表:所有分片数据库中都存在的表,如字典表,数量少,由mycat来进行维护更新
        • ER关系表:mycat独有,子表依赖父表,保证在同一个数据库中
    • 特性

      • 支持SQL92标准
      • 支持MySQL、Oracle、DB2、SQL Server、PostgreSQL等DB的常见SQL语法
      • 遵守Mysql原生协议,跨语言,跨平台,跨数据库的通用中间件代理。
      • 基于心跳的自动故障切换,支持读写分离,支持MySQL主从,以及galera cluster集群。
      • 支持Galera for MySQL集群,Percona Cluster或者MariaDB cluster
      • 基于Nio实现,有效管理线程,解决高并发问题。
      • 支持数据的多片自动路由与聚合,支持sum,count,max等常用的聚合函数,支持跨库分页。
      • 支持单库内部任意join,支持跨库2表join,甚至基于caltlet的多表join。
      • 支持通过全局表,ER关系的分片策略,实现了高效的多表join查询。
      • 支持多租户方案。
      • 支持分布式事务(弱xa)。
      • 支持XA分布式事务(1.6.5)。
      • 支持全局序列号,解决分布式下的主键生成问题。
      • 分片规则丰富,插件化开发,易于扩展。
      • 强大的web,命令行监控。
      • 支持前端作为MySQL通用代理,后端JDBC方式支持Oracle、DB2、SQL Server 、 mongodb 、巨杉。
      • 支持密码加密
      • 支持服务降级
      • 支持IP白名单
      • 支持SQL黑名单、sql注入攻击拦截
      • 支持prepare预编译指令(1.6)
      • 支持非堆内存(Direct Memory)聚合计算(1.6)
      • 支持PostgreSQL的native协议(1.6)
      • 支持mysql和oracle存储过程,out参数、多结果集返回(1.6)
      • 支持zookeeper协调主从切换、zk序列、配置zk化(1.6)
      • 支持库内分表(1.6)
      • 集群基于ZooKeeper管理,在线升级,扩容,智能优化,大数据处理(2.0开发版)。
  2. Cobar是阿里巴巴开源的一个对应用保持透明的MySQL数据库分布式处理中间件,它可以让传统的数据库得到良好的线性扩展,并看上去还是一个数据库,对应用保持透明。

  3. 参考


自增ID

一、基础

二、实战

  1. 创建测试数据库show create database auto_test;
  2. 切换数据库use auto_test;
  3. 创建测试数据表create table test1(id int primary key auto_increment);
  4. 插入测试数据
1
2
3
insert into test1 value();
insert into test1 value();
insert into test1 value();
  1. 查看数据select * from test1;
  2. 查看自增信息
    • 方式一:show create table test1;
    • 方式二:select * from information_schema.tables where table_schema='auto_test' and table_name='test1';
  3. 修改自增信息alter table test1 auto_increment=1000;
  4. 查看自增信息
  5. 插入测试数据insert into test1 value();
  6. 查看数据select * from test1;

三、扩展

  1. 当前会话生效:set auto_increment_offset=3;set session auto_increment_offset=3;
  2. 全局会话生效:set global auto_increment_offset=3;
    • 服务重启后失效,或再次全局修改后失效
  3. 永久会话生效,修改my.cnf,添加auto_increment_offset=3
    • brew安装的MySQL配置文件位置mysql --help| grep my