2018年7月4日,周三
一、初级玩法
1. 在BIOS及内核层面关闭NUMA
2. 在BIOS层面将CPU、内存均设置最大性能模式
3. 在BIOS层面关闭CPU节能模式
4. 修改IO Scheduler为deadline 或 noop
5. 使用xfs文件系统,挂载选项noatime、nodiratime、nobarrier
6. 在内核层面设置vm.swappiness<=5,vm.dirty_ratio<=10, vm.dirty_background_rati<=5
7. 在内核层面修改用户可最大打开文件数和线程数为65535
8. 禁用SWAP分区
二、高端玩法
1. 使用最新稳定Linux发行版
2. 升级各个硬件设备到最新稳定firmware版本
3. 使用SSD时,开启TRIM功能,并且可以的话文件系统block size和SSD对齐
4. 当磁盘I/O存在瓶颈时,除了常规因素外,还需要关注中断不均衡的可能性
2018年7月5日,周四
1. 数据字典全部采用InnoDB引擎存储,支持DDL原子性、crash safe,metadata管理更完善
2. 快速在线加新列(腾讯互娱DBA团队贡献)
3. 并行redo log,并提升redo log的I/O性能
4. 新增倒序索引
5. 增强CBO特性
6. 消除了buffer pool mutex(Percona的贡献)
7. 自增ID持久化
8. 行锁增加SKIP LOCKED和NOWAIT特性选项
9. 新增事务CATS特性,大大提升事务性能(Michigan大学贡献)
10. memcached plugin增强
11. 增强JSON性能、功能
12. 新增智能选项 innodb_dedicated_server
2018年6月26日,周二
1. MySQL使用资源过高导致服务器太累扛不住。例如CPU、内存、 I/O等开销。
2. 磁盘无可用空间。
3. MySQL频繁的创建和销毁连接。
4. MySQL使用的最大文件打开数和连接数,超过了操作系统的限制。
5. MySQL的锁不能有效的释放。例如持有行锁或者表锁,造成了MDL等待。
6. MySQL的bug导致的。
导致MySQL hang住的原因有很多,不局限于上述因素,还需要机智的你来挖掘
2018年6月27日,周三
1. 传统方式,采用mysqldump等工具将数据文件上传至HDFS
2. 使用Sqoop Kettle等ETL工具,将数据表对应导入Hive的数据表
3. 使用kafka+flume方案,将mysql binlog通过流式采集的方式导入Hadoop
4. 设计实现Hive的快照表、增量表、全量表,实现MySQL到Hive数据的增量导入,并支持分库分表等特性。