寿光| 交城| 东乡| 田林| 永泰| 茄子河| 台东| 临安| 施秉| 乌达| 郁南| 嵊州| 科尔沁左翼中旗| 奎屯| 理塘| 监利| 丹巴| 汤旺河| 双柏| 新田| 富平| 黎平| 克东| 高淳| 高碑店| 孟津| 卢氏| 仁寿| 尼木| 开封市| 龙门| 吴堡| 夹江| 琼中| 东宁| 铁山港| 南陵| 五家渠| 芦山| 陇川| 筠连| 明溪| 黄陵| 大石桥| 沽源| 宣威| 融安| 东海| 同仁| 湟中| 遂川| 乌马河| 阿荣旗| 邛崃| 青冈| 扬州| 巴楚| 元坝| 西固| 延长| 会昌| 旬邑| 吉木萨尔| 黑山| 张家界| 三水| 绥江| 曹县| 大余| 张北| 湘乡| 大连| 宜君| 同安| 临湘| 靖安| 右玉| 滕州| 鹤山| 西固| 察哈尔右翼前旗| 稻城| 瓯海| 德保| 庐山| 疏附| 阿荣旗| 连山| 九龙| 盘锦| 佳木斯| 庆元| 澜沧| 汉寿| 赣县| 濉溪| 鹤山| 兖州| 大化| 泸溪| 太仓| 杨凌| 赤水| 太康| 绥江| 麦盖提| 马边| 临川| 阿荣旗| 阿荣旗| 五通桥| 潜山| 云集镇| 桑日| 原阳| 霍州| 通海| 陈仓| 洪洞| 连云港| 唐县| 清水| 金溪| 遵义县| 东西湖| 龙井| 长葛| 台南县| 连云区| 怀仁| 肃宁| 英德| 沂南| 彬县| 长海| 丹寨| 额尔古纳| 浦江| 惠山| 翠峦| 中牟| 晴隆| 玉溪| 石城| 江城| 韶山| 永寿| 东西湖| 番禺| 渠县| 西乌珠穆沁旗| 革吉| 哈密| 路桥| 高唐| 常宁| 中阳| 土默特左旗| 五河| 麦盖提| 聂拉木| 靖州| 吴堡| 富拉尔基| 天柱| 下花园| 河津| 湟中| 淮滨| 六盘水| 依兰| 沁源| 台中县| 织金| 舒兰| 平和| 吉首| 新荣| 开江| 沧县| 韩城| 克东| 楚雄| 雷山| 和县| 邻水| 纳雍| 福建| 西峰| 青铜峡| 澎湖| 崇州| 无棣| 济源| 察雅| 马鞍山| 文山| 和硕| 平谷| 正宁| 湛江| 北流| 子洲| 正宁| 涿鹿| 大庆| 长汀| 浑源| 巴彦淖尔| 安丘| 木里| 丰宁| 邱县| 宣汉| 巴马| 烈山| 山丹| 通山| 孝义| 东沙岛| 科尔沁右翼中旗| 德化| 云阳| 习水| 元江| 平度| 抚州| 察哈尔右翼前旗| 玛曲| 鹤壁| 永春| 曲沃| 福州| 元阳| 凤城| 康乐| 龙湾| 绵竹| 莆田| 乌兰察布| 郧西| 武进| 灵寿| 中牟| 清河| 东乡| 天津| 黄山区| 玉龙| 固镇| 南木林| 赤城| 和静| 凉城| 罗平| 嘉黎| 广元| 竹溪| 新县| 牟定| 大同区| 正阳| 鄂州| 耿马| 星际娱乐网址
|
|
51CTO旗下网站
|
|
移动端

一份超详细的MySQL高性能优化实战总结!

MySQL 对于很多 Linux 从业者而言,是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。

作者:佚名来源:博客园|2019-01-24 09:34

MySQL 对于很多 Linux 从业者而言,是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。

在进行 MySQL 的优化之前必须要了解的就是 MySQL 的查询过程,很多的查询优化工作实际上就是遵循一些原则让 MySQL 的优化器能够按照预想的合理方式运行而已。

MySQL 查询过程

优化的哲学

注:优化有风险,修改需谨慎。

  • 优化可能带来的问题:
  • 优化不总是对一个单纯的环境进行,还很可能是一个复杂的已投产的系统。
  • 优化手段本来就有很大的风险,只不过你没能力意识到和预见到。
  • 任何的技术可以解决一个问题,但必然存在带来一个问题的风险。
  • 对于优化来说解决问题而带来的问题,控制在可接受的范围内才是有成果。
  • 保持现状或出现更差的情况都是失败。

优化的需求:

  • 稳定性和业务可持续性,通常比性能更重要。
  • 优化不可避免涉及到变更,变更就有风险。
  • 优化使性能变好,维持和变差是等概率事件。
  • 切记优化,应该是各部门协同,共同参与的工作,任何单一部门都不能对数据库进行优化。

所以优化工作,是由业务需求驱使的!

优化由谁参与?在进行数据库优化时,应由数据库管理员、业务部门代表、应用程序架构师、应用程序设计人员、应用程序开发人员、硬件及系统管理员、存储管理员等,业务相关人员共同参与。

优化思路

优化什么

在数据库优化上有两个主要方面:

  • 安全:数据可持续性。
  • 性能:数据的高性能访问。

优化的范围有哪些

存储、主机和操作系统方面:

  • 主机架构稳定性
  • I/O 规划及配置
  • Swap 交换分区
  • OS 内核参数和网络问题

应用程序方面:

  • 应用程序稳定性
  • SQL 语句性能
  • 串行访问资源
  • 性能欠佳会话管理
  • 这个应用适不适合用 MySQL

数据库优化方面:

  • 内存
  • 数据库结构(物理&逻辑)
  • 实例配置

说明:不管是设计系统、定位问题还是优化,都可以按照这个顺序执行。

优化维度

数据库优化维度有如下四个:

  • 硬件
  • 系统配置
  • 数据库表结构
  • SQL 及索引

优化选择:

  • 优化成本:硬件>系统配置>数据库表结构>SQL 及索引。
  • 优化效果:硬件<系统配置<数据库表结构

优化工具有啥

数据库层面

检查问题常用的 12 个工具:

  • MySQL
  • mysqladmin:MySQL 客户端,可进行管理操作
  • mysqlshow:功能强大的查看 shell 命令
  • SHOW [SESSION | GLOBAL] variables:查看数据库参数信息
  • SHOW [SESSION | GLOBAL] STATUS:查看数据库的状态信息
  • information_schema:获取元数据的方法
  • SHOW ENGINE INNODB STATUS:Innodb 引擎的所有状态
  • SHOW PROCESSLIST:查看当前所有连接的 session 状态
  • explain:获取查询语句的执行计划
  • show index:查看表的索引信息
  • slow-log:记录慢查询语句
  • mysqldumpslow:分析 slowlog 文件的工具

不常用但好用的 7 个工具:

  • Zabbix:监控主机、系统、数据库(部署 Zabbix 监控平台)
  • pt-query-digest:分析慢日志
  • MySQL slap:分析慢日志
  • sysbench:压力测试工具
  • MySQL profiling:统计数据库整体状态工具
  • Performance Schema:MySQL 性能状态统计的数据
  • workbench:管理、备份、监控、分析、优化工具(比较费资源)

关于 Zabbix 参考:http://www.cnblogs.com.buyaionkina.com/clsn/p/7885990.html

数据库层面问题解决思路

一般应急调优的思路:针对突然的业务办理卡顿,无法进行正常的业务处理,需要马上解决的场景。

  1. show processlist 
  2. explain  select id ,name from stu where name='clsn'; # ALL  id name age  sex 
  3.             select id,name from stu  where id=2-1 函数 结果集>30; 
  4.   show index from table
  5. 通过执行计划判断,索引问题(有没有、合不合理)或者语句本身问题 
  6. show status  like '%lock%';    # 查询锁状态 
  7. kill SESSION_ID;   # 杀掉有问题的session 

常规调优思路:针对业务周期性的卡顿,例如在每天 10-11 点业务特别慢,但是还能够使用,过了这段时间就好了。

  1. 查看slowlog,分析slowlog,分析出查询慢的语句; 
  2. 按照一定优先级,一个一个排查所有慢语句; 
  3. 分析top SQL,进行explain调试,查看语句执行时间; 
  4. 调整索引或语句本身。 

系统层面

CPU方面:vmstat、sar top、htop、nmon、mpstat。

内存:free、ps-aux。

IO 设备(磁盘、网络):iostat、ss、netstat、iptraf、iftop、lsof。

vmstat 命令说明:

  • Procs:r 显示有多少进程正在等待 CPU 时间。b 显示处于不可中断的休眠的进程数量。在等待 I/O。
  • Memory:swpd 显示被交换到磁盘的数据块的数量。未被使用的数据块,用户缓冲数据块,用于操作系统的数据块的数量。
  • Swap:操作系统每秒从磁盘上交换到内存和从内存交换到磁盘的数据块的数量。s1 和 s0 最好是 0。
  • IO:每秒从设备中读入 b1 的写入到设备 b0 的数据块的数量。反映了磁盘 I/O。
  • System:显示了每秒发生中断的数量(in)和上下文交换(cs)的数量。
  • CPU:显示用于运行用户代码,系统代码,空闲,等待 I/O 的 CPU 时间。

iostat 命令说明:

  • 实例命令:iostat -dk 1 5;iostat -d -k -x 5 (查看设备使用率(%util)和响应时间(await))。
  • TPS:该设备每秒的传输次数。“一次传输”意思是“一次 I/O 请求”。多个逻辑请求可能会被合并为“一次 I/O 请求”。
  • iops :硬件出厂的时候,厂家定义的一个每秒最大的 IO 次数。
  • "一次传输"请求的大小是未知的。
  • KB_read/s:每秒从设备(drive expressed)读取的数据量。
  • KB_wrtn/s:每秒向设备(drive expressed)写入的数据量。
  • KB_read:读取的总数据量。
  • KB_wrtn:写入的总数量数据量;这些单位都为 Kilobytes。

系统层面问题解决办法

你认为到底负载高好,还是低好呢?在实际的生产中,一般认为 CPU 只要不超过 90% 都没什么问题。当然不排除下面这些特殊情况。

CPU 负载高,IO 负载低:

  • 内存不够
  • 磁盘性能差
  • SQL 问题:去数据库层,进一步排查 SQL 问题
  • IO 出问题了(磁盘到临界了、raid 设计不好、raid 降级、锁、在单位时间内 TPS 过高)
  • TPS 过高:大量的小数据 IO、大量的全表扫描

IO 负载高,CPU 负载低:

  • 大量小的 IO 写操作
  • autocommit,产生大量小 IO;IO/PS,磁盘的一个定值,硬件出厂的时候,厂家定义的一个每秒最大的 IO 次数。
  • 大量大的 IO 写操作:SQL 问题的几率比较大

IO和 CPU 负载都很高:

  • 硬件不够了或 SQL 存在问题

基础优化

优化思路

定位问题点吮吸:硬件>系统>应用>数据库>架构(高可用、读写分离、分库分表)。

处理方向:明确优化目标、性能和安全的折中、防患未然。

硬件优化

①主机方面

根据数据库类型,主机 CPU 选择、内存容量选择、磁盘选择:

  • 平衡内存和磁盘资源
  • 随机的 I/O 和顺序的 I/O
  • 主机 RAID 卡的 BBU(Battery Backup Unit)关闭

②CPU 的选择

CPU 的两个关键因素:核数、主频。根据不同的业务类型进行选择:

  • CPU 密集型:计算比较多,OLTP 主频很高的 CPU、核数还要多。
  • IO 密集型:查询比较,OLAP 核数要多,主频不一定高的。

③内存的选择

OLAP 类型数据库,需要更多内存,和数据获取量级有关。OLTP 类型数据一般内存是 CPU 核心数量的 2 倍到 4 倍,没有最佳实践。

④存储方面

根据存储数据种类的不同,选择不同的存储设备,配置合理的 RAID 级别(raid5、raid10、热备盘)。

对于操作系统来讲,不需要太特殊的选择,最好做好冗余(raid1)(ssd、sas、sata)。

主机 raid 卡选择:

  • 实现操作系统磁盘的冗余(raid1)
  • 平衡内存和磁盘资源
  • 随机的 I/O 和顺序的 I/O
  • 主机 raid 卡的 BBU(Battery Backup Unit)要关闭

⑤网络设备方面

使用流量支持更高的网络设备(交换机、路由器、网线、网卡、HBA 卡)。注意:以上这些规划应该在初始设计系统时就应该考虑好。

服务器硬件优化

服务器硬件优化关键点:

  • 物理状态灯
  • 自带管理设备:远程控制卡(FENCE设备:ipmi ilo idarc)、开关机、硬件监控。
  • 第三方的监控软件、设备(snmp、agent)对物理设施进行监控。
  • 存储设备:自带的监控平台。EMC2(HP 收购了)、 日立(HDS)、IBM 低端 OEM HDS、高端存储是自己技术,华为存储。

系统优化

CPU:基本不需要调整,在硬件选择方面下功夫即可。

内存:基本不需要调整,在硬件选择方面下功夫即可。

SWAP:MySQL 尽量避免使用 Swap。阿里云的服务器中默认 swap 为 0。

IO :raid、no lvm、ext4 或 xfs、ssd、IO 调度策略。

Swap 调整(不使用 swap 分区):

  1. /proc/sys/vm/swappiness的内容改成0(临时),/etc/sysctl. conf上添加vm.swappiness=0(永久) 

这个参数决定了 Linux 是倾向于使用 Swap,还是倾向于释放文件系统 Cache。在内存紧张的情况下,数值越低越倾向于释放文件系统 Cache。

当然,这个参数只能减少使用 Swap 的概率,并不能避免 Linux 使用 Swap。

修改 MySQL 的配置参数 innodb_flush_ method,开启 O_DIRECT 模式。

这种情况下,InnoDB 的 buffer pool 会直接绕过文件系统 Cache 来访问磁盘,但是 redo log 依旧会使用文件系统 Cache。

值得注意的是,Redo log 是覆写模式的,即使使用了文件系统的 Cache,也不会占用太多。

IO 调度策略:

  1. #echo deadline>/sys/block/sda/queue/scheduler 临时修改为deadline 

永久修改:

  1. vi /boot/grub/grub.conf 
  2. 更改到如下内容: 
  3. kernel /boot/vmlinuz-2.6.18-8.el5 ro root=LABEL=/ elevator=deadline rhgb quiet 

系统参数调整

Linux 系统内核参数优化:

  1. vim/etc/sysctl.conf 
  2. net.ipv4.ip_local_port_range = 1024 65535:# 用户端口范围 
  3. net.ipv4.tcp_max_syn_backlog = 4096  
  4. net.ipv4.tcp_fin_timeout = 30  
  5. fs.file-max=65535:# 系统最大文件句柄,控制的是能打开文件最大数量   

用户限制参数(MySQL 可以不设置以下配置):

  1. vim/etc/security/limits.conf  
  2. * soft nproc 65535 
  3. * hard nproc 65535 
  4. * soft nofile 65535 
  5. * hard nofile 65535 

应用优化

业务应用和数据库应用独立。

防火墙:iptables、selinux 等其他无用服务(关闭):

  1. chkconfig --level 23456 acpid off 
  2.     chkconfig --level 23456 anacron off 
  3.     chkconfig --level 23456 autofs off 
  4.     chkconfig --level 23456 avahi-daemon off 
  5.     chkconfig --level 23456 bluetooth off 
  6.     chkconfig --level 23456 cups off 
  7.     chkconfig --level 23456 firstboot off 
  8.     chkconfig --level 23456 haldaemon off 
  9.     chkconfig --level 23456 hplip off 
  10.     chkconfig --level 23456 ip6tables off 
  11.     chkconfig --level 23456 iptables  off 
  12.     chkconfig --level 23456 isdn off 
  13.     chkconfig --level 23456 pcscd off 
  14.     chkconfig --level 23456 sendmail  off 
  15.     chkconfig --level 23456 yum-updatesd  off 

安装图形界面的服务器不要启动图形界面 runlevel 3。

另外,思考将来我们的业务是否真的需要 MySQL,还是使用其他种类的数据库。用数据库的最高境界就是不用数据库。

数据库优化

SQL 优化方向:

  • 执行计划
  • 索引
  • SQL 改写

架构优化方向:

  • 高可用架构
  • 高性能架构
  • 分库分表

数据库参数优化

①调整

实例整体(高级优化,扩展):

  1. thread_concurrency:# 并发线程数量个数 
  2. sort_buffer_size:# 排序缓存 
  3. read_buffer_size:# 顺序读取缓存 
  4. read_rnd_buffer_size:# 随机读取缓存 
  5. key_buffer_size:# 索引缓存 
  6. thread_cache_size:# (1G—>8, 2G—>16, 3G—>32, >3G—>64) 

②连接层(基础优化)

设置合理的连接客户和连接方式:

  1. max_connections           # 最大连接数,看交易笔数设置     
  2. max_connect_errors        # 最大错误连接数,能大则大 
  3. connect_timeout           # 连接超时 
  4. max_user_connections      # 最大用户连接数 
  5. skip-name-resolve         # 跳过域名解析 
  6. wait_timeout              # 等待超时 
  7. back_log                  # 可以在堆栈中的连接数量 

③SQL 层(基础优化)

query_cache_size: 查询缓存 >>> OLAP 类型数据库,需要重点加大此内存缓存,但是一般不会超过 GB。

对于经常被修改的数据,缓存会马上失效。我们可以使用内存数据库(redis、memecache),替代它的功能。

存储引擎层优化

innodb 基础优化参数:

  1. default-storage-engine 
  2. innodb_buffer_pool_size       # 没有固定大小,50%测试值,看看情况再微调。但是尽量设置不要超过物理内存70% 
  3. innodb_file_per_table=(1,0) 
  4. innodb_flush_log_at_trx_commit=(0,1,2) # 1是最安全的,0是性能最高,2折中 
  5. binlog_sync 
  6. Innodb_flush_method=(O_DIRECT, fdatasync) 
  7. innodb_log_buffer_size        # 100M以下 
  8. innodb_log_file_size          # 100M 以下 
  9. innodb_log_files_in_group     # 5个成员以下,一般2-3个够用(iblogfile0-N) 
  10. innodb_max_dirty_pages_pct   # 达到百分之75的时候刷写 内存脏页到磁盘。 
  11. log_bin 
  12. max_binlog_cache_size         # 可以不设置 
  13. max_binlog_size               # 可以不设置 
  14. innodb_additional_mem_pool_size    #小于2G内存的机器,推荐值是20M。32G内存以上100M 

参考文章:

https://www.cnblogs.com/zishengY/p/6892345.html

https://www.jianshu.com/p/d7665192aaaf

【编辑推荐】

  1. MySQL数据库设计总结
  2. 巧用这19条MySQL优化,效率至少提高3倍
  3. 日均5亿查询量的京东到家订单中心,为什么舍MySQL用ES?
  4. 数据库优化渐进的过程,这些你都知道?
  5. 负载突然翻了100倍,如何拯救MySQL架构?
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

点石成金:访客至上的网页设计秘笈(原书第2版)

有些网站看起来很清爽; 有些网站看起来很杂乱; 有些网站能让你轻松地找到资料; 有些网站让你犹如置身迷宫…… ...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊
三兆村 蒙古呼和浩特市 小漠 二屯镇 桥家沟
宜清路 方家营 梅坑镇 下新镇 春森彼岸
澳门葡京官网 澳门葡京赌场注册 真钱扎金花游戏 澳门大发888博彩平台 威尼斯人官方网站
澳门葡京官网注册 澳门威尼斯人注册官网 澳门威尼斯人官网 番摊网站 葡京开户
百家乐必胜技巧 超级奖金宾果 永利赌场网址 美高梅娱乐场网址注册官网 葡京赌场官方网站
澳门庄闲赌场 大小点平台 乐天堂开户 澳门永利赌场 澳门威尼斯人官网
老虎机定位器 澳门大富豪网址 现金三公注册网址 牛牛游戏下载 现金骰宝 年度十大电子游戏 大小点游戏 玩什么游戏可以挣钱 电子游戏厅 方法奇葩赌博网 巴黎人网站 pt电子游戏哪个最会爆 澳门巴黎人游戏 澳门龙虎斗注册 澳门大富豪网站 押大小排行 真钱打牌 明升网站 十三水技巧 电子游戏下载 二十一点平台 现金网游戏开户平台 澳门百老汇游戏官网 皇博压大小 真钱捕鱼 跑马机游戏 赌博技巧 巴比伦赌场官网 现金三公 地下网址 捕鱼游戏技巧 英皇网站 手机玩游戏赚钱平台 现金网排行 pt电子游戏注册 赌博技巧 电脑玩游戏赚钱平台 海立方游戏 ag电子游戏排行 希尔顿官网 太阳网上压大小 现金赌钱游戏 现金棋牌游戏 真人网站网址 地下开户 九五至尊娱乐网址 澳门梭哈游戏官网 奇葩袖赌博网 鸿胜国际压大小 博狗扑克游戏 德州扑克游戏规则 庄闲代理 奔驰宝马老虎机下载 现金三公开户注册 免费试玩电子游戏 GT压大小 新濠天地注册 现金老虎机网站 纸牌赌博种类 乐天堂开户 澳门永利平台 电脑版捕鱼达人 玩电子游戏入门 斗牛游戏 bbin压大小 网上电子游戏网址 澳门网络下注平台 明升国际网址 明升娱乐 捕鱼达人电子游戏 mg电子游戏试玩 二十一点游戏赌场 澳门万利赌场官网 大小对比网站 现金电子游戏 电子游戏实用技术 老虎机破解器 澳门梭哈官网 澳门百老汇赌场注册 千炮捕鱼兑换现金 网上合法赌场 PT电子游戏 波克棋牌官方下载 天天棋牌 凤凰棋牌 美少女战士电子游戏 什么游戏可以赚人民币 银河国际娱乐 澳门番摊官网 澳门梭哈官网 胜博发电子游戏 电子游戏打鱼机 澳门现金网 大三巴网站 PT电子游戏 澳门银河国际娱乐