衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

mysql磁盤碎片整理

京東云 ? 來(lái)源:jf_75140285 ? 作者:jf_75140285 ? 2024-08-27 15:26 ? 次閱讀

背景

數(shù)據(jù)結(jié)轉(zhuǎn)過(guò)程中經(jīng)常進(jìn)行 delete 操作,產(chǎn)生空白空間,如果進(jìn)行新的插入操作,MySQL將嘗試?yán)眠@些留空的區(qū)域,但仍然無(wú)法將其徹底占用,于是造成了數(shù)據(jù)的存儲(chǔ)位置不連續(xù),以及物理存儲(chǔ)順序與理論上的排序順序不同,久而久之就產(chǎn)生了碎片。

碎片治理思路

根據(jù)線上處理經(jīng)驗(yàn)總結(jié)比對(duì)4種處理磁盤碎片優(yōu)缺點(diǎn)

?

治理方案 優(yōu)勢(shì) 缺點(diǎn) 備注
將數(shù)據(jù)量巨大的表設(shè)計(jì)成分區(qū)表,按時(shí)間分區(qū) 通過(guò)結(jié)轉(zhuǎn)分區(qū)數(shù)據(jù),刪除分區(qū)釋放磁盤碎片,磁盤IO抖動(dòng)秒級(jí)別,對(duì)線上業(yè)務(wù)影響小 ?
估算數(shù)據(jù)量,每個(gè)分區(qū)不超過(guò)3億數(shù)據(jù)350G為佳;庫(kù)存流水,訂單表這些表應(yīng)該在創(chuàng)建時(shí)就應(yīng)該設(shè)計(jì)成分區(qū)表,避免以后磁盤碎片痛點(diǎn)
重建表存儲(chǔ)引擎,重新組織數(shù)據(jù)(ALTER TABLE tablename ENGINE=InnoDB;) ?
整理過(guò)程加鎖,周期長(zhǎng),且對(duì)線上業(yè)務(wù)影響較大:10億數(shù)據(jù)量,1000G,tp99會(huì)持續(xù)超過(guò)60s 謹(jǐn)慎操作
主從切換(DBA可使用一個(gè)磁盤更大的干凈的庫(kù),進(jìn)行主從切換) ?
涉及面廣,牽扯范圍較大,處理時(shí)長(zhǎng)在分鐘級(jí) 謹(jǐn)慎操作
創(chuàng)建臨時(shí)表進(jìn)行數(shù)據(jù)雙寫(xiě)最后進(jìn)行數(shù)據(jù)庫(kù)表名切換 零延遲,無(wú)抖動(dòng),對(duì)線上無(wú)任何影響 需要磁盤空間較大 ?

?

創(chuàng)建分區(qū)表

wKgaombNf52AKKGpABCZGfhqC9I055.png

上述分區(qū)表,在某一分區(qū)內(nèi)數(shù)據(jù)結(jié)轉(zhuǎn)完成后,

ALTER TABLE warehouse_stock_flow drop PARTITION p24;

當(dāng)然不是所有的表都是可以創(chuàng)建分區(qū)表的。如果某一張數(shù)據(jù)表在很長(zhǎng)一段時(shí)間內(nèi)沒(méi)有進(jìn)行數(shù)據(jù)結(jié)轉(zhuǎn),且無(wú)法創(chuàng)建分區(qū)表的話,可以利用以下方法。

?

表名切換

如果某一張數(shù)據(jù)表在很長(zhǎng)一段時(shí)間內(nèi)沒(méi)有進(jìn)行數(shù)據(jù)結(jié)轉(zhuǎn),可以創(chuàng)建臨時(shí)表,通過(guò)大數(shù)據(jù)將某一結(jié)轉(zhuǎn)周期內(nèi)數(shù)據(jù)推送至臨時(shí)表,在代碼層面進(jìn)行數(shù)據(jù)的雙寫(xiě),最后再通過(guò)表名更換的方式進(jìn)行表名轉(zhuǎn)換。其實(shí),治理磁盤碎片最好的方法就是刪除表,不同業(yè)務(wù)對(duì)數(shù)據(jù)的要求不同。如果有可能的話新建一個(gè)臨時(shí)表。

利用rename語(yǔ)句對(duì)數(shù)據(jù)庫(kù)表信息進(jìn)行修改,不會(huì)鎖表,可以達(dá)到零延遲,無(wú)抖動(dòng),對(duì)線上無(wú)任何影響。

wKgZombNf56AMgbUAAQwDHqV6Cg590.png

rename table xx_record to xx_record_temp1,xx_temp to xx_record,xx_record_temp1 to xx_record_temp;

總結(jié)

不管是使用云還是商城數(shù)據(jù)庫(kù),只要使用mysql,必然會(huì)遇到Mysql碎片問(wèn)題痛點(diǎn),數(shù)據(jù)量大的業(yè)務(wù)表應(yīng)該設(shè)計(jì)成分區(qū)表方便磁盤碎片整理,降低維護(hù)成本和業(yè)務(wù)影響。碎片清理前后,IO性能會(huì)上升,SQL執(zhí)行效率更快。所以,在日常運(yùn)維工作中,應(yīng)對(duì)碎片進(jìn)行定期清理,保證數(shù)據(jù)庫(kù)有穩(wěn)定的性能和充足的空間。

擴(kuò)展

提到提高IO性能,在緊急情況下還可以考慮開(kāi)啟刷盤(設(shè)置 sync_binlog=0;innodb_flush_log_at_trx_commit=0),但開(kāi)啟刷盤會(huì)有數(shù)據(jù)丟失風(fēng)險(xiǎn)(集團(tuán)數(shù)據(jù)庫(kù)模板配置參數(shù)默認(rèn)sync_binlog=1;innodb_flush_log_at_trx_commit=1)。

附件

mysql數(shù)據(jù)庫(kù)核心參數(shù)介紹:https://www.cnblogs.com/klvchen/p/10861850.html?

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 數(shù)據(jù)庫(kù)
    +關(guān)注

    關(guān)注

    7

    文章

    3848

    瀏覽量

    64688
  • 磁盤碎片整理
    +關(guān)注

    關(guān)注

    0

    文章

    2

    瀏覽量

    5521
  • MySQL
    +關(guān)注

    關(guān)注

    1

    文章

    829

    瀏覽量

    26744
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    使用插件將Excel連接到MySQL/MariaDB

    使用插件將 Excel 連接到 MySQL/MariaDB 適用于 MySQL 的 Devart Excel 插件允許您將 Microsoft Excel 連接到 MySQL 或 MariaDB
    的頭像 發(fā)表于 01-20 12:38 ?120次閱讀
    使用插件將Excel連接到<b class='flag-5'>MySQL</b>/MariaDB

    MySQL數(shù)據(jù)庫(kù)的安裝

    MySQL數(shù)據(jù)庫(kù)的安裝 【一】各種數(shù)據(jù)庫(kù)的端口 MySQL :3306 Redis :6379 MongoDB :27017 Django :8000 flask :5000 【二】MySQL 介紹
    的頭像 發(fā)表于 01-14 11:25 ?131次閱讀
    <b class='flag-5'>MySQL</b>數(shù)據(jù)庫(kù)的安裝

    什么是raid磁盤冗余陣列

    什么是raid 磁盤冗余陣列 這是由多塊獨(dú)立磁盤(多為硬盤)組合的一個(gè)超大容量磁盤組。 ? 大白話的解釋磁盤冗余陣列,就是將很多塊硬盤組合成一個(gè)整體,不同的RAID級(jí)別,可以實(shí)現(xiàn)不同的
    的頭像 發(fā)表于 12-16 16:41 ?304次閱讀
    什么是raid<b class='flag-5'>磁盤</b>冗余陣列

    MySQL還能跟上PostgreSQL的步伐嗎

    Percona 的老板 Peter Zaitsev最近發(fā)表一篇博客,討論了MySQL是否還能跟上PostgreSQL的腳步。Percona 作為MySQL 生態(tài)扛旗者,Percona 開(kāi)發(fā)了知名
    的頭像 發(fā)表于 11-18 10:16 ?272次閱讀
    <b class='flag-5'>MySQL</b>還能跟上PostgreSQL的步伐嗎

    詳解MySQL多實(shí)例部署

    詳解MySQL多實(shí)例部署
    的頭像 發(fā)表于 11-11 11:10 ?325次閱讀

    MySQL編碼機(jī)制原理

    前言 一位讀者在本地部署 MySQL 測(cè)試環(huán)境時(shí)碰到一個(gè)問(wèn)題,我覺(jué)得挺有代表性的,所以寫(xiě)篇文章介紹一下,看完相信你會(huì)對(duì) MySQL 的編碼機(jī)制有最本質(zhì)的了解,本文的目錄結(jié)構(gòu)如下 讀者問(wèn)題簡(jiǎn)介
    的頭像 發(fā)表于 11-09 11:01 ?299次閱讀

    適用于MySQL的dbForge架構(gòu)比較

    dbForge Schema Compare for MySQL 是一種工具,用于輕松有效地比較和部署 MySQL 數(shù)據(jù)庫(kù)結(jié)構(gòu)和腳本文件夾差異。該工具提供了 MySQL 數(shù)據(jù)庫(kù)架構(gòu)中所有差異的全面視圖。
    的頭像 發(fā)表于 10-28 09:41 ?259次閱讀
    適用于<b class='flag-5'>MySQL</b>的dbForge架構(gòu)比較

    配置MySQL主從復(fù)制和讀寫(xiě)分離

    配置MySQL主從復(fù)制和讀寫(xiě)分離
    的頭像 發(fā)表于 10-23 11:44 ?543次閱讀
    配置<b class='flag-5'>MySQL</b>主從復(fù)制和讀寫(xiě)分離

    Jtti:MySQL初始化操作如何設(shè)置root密碼

    MySQL初始化時(shí),可以通過(guò)以下步驟設(shè)置root密碼: 打開(kāi)命令行工具,使用以下命令啟動(dòng)MySQL服務(wù): ? sudo service mysql start ? 使用以下命令登錄MySQL
    的頭像 發(fā)表于 08-08 16:45 ?449次閱讀

    Linux磁盤IO詳細(xì)解析

      在講解磁盤IO前,先簡(jiǎn)單說(shuō)下什么是磁盤磁盤是可以持久化存儲(chǔ)的設(shè)備,根據(jù)存儲(chǔ)介質(zhì)的不同,常見(jiàn)磁盤可以分為兩類:機(jī)械磁盤和固態(tài)
    的頭像 發(fā)表于 08-05 15:49 ?715次閱讀
    Linux<b class='flag-5'>磁盤</b>IO詳細(xì)解析

    MySQL知識(shí)點(diǎn)匯總

    大家好,這部分被稱為DQL部分,是每個(gè)學(xué)習(xí)MySQL必須要學(xué)會(huì)的部分,下面就讓我來(lái)介紹MySQL中的其他部分。
    的頭像 發(fā)表于 08-05 15:27 ?455次閱讀
    <b class='flag-5'>MySQL</b>知識(shí)點(diǎn)匯總

    華納云:如何修改MySQL的默認(rèn)端口

    MySQL是世界上最流行的開(kāi)源關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng)之一。在某些情況下,由于安全性、網(wǎng)絡(luò)策略或端口沖突的原因,數(shù)據(jù)庫(kù)管理員可能需要更改MySQL服務(wù)的默認(rèn)監(jiān)聽(tīng)端口。本文將指導(dǎo)您如何在不同的操作系統(tǒng)上
    的頭像 發(fā)表于 07-22 14:56 ?352次閱讀
    華納云:如何修改<b class='flag-5'>MySQL</b>的默認(rèn)端口

    MySQL的整體邏輯架構(gòu)

    支持多種存儲(chǔ)引擎是眾所周知的MySQL特性,也是MySQL架構(gòu)的關(guān)鍵優(yōu)勢(shì)之一。如果能夠理解MySQL Server與存儲(chǔ)引擎之間是怎樣通過(guò)API交互的,將大大有利于理解MySQL的核心
    的頭像 發(fā)表于 04-30 11:14 ?495次閱讀
    <b class='flag-5'>MySQL</b>的整體邏輯架構(gòu)

    MySQL忘記root密碼解決方案

    mysql登錄密碼為password()算法加密,解密成本太高,以下為通用方案; 原理:mysql提供了特殊啟動(dòng)方式,即跳過(guò)權(quán)限表驗(yàn)證,啟動(dòng)后,登錄不需要提供密碼; 登錄后,即可修改mysql數(shù)據(jù)庫(kù)的user表,重置
    的頭像 發(fā)表于 04-23 16:08 ?768次閱讀

    【服務(wù)器數(shù)據(jù)恢復(fù)】服務(wù)器raid6陣列多塊磁盤離線的數(shù)據(jù)恢復(fù)案例

    一臺(tái)網(wǎng)站服務(wù)器中有一組由6塊磁盤組建的RAID6磁盤陣列,操作系統(tǒng)層面運(yùn)行MySQL數(shù)據(jù)庫(kù)和存放一些其他類型文件。
    的頭像 發(fā)表于 02-23 13:13 ?668次閱讀
    读书| 赌场百家乐赌场| 博彩策略| 免费百家乐官网统计工具| 波克棋牌斗地主| 百家乐官网77scs官网| 大发888登录| 基础百家乐官网的玩法技巧和规则| 大发888注册送彩金| 百家乐官网图淑何看| 大发888开户注册| 速博百家乐官网的玩法技巧和规则| 百家乐的必赢术| 大化| 百家乐十赌九诈| 百家乐官网赌场优势| 任我赢百家乐软件| 百家乐官网赌博平台| 大发888dafa8668| 百家乐官网有试玩的吗| 尊龙国际娱乐| 百家乐出千赌具| 电子百家乐官网博彩正网| 百家乐法则| 百家乐官网对子的玩法| 88娱乐城备用网址| 百家乐赢钱好公式| 百家乐官网怎打能赢| 联合百家乐的玩法技巧和规则| 百家乐官网玩的技巧| 凯斯线上娱乐| 百家乐赌场策略大全| 电玩城百家乐官网技巧| 六合彩官方网| 百家乐游戏机技| 百家乐官网改单软件| 大发娱乐在线| 百家乐押注最高是多少| 678百家乐官网博彩娱乐场| 金沙网上娱乐城| 百家乐庄闲偏差有多大|