亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術(shù)文章
文章詳情頁

MySQL性能優(yōu)化之一條SQL在MySQL中執(zhí)行的過程詳解

瀏覽:13日期:2023-02-18 16:43:16
目錄
  • 一 MySQL的內(nèi)部組件結(jié)構(gòu)
    • 1.1 service層
    • 1.2 store層
  • 二 連接器
    • 三 分析器
      • 四 優(yōu)化器
        • 五 執(zhí)行器
          • 六 bin-log歸檔
            • 總結(jié)

              一 MySQL的內(nèi)部組件結(jié)構(gòu)

              大體來說,MySQL 可以分為 Server 層和存儲引擎層兩部分。

              1.1 service層

              主要包括連接器、查詢緩存、分析器、優(yōu)化器、執(zhí)行器等,涵蓋 MySQL 的大多數(shù)核心服務(wù)功能,以及所有的內(nèi)置函數(shù)(如日期、時間、數(shù)學(xué)和加密函數(shù)等),所有跨存儲引擎的功能都在這一層實現(xiàn),比如存儲過程、觸發(fā)器、視圖等。

              1.2 store層

              存儲引擎層負責(zé)數(shù)據(jù)的存儲和提取。其架構(gòu)模式是插件式的,支持 InnoDB、MyISAM、Memory 等多個存儲引擎。現(xiàn)在最常用的存儲引擎是 InnoDB,它從 MySQL 5.5.5 版本開始成為了默認存儲引擎。也就是說如果我們在create table時不指定表的存儲引擎類型,默認會給你設(shè)置存儲引擎為InnoDB。
              本節(jié)演示表的DDL:

              CREATE TABLE `test` (  `id` int(11) NOT NULL AUTO_INCREMENT,  `name` varchar(255) DEFAULT NULL,  PRIMARY KEY (`id`)) ENGINE=InnoDB AUTO_INCREMENT=9 DEFAULT CHARSET=utf8;

              下面我們重點來分析連接器、查詢緩存、分析器、優(yōu)化器、執(zhí)行器分別主要干了哪些事情。

              二 連接器

              我們知道由于MySQL是開源的,他有非常多種類的客戶端:navicat,mysql front,jdbc,SQLyog等非常豐富的客戶端,這些客戶端要向mysql發(fā)起通信都必須先跟Server端建立通信連接,而建立連接的工作就是有連接器完成的。
              第一步,你會先連接到這個數(shù)據(jù)庫上,這時候接待你的就是連接器。連接器負責(zé)跟客戶端建立連接、獲取權(quán)限、維持和管理連接。連接命令一般是這么寫的:

              [root@192 ~]# mysql -h host[數(shù)據(jù)庫地址] -u root[用戶] -p root[密碼] -P 3306

              連接命令中的 mysql 是客戶端工具,用來跟服務(wù)端建立連接。在完成經(jīng)典的 TCP 握手后,連接器就要開始認證你的身份,這個時候用的就是你輸入的用戶名和密碼。

              1、如果用戶名或密碼不對,你就會收到一個"Access denied for user"的錯誤,然后客戶端程序結(jié)束執(zhí)行。
              2、如果用戶名密碼認證通過,連接器會到權(quán)限表里面查出你擁有的權(quán)限。之后,這個連接里面的權(quán)限判斷邏輯,都將依賴于此時讀到的權(quán)限。

              這就意味著,一個用戶成功建立連接后,即使你用管理員賬號對這個用戶的權(quán)限做了修改,也不會影響已經(jīng)存在連接的權(quán)限。修改完成后,只有再新建的連接才會使用新的權(quán)限設(shè)置。用戶的權(quán)限表在系統(tǒng)表空間的mysql的user表中。

              修改user密碼

              mysql> CREATE USER "username"@"host" IDENTIFIED BY "password"; //創(chuàng)建新用戶mysql> grant all privileges on *.* to "username"@"%"; //賦權(quán)限,%表示所有(host)mysql> flush privileges //刷新數(shù)據(jù)庫mysql> update user set password=password(”123456″) where user="root";(設(shè)置用戶名密碼)mysql> show grants for root@"%"; 查看當前用戶的權(quán)限

              連接完成后,如果你沒有后續(xù)的動作,這個連接就處于空閑狀態(tài),你可以在 show processlist 命令中看到它。文本中這個圖是 show processlist 的結(jié)果,其中的 Command 列顯示為“Sleep”的這一行,就表示現(xiàn)在系統(tǒng)里面有一個空閑連接,關(guān)閉連接 kill 。

              客戶端如果長時間不發(fā)送command到Server端,連接器就會自動將它斷開。這個時間是由參數(shù) wait_timeout 控制的,默認值是 8 小時。
              查看wait_timeout

              mysql> show global variables like "wait_timeout";mysql>set global wait_timeout=28800; 設(shè)置全局服務(wù)器關(guān)閉非交互連接之前等待活動的秒數(shù)

              如果在連接被斷開之后,客戶端再次發(fā)送請求的話,就會收到一個錯誤提醒: Lost connection to MySQL server during query。這時候如果你要繼續(xù),就需要重連,然后再執(zhí)行請求了。

              數(shù)據(jù)庫里面,長連接是指連接成功后,如果客戶端持續(xù)有請求,則一直使用同一個連接。短連接則是指每次執(zhí)行完很少的幾次查詢就斷開連接,下次查詢再重新建立一個。

              開發(fā)當中我們大多數(shù)時候用的都是長連接,把連接放在Pool內(nèi)進行管理,但是長連接有些時候會導(dǎo)致 MySQL 占用內(nèi)存漲得特別快,這是因為 MySQL 在執(zhí)行過程中臨時使用的內(nèi)存是管理在連接對象里面的。這些資源會在連接斷開的時候才釋放。所以如果長連接累積下來,可能導(dǎo)致內(nèi)存占用太大,被系統(tǒng)強行殺掉(OOM),從現(xiàn)象看就是 MySQL 異常重啟了。

              怎么解決這類問題呢?

              1、定期斷開長連接。使用一段時間,或者程序里面判斷執(zhí)行過一個占用內(nèi)存的大查詢后,斷開連接,之后要查詢再重連。
              2、如果你用的是 MySQL 5.7 或更新版本,可以在每次執(zhí)行一個比較大的操作后,通過執(zhí)行 mysql_reset_connection 來重新初始化連接資源。這個過程不需要重連和重新做權(quán)限驗證,但是會將連接恢復(fù)到剛剛創(chuàng)建完時的狀態(tài)。

              查詢緩存

              常用的一些操作

              mysql>show databases; 顯示所有數(shù)據(jù)庫mysql>use dbname; 打開數(shù)據(jù)庫:mysql>show tables; 顯示數(shù)據(jù)庫mysql中所有的表;mysql>describe user; 顯示表mysql數(shù)據(jù)庫中user表的列信息);

              連接建立完成后,你就可以執(zhí)行 select 語句了。執(zhí)行邏輯就會來到第二步:查詢緩存。

              MySQL 拿到一個查詢請求后,會先到查詢緩存看看,之前是不是執(zhí)行過這條語句。之前執(zhí)行過的語句及其結(jié)果可能會以 key-value 對的形式,被直接緩存在內(nèi)存中。key 是查詢的語句,value 是查詢的結(jié)果。如果你的查詢能夠直接在這個緩存中找到 key,那么這個 value 就會被直接返回給客戶端。

              如果語句不在查詢緩存中,就會繼續(xù)后面的執(zhí)行階段。執(zhí)行完成后,執(zhí)行結(jié)果會被存入查詢緩存中。你可以看到,如果查詢命中緩存,MySQL 不需要執(zhí)行后面的復(fù)雜操作,就可以直接返回結(jié)果,這個效率會很高。

              大多數(shù)情況查詢緩存就是個雞肋,為什么呢?

              因為查詢緩存往往弊大于利。查詢緩存的失效非常頻繁,只要有對一個表的更新,這個表上所有的查詢緩存都會被清空。因此很可能你費勁地把結(jié)果存起來,還沒使用呢,就被一個更新全清空了。對于更新壓力大的數(shù)據(jù)庫來說,查詢緩存的命中率會非常低。

              一般建議大家在靜態(tài)表里使用查詢緩存,什么叫靜態(tài)表呢?就是一般我們極少更新的表。比如,一個系統(tǒng)配置表、字典表,那這張表上的查詢才適合使用查詢緩存。好在 MySQL 也提供了這種“按需使用”的方式。你可以將my.cnf參數(shù) query_cache_type 設(shè)置成 DEMAND。

              my.cnf#query_cache_type有3個值 0代表關(guān)閉查詢緩存OFF,1代表開啟ON,2(DEMAND)代表當sql語句中有SQL_CACHE關(guān)鍵詞時才緩存query_cache_type=2

              這樣對于默認的 SQL 語句都不使用查詢緩存。而對于你確定要使用查詢緩存的語句,可以用 SQL_CACHE 顯式指定,像下面這個語句一樣:

              mysql> select SQL_CACHE * from test where ID=5;

              查看當前mysql實例是否開啟緩存機制

              mysql> show global variables like "%query_cache_type%";

              監(jiān)控查詢緩存的命中率:

              mysql> show status like"%Qcache%"; //查看運行的緩存信息

              • Qcache_free_blocks:表示查詢緩存中目前還有多少剩余的blocks,如果該值顯示較大,則說明查詢緩存中的內(nèi)存碎片過多了,可能在一定的時間進行整理。
              • Qcache_free_memory:查詢緩存的內(nèi)存大小,通過這個參數(shù)可以很清晰的知道當前系統(tǒng)的查詢內(nèi)存是否夠用,是多了,還是不夠用,DBA可以根據(jù)實際情況做出調(diào)整。
              • Qcache_hits:表示有多少次命中緩存。我們主要可以通過該值來驗證我們的查詢緩存的效果。數(shù)字越大,緩存效果越理想。
              • Qcache_inserts: 表示多少次未命中然后插入,意思是新來的SQL請求在緩存中未找到,不得不執(zhí)行查詢處理,執(zhí)行查詢處理后把結(jié)果insert到查詢緩存中。這樣的情況的次數(shù),次數(shù)越多,表示查詢緩存應(yīng)用到的比較少,效果也就不理想。當然系統(tǒng)剛啟動后,查詢緩存是空的,這很正常。
              • Qcache_lowmem_prunes:該參數(shù)記錄有多少條查詢因為內(nèi)存不足而被移除出查詢緩存。通過這個值,用戶可以適當?shù)恼{(diào)整緩存大小。
              • Qcache_not_cached: 表示因為query_cache_type的設(shè)置而沒有被緩存的查詢數(shù)量。
              • Qcache_queries_in_cache:當前緩存中緩存的查詢數(shù)量。
              • Qcache_total_blocks:當前緩存的block數(shù)量。

              mysql8.0已經(jīng)移除了查詢緩存功能

              三 分析器

              如果沒有命中查詢緩存,就要開始真正執(zhí)行語句了。首先,MySQL 需要知道你要做什么,因此需要對 SQL 語句做解析。

              分析器先會做“詞法分析”。你輸入的是由多個字符串和空格組成的一條 SQL 語句,MySQL 需要識別出里面的字符串分別是什么,代表什么。

              MySQL 從你輸入的"select"這個關(guān)鍵字識別出來,這是一個查詢語句。它也要把字符串“T”識別成“表名 T”,把字符串“ID”識別成“列 ID”。

              做完了這些識別以后,就要做“語法分析”。根據(jù)詞法分析的結(jié)果,語法分析器會根據(jù)語法規(guī)則,判斷你輸入的這個 SQL 語句是否滿足 MySQL 語法。

              如果你的語句不對,就會收到“You have an error in your SQL syntax”的錯誤提醒,比如下面這個語句 from 寫成了 “rom”。

              mysql> select * fro test where id=1;ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near "fro test where id=1" at line 1

              詞法分析器原理

              詞法分析器分成6個主要步驟完成對sql語句的分析

              1、詞法分析
              2、語法分析
              3、語義分析
              4、構(gòu)造執(zhí)行樹
              5、生成執(zhí)行計劃
              6、計劃的執(zhí)行

              下圖是SQL詞法分析的過程步驟:

              SQL語句的分析分為詞法分析與語法分析,mysql的詞法分析由MySQLLex[MySQL自己實現(xiàn)的]完成,語法分析由Bison生成。關(guān)于語法樹大家如果想要深入研究可以參考這篇wiki文章:https://en.wikipedia.org/wiki/LR_parser。那么除了Bison外,Java當中也有開源的詞法結(jié)構(gòu)分析工具例如Antlr4,ANTLR從語法生成一個解析器,可以構(gòu)建和遍歷解析樹,可以在IDEA工具當中安裝插件:antlr v4 grammar plugin。

              插件使用步驟:

              經(jīng)過bison語法分析之后,會生成一個這樣的語法樹

              至此我們分析器的工作任務(wù)也基本圓滿了。接下來進入到優(yōu)化器

              四 優(yōu)化器

              經(jīng)過了分析器,MySQL 就知道你要做什么了。在開始執(zhí)行之前,還要先經(jīng)過優(yōu)化器的處理。

              優(yōu)化器是在表里面有多個索引的時候,決定使用哪個索引;或者在一個語句有多表關(guān)聯(lián)(join)的時候,決定各個表的連接順序。比如你執(zhí)行下面這樣的語句,這個語句是執(zhí)行兩個表的 join:

              mysql> select * from te

              mysql> select * from test1 join test2 using(ID) where test1.name=yangguo and test2.name=xiaolongnv;

              既可以先從表 test1 里面取出 name=yangguo的記錄的 ID 值,再根據(jù) ID 值關(guān)聯(lián)到表 test2,再判斷 test2 里面 name的值是否等于 yangguo。

              也可以先從表 test2 里面取出 name=xiaolongnv 的記錄的 ID 值,再根據(jù) ID 值關(guān)聯(lián)到 test1,再判斷 test1 里面 name 的值是否等于 yangguo。

              這兩種執(zhí)行方法的邏輯結(jié)果是一樣的,但是執(zhí)行的效率會有不同,而優(yōu)化器的作用就是決定選擇使用哪一個方案。優(yōu)化器階段完成后,這個語句的執(zhí)行方案就確定下來了,然后進入執(zhí)行器階段。如果你還有一些疑問,比如優(yōu)化器是怎么選擇索引的,有沒有可能選擇錯等等。

              五 執(zhí)行器

              開始執(zhí)行的時候,要先判斷一下你對這個表 T 有沒有執(zhí)行查詢的權(quán)限,如果沒有,就會返回沒有權(quán)限的錯誤,如下所示 (在工程實現(xiàn)上,如果命中查詢緩存,會在查詢緩存返回結(jié)果的時候,做權(quán)限驗證。查詢也會在優(yōu)化器之前調(diào)用 precheck 驗證權(quán)限)。

              mysql> select * from test where id=1;

              如果有權(quán)限,就打開表繼續(xù)執(zhí)行。打開表的時候,執(zhí)行器就會根據(jù)表的引擎定義,去使用這個引擎提供的接口。
              比如我們這個例子中的表 test 中,ID 字段沒有索引,那么執(zhí)行器的執(zhí)行流程是這樣的:

              • 調(diào)用 InnoDB 引擎接口取這個表的第一行,判斷 ID 值是不是 10,如果不是則跳過,如果是則將這行存在結(jié)果集中;
              • 調(diào)用引擎接口取“下一行”,重復(fù)相同的判斷邏輯,直到取到這個表的最后一行。
              • 執(zhí)行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結(jié)果集返回給客戶端。

              至此,這個語句就執(zhí)行完成了。對于有索引的表,執(zhí)行的邏輯也差不多。第一次調(diào)用的是“取滿足條件的第一行”這個接口,之后循環(huán)取“滿足條件的下一行”這個接口,這些接口都是引擎中已經(jīng)定義好的。你會在數(shù)據(jù)庫的慢查詢?nèi)罩局锌吹揭粋€ rows_examined 的字段,表示這個語句執(zhí)行過程中掃描了多少行。這個值就是在執(zhí)行器每次調(diào)用引擎獲取數(shù)據(jù)行的時候累加的。在有些場景下,執(zhí)行器調(diào)用一次,在引擎內(nèi)部則掃描了多行,因此引擎掃描行數(shù)跟 rows_examined 并不是完全相同的。

              六 bin-log歸檔

              刪庫是不需要跑路的,因為我們的SQL執(zhí)行時,會將sql語句的執(zhí)行邏輯記錄在我們的bin-log當中,什么是bin-log呢?
              binlog是Server層實現(xiàn)的二進制日志,他會記錄我們的cud操作。Binlog有以下幾個特點:

              1、Binlog在MySQL的Server層實現(xiàn)(引擎共用)
              2、Binlog為邏輯日志,記錄的是一條語句的原始邏輯
              3、Binlog不限大小,追加寫入,不會覆蓋以前的日志

              如果,我們誤刪了數(shù)據(jù)庫,可以使用binlog進行歸檔!要使用binlog歸檔,首先我們得記錄binlog,因此需要先開啟MySQL的binlog功能。
              配置my.cnf

              配置開啟binloglog-bin=/usr/local/mysql/data/binlog/mysql-bin注意5.7以及更高版本需要配置本項:server-id=123454(自定義,保證唯一性);#binlog格式,有3種statement,row,mixedbinlog-format=ROW#表示每1次執(zhí)行寫入就與硬盤同步,會影響性能,為0時表示,事務(wù)提交時mysql不做刷盤操作,由系統(tǒng)決定sync-binlog=1

              binlog命令

              mysql> show variables like "%log_bin%"; 查看bin-log是否開啟mysql> flush logs; 會多一個最新的bin-log日志mysql> show master status; 查看最后一個bin-log日志的相關(guān)信息mysql> reset master; 清空所有的bin-log日志

              查看binlog內(nèi)容

              mysql> /usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 查看binlog內(nèi)容

              binlog里的內(nèi)容不具備可讀性,所以需要我們自己去判斷恢復(fù)的邏輯點位,怎么觀察呢?看重點信息,比如begin,commit這種關(guān)鍵詞信息,只要在binlog當中看到了,你就可以理解為begin-commit之間的信息是一個完整的事務(wù)邏輯,然后再根據(jù)位置position判斷恢復(fù)即可。binlog內(nèi)容如下:

              數(shù)據(jù)歸檔操作

              從bin-log恢復(fù)數(shù)據(jù)恢復(fù)全部數(shù)據(jù)/usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 |mysql -uroot -p tuling(數(shù)據(jù)庫名)恢復(fù)指定位置數(shù)據(jù)/usr/local/mysql/bin/mysqlbinlog --no-defaults --start-position="408" --stop-position="731"  /usr/local/mysql/data/binlog/mysql-bin.000001 |mysql -uroot -p tuling(數(shù)據(jù)庫)恢復(fù)指定時間段數(shù)據(jù)/usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 --stop-date= "2018-03-02 12:00:00"  --start-date= "2019-03-02 11:55:00"|mysql -uroot -p test(數(shù)據(jù)庫)

              歸檔測試準

              1、定義一個存儲過程,寫入數(shù)據(jù)

              drop procedure if exists tproc;delimiter $$create procedure tproc(i int)begin    declare s int default 1;    declare c char(50) default repeat("a",50);    while s<=i dostart transaction;insert into test values(null,c);commit;set s=s+1;    end while;end$$delimiter ;

              2、刪除數(shù)據(jù)

              mysql> truncate test;

              3、利用binlog歸檔

              mysql> /usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 |mysql -uroot -p tuling(數(shù)據(jù)庫名)

              4、 歸檔完畢,數(shù)據(jù)恢復(fù)

              總結(jié)

              到此這篇關(guān)于MySQL性能優(yōu)化之一條SQL在MySQL中執(zhí)行的過程的文章就介紹到這了,更多相關(guān)SQL在MySQL中執(zhí)行的過程內(nèi)容請搜索以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持!

              標簽: MySQL
              主站蜘蛛池模板: 亚洲4kk44kk在线| 狠狠久久综合 | 成年女人色费视频免费 | 日本高清在线一区二区三区 | 精品视频在线观看视频免费视频 | 国产人免费人成免费视频 | 黄色大片视频在线观看 | 1024在线观看免费播放 | er久99久热只有精品国产 | 欧美日韩国产另类在线观看 | 亚洲男人的天堂网站 | 艾小青亚洲专区在线播放 | 日日麻批视频 | 黄色网址视频免费 | 国产福利不卡视频在免费播放 | 欧美a级片免费观看 | 亚洲欧洲一区二区 | 在线成年人网站 | 日韩免费视频一区二区 | 国产午夜毛片一区二区三区 | 亚洲视频综合网 | 成人免费视频77777 | 亚洲一区二区三区夜色 | 久久国产视频网 | 日本国产一区 | 在线精品小视频 | 外国一级黄色 | 成人免费看黄页网址大全 | 久久国产精品久久久久久 | 在线不卡 | 亚洲一成人毛片 | 日韩高清在线免费观看 | 污网址 | 国产你懂得 | 999精品影视在线观看 | 高清性色生活片欧美在线 | 性色毛片免费视频 | 精品国内视频 | 国产图片综合区 | 国产成人久久久精品一区二区三区 | 欧美日韩免费一区二区三区 |