無論你是技術大佬,還是剛入行的小白,時不時都會踩到Mysql資料庫不走索引的坑。常見的現象就是:明明在欄位上新增了索引,但卻並未生效。
前些天就遇到一個稍微特殊的場景,同一條SQL語句,在某些引數下生效,在某些引數下不生效,這是為什麼呢?
另外,無論是面試或是日常,Mysql索引失效的通常情況都應該瞭解和學習。
為了方便學習和記憶,這篇檔案將常見的15種不走索引情況進行彙總,並以範例展示,幫助大家更好地避免踩坑。建議收藏,以備不時之需。
建立表結構
為了逐項驗證索引的使用情況,我們先準備一張表t_user:
CREATE TABLE `t_user` ( `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT 'ID', `id_no` varchar(18) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '身份編號', `username` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '使用者名稱', `age` int(11) DEFAULT NULL COMMENT '年齡', `create_time` datetime DEFAULT CURRENT_TIMESTAMP COMMENT '建立時間', PRIMARY KEY (`id`), KEY `union_idx` (`id_no`,`username`,`age`), KEY `create_time_idx` (`create_time`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_bin;
在上述表結構中有三個索引:
id
:為資料庫主鍵;union_idx
:為id_no、username、age構成的聯合索引;create_time_idx
:是由create_time構成的普通索引;初始化資料
初始化資料分兩部分:基礎資料和批次匯入資料。
基礎資料insert了4條資料,其中第4條資料的建立時間為未來的時間,用於後續特殊場景的驗證:
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1001', 'Tom1', 11, '2022-02-27 09:04:23'); INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1002', 'Tom2', 12, '2022-02-26 09:04:23'); INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1003', 'Tom3', 13, '2022-02-25 09:04:23'); INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1004', 'Tom4', 14, '2023-02-25 09:04:23');
除了基礎資料,還有一條儲存過程及其呼叫的SQL,方便批次插入資料,用來驗證資料比較多的場景:
-- 刪除歷史儲存過程 DROP PROCEDURE IF EXISTS `insert_t_user` -- 建立儲存過程 delimiter $ CREATE PROCEDURE insert_t_user(IN limit_num int) BEGIN DECLARE i INT DEFAULT 10; DECLARE id_no varchar(18) ; DECLARE username varchar(32) ; DECLARE age TINYINT DEFAULT 1; WHILE i < limit_num DO SET id_no = CONCAT("NO", i); SET username = CONCAT("Tom",i); SET age = FLOOR(10 + RAND()*2); INSERT INTO `t_user` VALUES (NULL, id_no, username, age, NOW()); SET i = i + 1; END WHILE; END $ -- 呼叫儲存過程 call insert_t_user(100);
關於儲存過程的建立和儲存,可暫時不執行,當用到時再執行。
資料庫版本及執行計劃
檢視當前資料庫的版本:
select version(); 8.0.18
上述為本人測試的資料庫版本:8.0.18
。當然,以下的所有範例,大家可在其他版本進行執行驗證。
檢視SQL語句執行計劃,一般我們都採用explain
關鍵字,通過執行結果來判斷索引使用情況。
執行範例:
explain select * from t_user where id = 1;
執行結果:
可以看到上述SQL語句使用了主鍵索引(PRIMARY),key_len
為4;
其中key_len
的含義為:表示索引使用的位元組數,根據這個值可以判斷索引的使用情況,特別是在組合索引的時候,判斷該索引有多少部分被使用到非常重要。
做好以上資料及知識的準備,下面就開始講解具體索引失效的範例了。
聯合索引遵從最左匹配原則,顧名思義,在聯合索引中,最左側的欄位優先匹配。因此,在建立聯合索引時,where子句中使用最頻繁的欄位放在組合索引的最左側。
而在查詢時,要想讓查詢條件走索引,則需滿足:最左邊的欄位要出現在查詢條件中。
範例中,union_idx
聯合索引組成:
KEY `union_idx` (`id_no`,`username`,`age`)
最左邊的欄位為id_no,一般情況下,只要保證id_no出現在查詢條件中,則會走該聯合索引。
範例一:
explain select * from t_user where id_no = '1002';
explain結果:
通過explain執行結果可以看出,上述SQL語句走了union_idx
這條索引。
這裡再普及一下key_len的計算:
id_no
型別為varchar(18),字元集為utf8mb4_bin,也就是使用4個位元組來表示一個完整的UTF-8。此時,key_len = 18* 4 = 72;上面演示了key_len一種情況的計算過程,後續不再進行逐一推演,知道基本組成和原理即可,更多情況大家可自行檢視。
範例二:
explain select * from t_user where id_no = '1002' and username = 'Tom2';
explain結果:
很顯然,依舊走了union_idx
索引,根據上面key_len的分析,大膽猜測,在使用索引時,不僅使用了id_no
列,還使用了username
列。
範例三:
explain select * from t_user where id_no = '1002' and age = 12;
explain結果:
走了union_idx
索引,但跟範例一一樣,只用到了id_no
列。
當然,還有三列都在查詢條件中的情況,就不再舉例了。上面都是走索引的正向例子,也就是滿足最左匹配原則
的例子,下面來看看,不滿足該原則的反向例子。
反向範例:
explain select * from t_user where username = 'Tom2' and age = 12;
explain結果:
此時,可以看到未走任何索引,也就是說索引失效了。
同樣的,下面只要沒出現最左條件的組合,索引也是失效的:
explain select * from t_user where age = 12; explain select * from t_user where username = 'Tom2';
那麼,第一種索引失效的場景就是:在聯合索引的場景下,查詢條件不滿足最左匹配原則。
在《阿里巴巴開發手冊》的ORM對映章節中有一條【強制】的規範:
【強制】在表查詢中,一律不要使用 * 作為查詢的欄位列表,需要哪些欄位必須明確寫明。 說明:1)增加查詢分析器解析成本。2)增減欄位容易與 resultMap 設定不一致。3)無用欄位增加網路 消耗,尤其是 text 型別的欄位。
雖然在規範手冊中沒有提到索引方面的問題,但禁止使用select *
語句可能會帶來的附帶好處就是:某些情況下可以走覆蓋索引
。
比如,在上面的聯合索引中,如果查詢條件是age或username,當使用了select *
,肯定是不會走索引的。
但如果希望根據username查詢出id_no、username、age這三個結果(均為索引欄位),明確查詢結果欄位,是可以走覆蓋索引
的:
explain select id_no, username, age from t_user where username = 'Tom2'; explain select id_no, username, age from t_user where age = 12;
explain結果:
無論查詢條件是username
還是age
,都走了索引,根據key_len可以看出使用了索引的所有列。
第二種索引失效場景:在聯合索引下,儘量使用明確的查詢列來趨向於走覆蓋索引;
這一條不走索引的情況屬於優化項,如果業務場景滿足,則進來促使SQL語句走索引。至於阿里巴巴開發手冊中的規範,只不過是兩者撞到一起了,規範本身並不是為這條索引規則而定的。
直接來看範例:
explain select * from t_user where id + 1 = 2 ;
explain結果:
可以看到,即便id列有索引,由於進行了計算處理,導致無法正常走索引。
針對這種情況,其實不單單是索引的問題,還會增加資料庫的計算負擔。就以上述SQL語句為例,資料庫需要全表掃描出所有的id欄位值,然後對其計算,計算之後再與引數值進行比較。如果每次執行都經歷上述步驟,效能損耗可想而知。
建議的使用方式是:先在記憶體中進行計算好預期的值,或者在SQL語句條件的右側進行引數值的計算。
針對上述範例的優化如下:
-- 記憶體計算,得知要查詢的id為1 explain select * from t_user where id = 1 ; -- 引數側計算 explain select * from t_user where id = 2 - 1 ;
第三種索引失效情況:索引列參與了運算,會導致全表掃描,索引失效。
範例:
explain select * from t_user where SUBSTR(id_no,1,3) = '100';
explain結果:
上述範例中,索引列使用了函數(SUBSTR,字串擷取),導致索引失效。
此時,索引失效的原因與第三種情況一樣,都是因為資料庫要先進行全表掃描,獲得資料之後再進行擷取、計算,導致索引索引失效。同時,還伴隨著效能問題。
範例中只列舉了SUBSTR函數,像CONCAT等類似的函數,也都會出現類似的情況。解決方案可參考第三種場景,可考慮先通過記憶體計算或其他方式減少資料庫來進行內容的處理。
第四種索引失效情況:索引列參與了函數處理,會導致全表掃描,索引失效。
範例:
explain select * from t_user where id_no like '%00%';
explain結果:
針對like
的使用非常頻繁,但使用不當往往會導致不走索引。常見的like使用方式有:
其中方式一和方式三,由於預留位置出現在首部,導致無法走索引。這種情況不做索引的原因很容易理解,索引本身就相當於目錄,從左到右逐個排序。而條件的左側使用了預留位置,導致無法按照正常的目錄進行匹配,導致索引失效就很正常了。
第五種索引失效情況:模糊查詢時(like語句),模糊匹配的預留位置位於條件的首部。
範例:
explain select * from t_user where id_no = 1002;
explain結果:
id_no
欄位型別為varchar,但在SQL語句中使用了int型別,導致全表掃描。
出現索引失效的原因是:varchar和int是兩個種不同的型別。
解決方案就是將引數1002
新增上單引號或雙引號。
第六種索引失效情況:引數型別與欄位型別不匹配,導致型別發生了隱式轉換,索引失效。
這種情況還有一個特例,如果欄位型別為int型別,而查詢條件新增了單引號或雙引號,則Mysql會引數轉化為int型別,雖然使用了單引號或雙引號:
explain select * from t_user where id = '2';
上述語句是依舊會走索引的。
OR是日常使用最多的操作關鍵字了,但使用不當,也會導致索引失效。
範例:
explain select * from t_user where id = 2 or username = 'Tom2';
explain結果:
看到上述執行結果是否是很驚奇啊,明明id欄位是有索引的,由於使用or
關鍵字,索引竟然失效了。
其實,換一個角度來想,如果單獨使用username
欄位作為條件很顯然是全表掃描,既然已經進行了全表掃描了,前面id
的條件再走一次索引反而是浪費了。所以,在使用or關鍵字時,切記兩個條件都要新增索引,否則會導致索引失效。
但如果or兩邊同時使用「>」和「<」,則索引也會失效:
explain select * from t_user where id > 1 or id < 80;
explain結果:
第七種索引失效情況:查詢條件使用or關鍵字,其中一個欄位沒有建立索引,則會導致整個查詢語句索引失效; or兩邊為「>」和「<」範圍查詢時,索引失效。
如果兩個列資料都有索引,但在查詢條件中對兩列資料進行了對比操作,則會導致索引失效。
這裡舉個不恰當的範例,比如age小於id這樣的兩列(真實場景可能是兩列同維度的資料比較,這裡遷就現有表結構):
explain select * from t_user where id > age;
explain結果:
這裡雖然id有索引,age也可以建立索引,但當兩列做比較時,索引還是會失效的。
第八種索引失效情況:兩列資料做比較,即便兩列都建立了索引,索引也會失效。
範例:
explain select * from t_user where id_no <> '1002';
explain結果:
當查詢條件為字串時,使用」<>「或」!=「作為條件查詢,有可能不走索引,但也不全是。
explain select * from t_user where create_time != '2022-02-27 09:56:42';
上述SQL中,由於「2022-02-27 09:56:42」是儲存過程在同一秒生成的,大量資料是這個時間。執行之後會發現,當查詢結果集佔比比較小時,會走索引,佔比比較大時不會走索引。此處與結果集與總體的佔比有關。
需要注意的是:上述語句如果是id
進行不等操作,則正常走索引。
explain select * from t_user where id != 2;
explain結果:
第九種索引失效情況:查詢條件使用不等進行比較時,需要慎重,普通索引會查詢結果集佔比較大時索引會失效。
範例:
explain select * from t_user where id_no is not null;
explain結果:
第十種索引失效情況:查詢條件使用is null時正常走索引,使用is not null時,不走索引。
在日常中使用比較多的範圍查詢有in、exists、not in、not exists、between and等。
explain select * from t_user where id in (2,3); explain select * from t_user where id_no in ('1001','1002'); explain select * from t_user u1 where exists (select 1 from t_user u2 where u2.id = 2 and u2.id = u1.id); explain select * from t_user where id_no between '1002' and '1003';
上述四種語句執行時都會正常走索引,具體的explain結果就不再展示。主要看不走索引的情況:
explain select * from t_user where id_no not in('1002' , '1003');
explain結果:
當使用not in
時,不走索引?把條件列換成主鍵試試:
explain select * from t_user where id not in (2,3);
explain結果:
如果是主鍵,則正常走索引。
第十一種索引失效情況:查詢條件使用not in時,如果是主鍵則走索引,如果是普通索引,則索引失效。
再來看看not exists
:
explain select * from t_user u1 where not exists (select 1 from t_user u2 where u2.id = 2 and u2.id = u1.id);
explain結果:
當查詢條件使用not exists
時,不走索引。
第十二種索引失效情況:查詢條件使用not exists時,索引失效。
範例:
explain select * from t_user order by id_no ;
explain結果:
其實這種情況的索引失效很容易理解,畢竟需要對全表資料進行排序處理。
那麼,新增刪limit關鍵字是否就走索引了呢?
explain select * from t_user order by id_no limit 10;
explain結果:
結果依舊不走索引。在網路上看到有說如果order by
條件滿足最左匹配則會正常走索引, 在當前8.0.18版本中並未出現。所以,在基於order by
和limit
進行使用時,要特別留意。是否走索引不僅涉及到資料庫版本,還要看Mysql優化器是如何處理的。
這裡還有一個特例,就是主鍵使用order by
時,可以正常走索引。
explain select * from t_user order by id desc;
explain結果:
可以看出針對主鍵,還是order by
可以正常走索引。
另外,筆者測試如下SQL語句:
explain select id from t_user order by age; explain select id , username from t_user order by age; explain select id_no from t_user order by id_no;
上述三條SQL語句都是走索引的,也就是說覆蓋索引的場景也是可以正常走索引的。
現在將id
和id_no
組合起來進行order by
:
explain select * from t_user order by id,id_no desc; explain select * from t_user order by id,id_no desc limit 10; explain select * from t_user order by id_no desc,username desc;
explain結果:
上述兩個SQL語句,都未走索引。
第十三種索引失效情況:當查詢條件涉及到order by、limit等條件時,是否走索引情況比較複雜,而且與Mysql版本有關,通常普通索引,如果未使用limit,則不會走索引。order by多個索引欄位時,可能不會走索引。其他情況,建議在使用時進行expain驗證。
此時,如果你還未執行最開始建立的儲存過程,建議你先執行一下儲存過程,然後執行如下SQL:
explain select * from t_user where create_time > '2023-02-24 09:04:23';
其中,時間是未來的時間,確保能夠查到資料。
explain結果:
可以看到,正常走索引。
隨後,我們將查詢條件的引數換個日期:
explain select * from t_user where create_time > '2022-02-27 09:04:23';
explain結果:
此時,進行了全表掃描。這也是最開始提到的奇怪的現象。
為什麼同樣的查詢語句,只是查詢的引數值不同,卻會出現一個走索引,一個不走索引的情況呢?
答案很簡單:上述索引失效是因為DBMS發現全表掃描比走索引效率更高,因此就放棄了走索引。
也就是說,當Mysql發現通過索引掃描的行記錄數超過全表的10%-30%時,優化器可能會放棄走索引,自動變成全表掃描。某些場景下即便強制SQL語句走索引,也同樣會失效。
類似的問題,在進行範圍查詢(比如>、< 、>=、<=、in等條件)時往往會出現上述情況,而上面提到的臨界值根據場景不同也會有所不同。
第十四種索引失效情況:當查詢條件為大於等於、in等範圍查詢時,根據查詢結果佔全表資料比例的不同,優化器有可能會放棄索引,進行全表掃描。
當然,還有其他一些是否走索引的規則,這與索引的型別是B-tree索引還是點陣圖索引也有關係,就不再詳細展開。
這裡要說的其他,可以總結為第十五種索引失效的情況:Mysql優化器的其他優化策略,比如優化器認為在某些情況下,全表掃描比走索引快,則它就會放棄索引。
針對這種情況,一般不用過多理會,當發現問題時再定點排查即可。
本篇文章為大家總結了15個常見的索引失效的場景,由於不同的Mysql版本,索引失效策略也有所不同。大多數索引失效情況都是明確的,有少部分索引失效會因Mysql的版本不同而有所不同。因此,建議收藏本文,當在實踐的過程中進行對照,如果沒辦法準確把握,則可直接執行explain進行驗證。
【相關推薦:】
以上就是你值得了解的15個Mysql索引失效場景(帶你快速避坑)的詳細內容,更多請關注TW511.COM其它相關文章!