iT邦幫忙

第 11 屆 iT 邦幫忙鐵人賽

DAY 13
4

黑色好看版 - 傳送門


https://ithelp.ithome.com.tw/upload/images/20190926/20089358ZPcBZlbJcf.png

正文開始


前面兩篇文章中,咱們已經學習完索引的核心觀念以後,接下來咱們學學在使用時有那些的優質的方法與注意事項。

本篇文章分為以下幾個章節 :

  • 索引的重要小觀念
  • 索引的設計流程
  • 索引的使用注意事項
  • SQL 地雷區

索引的重要小觀念


觀念 1 : 不是索引越多越好

索引不是聖杯,它是雙刃刀,用的好上天堂,用不好下地獄。基本上資料庫的索引幾乎可以影響一個系統的 50% 以上的性能。

索引可以加快查詢速度,但注意它是以空間換取時間。

基本上它使用的資源如下 :

  • 每個索引都會建立一顆 b+ 樹。
  • 每次新增、更新資料時都會改變 b+ 樹。

所以當你索引越多時,你所需要的記憶體與維護索引的 cpu 運算就需要越多。

觀念 2. 懂的使用 Explain 來分析你的 SQL 索引性能解析

explain 這個指令可以讓你知道你下的 sql 語句是否有命中索引。

EXPLAIN SELECT * FROM user_no WHERE name = 'mark';

=====================================================

          id: 1
  select_type: SIMPLE
        table: user
   partitions: NULL
         type: const
possible_keys: PRIMARY
          key: PRIMARY
      key_len: 8
          ref: const
         rows: 1
     filtered: 100.00
        Extra: NULL
1 row in set, 1 warning (0.00 sec)

如上範例的 type 與 key 這兩個欄位,它有很明確的說明使用到 pk,也就是直接使用 clustered Index 索引樹來找資料。

詳細的欄位說明建議看以下兩篇,我覺得它已經說明的很清楚了,這裡你只要知道,explain 可以幫助你解析 sql 的性能,然後你根據結果,來進行你的索引或 sql 改善。

觀念 3. 索引不是建了就會使用

在 mysql 的世界 ( 其中資料庫我不確定 ),不是建了索引,且下的 query 正常就會一定會使用。

例如咱們有以下的索引

table : user
field: name, sex
index: {sex}

然後你執行下面的 sql :

SELECT * FROM user WHERE sex = 0 ( 0 代表女生 )

那這時會不會用索引呢 ?

答案是不一定,如果大部份的值都是女生,那 mysql 會用全掃,如果大部份值為男生,那 mysql 會用索引。

索引的設計流程


Step 1. 先根據需求,來判斷可能需要建索引的欄位

首先第一件事情就是定義需求或是預測,來決定那些欄位『 可能 』需要建立索引,等有候選欄位後在進行下一個步驟。

找出那些欄位較常需要拿來 query

Step 2. 看看候選欄位的基數大小

基數就是指這個欄位的值的可能性。

像假設某個欄位是存性別,也就是說只有『 男 』與『 女 』,那就代表這個欄位基數很小,這時就不建議建立索引。

為什麼呢 ?

因為如果建了,mysql 也不太會使用。你想想,一個欄位只有男與女兩種,那這時你要找女的,你覺得全掃一個一個找比較快,還是先用索引找出所有女的 pk,然後再去 clustered Index 抓資料呢 ?

可以看看下圖 1 所示,很明顯用全掃反而會比較快,所以這時 mysql 會直接選用全掃,所以你建立的索引會完全用不到。

https://ithelp.ithome.com.tw/upload/images/20190928/20089358OKVtAMi6O9.png
圖 1 : 全掃與索引在基數小時的比較圖

備註:
在系統建立開始預測預期基數事實上不一定很準備,除非是一些很明顯用意的欄位,例如性別這種,不然大部份的情況預測可能都會有誤差,因此這裡建議在一定的固定時間,來分析一下資料庫裡的索引資料,計算一些實際上的基數,來決定要不要補索引,或是移除索引。

咱們通常可以使用以下指令,來在已運行的資料庫中,來看看某個欄位的基數大概是多大 :

SELECT COUNT(DISTINCT {field}/COUNT(*))

假設咱們有 1000 筆資料,然後這個欄位是性別欄位,那它的數字應該為 :

2/1000 = 0.002

這個數值越接近 1,代表越有建立索引的價值。

Step 3. 決定使用的索引類型

基本上就是以下三種選擇 :

  • 一般索引(覆蓋索引) : 在一些常用單獨 query,如果常常需要與其它欄位一起查詢,可考慮建連合索引。
  • 連合索引 : 常常需要與其它欄位一起查詢,適合建立。但是要注意先後順序,基本最常查詢的與基數高的適合放最左邊。
  • 前綴索引 : 這種大致上用在如果要針對某段文字進行前綴搜尋的情況。
  • 唯一索引 : 這種適合在此欄位放貨物編號或啥這種編號的,它可以順到幫你檢查是不是唯一。

索引的使用注意事項


注意事項 1 : 連合索引的欄位順序

假設咱們有一個連合索引如下,由三個欄位 a、b、c 組合而成,而事實上在使用時,咱們可以將它想成有下以三種組合,當然這不代表他有存放三顆樹。

{a, b, c}
=
{a}
{a,b}
{a,b,c}

然後根據三序的組合,使用上有個準則。

有用到最左邊的欄位的才能使用連合索引

以上面連合索引範例為例,下面為使用的 sql 是否會用到索引的情境。

SELECT * FROM Table WHERE a = ? ( good 索引 )
SELECT * FROM Table WHERE a = ? AND b = ? ( good 索引 )
SELECT * FROM Table WHERE b = ? AND a = ? ( good 索引 )


SELECT * FROM Table WHERE b = ? ( bad 全掃 )
SELECT * FROM Table WHERE c = ? ( bad 全掃 )
SELECT * FROM Table WHERE b = ? AND c = ? ( bad 全掃 )

注意事項 2 : 儘可能使用索引的排序

首先有個重點要記得,如下圖 2 使用『 年齡 』所建立的索引 :

索引本身就是有排序的

https://ithelp.ithome.com.tw/upload/images/20190928/200893585Kfk3yVuqY.png
圖 2 : 以年齡建立的索引

這也代表如果要進行排序,儘可能的直接使用它,而不要讓資料庫另外開空間,來排序它。

索引欄位: { age }

SELECT * FROM user WHERE age <= 30 ORDER BY age; ( good 索引 )

SELECT * FROM user WHERE age <= 30 ORDER BY name; ( bad using filesort )

其中上述範例中 bad 的 filesort 就是代表 mysql 需要另外使用記憶體來排序,這可以在 explain 時看到。

那連合索引呢 ?

它也有排序。

連合索引是以最左邊的欄位排序

所以假設你有一個索引為 :

{ age, name }

那它預設就會以 age 來排序,如下圖 3 所示。

https://ithelp.ithome.com.tw/upload/images/20190928/200893588gbWXljjJD.png
圖 3 : 連合索引排序

注意事項 3 : 有時太多索引,反而會讓優化器混亂

簡單的說,你有以下三欄位,a、b、c 然後請不要想說讓性能好一點,來個所有組合的索引。這樣不但多化了不少空間建 b+ 樹,而且還會讓 mysql 優化器選錯索引。

a、b、c
a、c、c
b、c、a
b、a、c
c、a、b
c、b、a

這個問題,主要是從下面這篇文章得知,而且自已測試了以下,還真的是這樣,詳細的實際過程與結果,請連到下面的連結自已去看看。

这句简单的sql,如何加索引?颠覆了我多年的认知

SQL 地雷區


雷區 1 : 使用 != 、 <>、NOT 查詢會變全掃

SELECT * FROM user WHERE age != 20 ( bad 全掃 )
SELECT * FROM user WHERE age <> 20 ( bad 全掃 )
SELECT * FROM user WHERE age NOT IN(20) ( bad 全掃 )

雷區 2 : 用 like 且 % 在前面有索引也會變全掃

如果在 name 有建立索引,那有下面這種 sql 會變全掃。

SELECT * FROM user WHERE name like '%-Mark' ( bad 全掃 )

雷區 3 : 誤用 or 時會變全掃

索引欄位: {age}

SELECT * FROM user WHERE age = 18 OR name = 'C-Ian'; ( bad 全掃 )

索引欄位: {age},{name} 

SELECT * FROM user WHERE age = 18 OR name = 'C-Ian'; ( good 索引 )

但是如果是用 and 則反之。

索引欄位: {age}

SELECT * FROM user WHERE age = 18 AND name = 'C-Ian'; ( good 索引 )

雷區 4. 在 WHERE 欄位進行運算

索引欄位: {age}

SELECT * FROM user WHERE age/2 = 18; ( bad 全掃 )

SELECT * FROM user WHERE age = 18*2; ( good 索引 )

雷區 5 : 使用一些函數

下面簡單以 rand() 這方法來說明,當你使用它時,它就是一定跑全掃

SELECT * FROM test.user where age >= RAND(); ( bad 全掃 )

雷區 6 : SELECT * FROM

因為這樣可能會讓你所建立的『 覆蓋索引 』失效,導致要先至 secondary index 查找再去。
clustered Index 抓資料。

索引欄位: {name}

SELECT * FROM user; ( bad 會走 secondary index 再至 clustered Index )

SELECT name FROM user; ( good 只會走 secondary index )

雷區 7 : 使用 ORDER BY RAND()

當你確定資料量非常小的情況下使用還行,但是資料量大時,你資料庫一定會倒。如果真的要做請把資料拉到應用層在做,資料庫真的非常的忙。

SELECT * FROM test.user where age <= 18 ORDER BY RAND(); ( bad 會需要耗費空間排序 )

結論


本篇文章中咱們學習到了一些設計優質索引的方法與流程,並且也簡單的列出一些雷區,關於這邊的雷區,順到來提一下 『 ORM 』這個東西。

orm 基本上是一個將資料庫操作封裝成 model 化的技術,簡單的說你要查詢某樣東西那會如下操作 ,比較白話文就是你不需要自已寫 sql。

// SQL
SELECt * FROM user WHERE age = 18;

// ORM (以 laravel eloquent model 為範例)

$user = User::where('age', 18)->get();

當你使用了 orm 後就不在需要寫 sql,而是以 model 的角度來操作它,這樣的好處如下 :

  • 資料庫以 model 型式抽像出來,也就是說如果你換資料庫了,也不太需要怕 ( 不過實際上不太會發生,這個好處是虛名…… 我真的一直這樣覺得 )。
  • 資料庫版本升級導致某些 sql 不支援或啥時,你應用層基本算應該就是升級一下 ORM 套件就可處理。
  • 最重要的一點,避免人為的雷包。

而缺點就在於,你需要多耗費資源運算來處理。

不過我事實上是屬於佔在 orm 這一派的人,雖然這 30 天的文章是以高性能為主。

主要的原因有幾點 :

  • 台灣吃性能吃到連 orm 這塊都不敢用,好像還真沒啥看過……。
  • orm 吃一點性能沒錯,但是我通常相信會有性能貧頸的專案,通常不是因為用了 orm 的問題……。
  • 可以避免人為寫出雷 sql,我覺得可以減少不少的維護成本 ( Time is Money )。

如果以追求高性能系統來看,的確是以 sql 為主沒錯,但是高性能不代表是一個好的系統,好的系統是需要平衡的,而我們要學會平衡的其中一個條件也就是理解何謂高性能 ( 對這是繞圈子 )。

好的系統是需要平衡的

最後說一下,雖然哥追求高性能,但是我是個願意為了減少雷包風險,而犧牲點性能的人。因為維護成本真的高,尤其公司越大,維護成本越高,如果整間公司都是追求高性能而不管維護性,我只能保祐後人的身體健康。

參考資料



上一篇
30-12 之資料庫層的核心 - MySQL 的索引實現
下一篇
30-14 之資料庫層的優化 - 表的設計
系列文
30天之從 0 至 1 盡可能的建立一個好的系統 (性能基礎篇)30

1 則留言

1
石頭
iT邦研究生 2 級 ‧ 2019-12-27 14:27:30

Hi 馬克:

感謝你的分享,此系列文很詳細又很精采.

但我對於雷區 2 : 用 like 有索引也會變全掃這個部分我認為是這樣.

下面這個like寫法的確不會跑索引

SELECT name FROM user WHERE name like '%-Mark' ( bad 全掃 )

但如果是寫成下面這個寫法%在後面且name有建立索引就會跑了.

SELECT name FROM user WHERE name like '-Mark%'

所以我個人建議可以寫成

like%在前面就算有索引也會變全掃

/images/emoticon/emoticon41.gif

嗯我改一下 ~ 我這樣寫的確會讓人誤會以為只要使用 % 就會全掃 ~ 感謝你 ~

我要留言

立即登入留言