iT邦幫忙

2022 iThome 鐵人賽

DAY 24
0
自我挑戰組

30 天快快樂樂學 Rust 系列 第 24

來用 Rust 建立一個伺服器吧!Part III

  • 分享至 

  • xImage
  •  

在開始建立多執行緒伺服器之前,我們先來模擬一下單一執行緒伺服器會遇到的問題。

模擬請求問題

直接上 code 吧!

use std::thread; // 引入 thread 模組
use std::time::Duration; // 引入 Duration 模組

// 省略...
fn handle_connection(mut stream: TcpStream) {
    // 省略...
    let delay = b"GET /delay HTTP/1.1\r\n";

    let (status_line, path) = if buffer.starts_with(get) {
        ("HTTP/1.1 200 OK", Path::new("./src/HTML/hello.html"))
    } else if buffer.starts_with(delay) {
        thread::sleep(Duration::from_secs(10)); // 這裡讓執行緒睡 10 秒
        ("HTTP/1.1 200 OK", Path::new("./src/HTML/delay.html")) // 這裡我們要新增一個 HTML 檔案來顯示延遲的內容
    } else {
        ("HTTP/1.1 404 NOT FOUND", Path::new("./src/HTML/404.html"))
    };
    // 省略...
}

這邊我們新增了一個 /delay 的路徑,當我們輸入 http://127.0.0.1:3000/delay 時,會延遲個 10 秒,然後回傳延遲的內容。
而在這一頁重整的話,也一樣會發現我們的網頁會一直在等待,直到 10 秒後才會回傳內容。

然後我們另外開一個分頁,這裡我們輸入 http://127.0.0.1:3000/,然後會正常無延遲顯示 hello.html 的內容。
這時候我們來做一個有趣的事情,我們在 /delay 的分頁重整,然後在 / 的分頁重整,我們會發現 / 的分頁也會等待 10 秒,然後才會回傳內容。

這就是我們要解決的問題,我們的伺服器只有一個執行緒,所以當有一個請求進來時,其他的請求都會等待,直到這個請求處理完畢。

建立多執行緒伺服器

使用 thread::spawn

這邊我們可以先使用 thread::spawn 來建立多執行緒,讓我們的伺服器可以同時處理多個請求。

// 省略...
use std::thread; // 引入 thread 模組

fn main() {
    let listener = TcpListener::bind(format!("127.0.0.1:{}", PORT)).unwrap();

    for stream in listener.incoming() {
        let stream = stream.unwrap();

        thread::spawn(|| handle_connection(stream)); // 這邊我們使用 thread::spawn 來建立多執行緒
    }
}

// 省略...

這裡的作法是,因為我們的 HTTP 請求都寫在 handle_connection 這個函式裡面,所以我們可以直接將 handle_connection 這個函式傳入 thread::spawn 來建立多執行緒。這樣每次建立一個新的 TCP 連線時,我們就會建立一個新的執行緒來處理這個請求。

然後我們來測試一下剛剛的情況,現在一樣開兩個分頁,這時候等待 10 秒結束 /delay 的分頁一樣會等待 10 秒才 loading 完畢,但是 / 的分頁不會等待,因為我們的伺服器已經可以同時處理多個請求了。

不過雖然現在的作法可行,但是由於每次建立一個新的 TCP 連線時,我們就會建立一個新的執行緒來處理這個請求,所以如果有大量的請求進來,例如 DDOS 攻擊我們的伺服器,這樣就會瞬間建立大量的執行緒,會造成效能上的問題。

而解決的方法有很多種,這邊我們選擇使用執行緒池(thread pool)的方式來解決。

但在開始之前,我們先來看一下執行緒池的概念。

什麼是執行緒池?

簡單說明一下,執行緒池是執行緒的一種執行模式,執行緒池的概念就是我們先建立一個執行緒池,然後把固定數量的執行緒放進去。當有請求進來時,我們就從執行緒池中取出一個執行緒來處理請求,這時候其他的執行緒也可以處理其他的請求,而當執行緒請求處理完畢後,執行緒會回到執行緒池中等待新的請求。

執行緒池的好處就是我們可以讓多個執行緒同時處理請求,而不會因為單一執行緒的問題而造成等待,並且可以控制執行緒的數量,避免大量的執行緒造成效能上的問題。

那麼了解了執行緒池的概念後,我們就可以來實際操作藉由執行緒池來建立多執行緒的伺服器了。

實作

首先我們可以先在 src 的目錄下新增一個 lib.rs 的檔案,接著來寫執行緒池的程式碼:

// src/lib.rs
pub struct ThreadPool;

impl ThreadPool {
    pub fn new(size: usize) -> ThreadPool {
        assert!(size > 0);

        ThreadPool
    }

    pub fn execute<F>(&self, f: F)
    where
        F: FnOnce() + Send + 'static,
    {
    }
}

這邊我們先建立一個 ThreadPool 的結構,然後在 ThreadPool 的結構中實作一個 new 方法,這個方法會接收一個 usize 的參數,代表我們要建立幾個執行緒,然後在 new 方法中我們會先使用 assert! 來確認我們傳入的參數是否大於 0,如果不是的話就會 panic 掉,然後我們會回傳一個 ThreadPool 的結構。

接著我們想要在 ThreadPool 的結構中要有一個類似 thread::spawn 的方法,可以從參數傳入要在新執行緒開啟的閉包,他的文件是這樣:

pub fn spawn<F, T>(f: F) -> JoinHandle<T>
    where
        F: FnOnce() -> T,
        F: Send + 'static,
        T: Send + 'static,

所以我們在 ThreadPool 的結構中實作一個 execute 方法,這個方法會接收一個泛型 F,這個泛型 F 會是一個閉包,而這個閉包的型別會是 FnOnce(),也就是說這個閉包不會接收任何參數,也不會回傳任何值,而且這個閉包只會執行一次。而這個閉包的型別也會是 Send,也就是說這個閉包可以在多執行緒中安全的傳遞,而且這個閉包的型別也會是 'static,也就是說這個閉包的生命週期會是整個程式的生命週期。

今天先做到這邊,我們明天再繼續接著做。

本文同步發表於我的技術部落格,歡迎大家有空去參觀。


上一篇
來用 Rust 建立一個伺服器吧!Part II
下一篇
來用 Rust 建立一個伺服器吧!Part IV
系列文
30 天快快樂樂學 Rust 30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言