iT邦幫忙

2

【開源介紹】redis_fdw_rs:讓 PostgreSQL 直接查 Redis 的 FDW 擴充套件(Rust 編寫)

  • 分享至 

  • xImage
  •  

大家好,今天要和大家介紹我近期開發的一個開源專案 —— redis_fdw_rs,這是一個使用 Rust 語言與 pgrx 框架實作的 Redis Foreign Data Wrapper (FDW),讓你能夠在 PostgreSQL 中直接查詢 Redis 資料,就像操作一般的資料表一樣。

為什麼需要 Redis FDW?

Redis 是高效的快取資料庫,常被用於儲存 session、排行榜、事件流等資料。但當你想從 PostgreSQL 中同步存取 Redis 資料,就必須透過額外程式碼或 ETL 工具,相對麻煩。

redis_fdw_rs 就是為了解決這個痛點而生:透過 FDW 介面,讓 PostgreSQL 能用 SQL 查 Redis!


🚀 專案特色與支援功能

這個 FDW 專案目前已經支援以下功能,適合實際部署與使用:

  • 支援 Redis Cluster
  • WHERE 條件下推(Pushdown):減少資料搬移量,提升查詢效率
  • 連線池管理:避免反覆連線 Redis 的開銷
  • Stream 大量資料支援:批次查詢、分頁等場景皆可處理
  • 支援 PostgreSQL 14~17
  • Unit Test & Integration Test:專案有測試覆蓋,確保穩定性

使用範例(超簡單)

只需要幾行 SQL,就能連結 Redis 並開始查詢:

-- 建立 Redis 伺服器連線
CREATE SERVER redis_server
FOREIGN DATA WRAPPER redis_wrapper
OPTIONS (host_port '127.0.0.1:6379');

-- 宣告一個 Redis hash 的外部表格
CREATE FOREIGN TABLE user_profiles (
  field text,
  value text
)
SERVER redis_server
OPTIONS (table_type 'hash', table_key_prefix 'user:profiles');

-- 開始使用 SQL 操作 Redis!
INSERT INTO user_profiles VALUES ('name', 'John');
SELECT * FROM user_profiles WHERE field = 'email';

Redis Cluster 模式支援

redis_fdw_rs 也完全支援 Redis Cluster 架構。你只需指定多個節點的 host_port,即可享有以下好處:

Cluster 優勢

  • 自動故障轉移:節點失效時自動轉移到健康節點
  • 自動 sharding:資料分散在多節點,自動分片
  • 節點自動探索:只需指定一個節點,驅動程式會自動發現整個叢集
  • 高可用性:節點損壞仍可正常讀寫

範例設定:

-- 建立 cluster foreign server
CREATE SERVER redis_cluster_server 
FOREIGN DATA WRAPPER redis_wrapper
OPTIONS (
    host_port '127.0.0.1:7000,127.0.0.1:7001,127.0.0.1:7002',
    password 'your_redis_password'  -- 可選
);

-- 建立 cluster 對應的外部表格
CREATE FOREIGN TABLE user_sessions (
    field TEXT,
    value TEXT
)
SERVER redis_cluster_server
OPTIONS (
    database '0',
    table_type 'hash',
    table_key_prefix 'session:active'
);

-- 與單節點操作無異
INSERT INTO user_sessions VALUES ('user123', 'session_token_abc');
SELECT * FROM user_sessions WHERE field = 'user123';

範例結果

redis_fdw_rs=# INSERT INTO user_profiles (key, value) 
SELECT i, 'value_' || i
FROM generate_series(1,100000) i;
INSERT 0 100000
Time: 12911.183 ms (00:12.911)
redis_fdw_rs=# SELECT * FROM user_profiles where key = '5';
 key |  value  
-----+---------
 5   | value_5
(1 row)

Time: 15.380 ms
redis_fdw_rs=# SELECT * FROM user_profiles where key in ('10', '15', '20');
 key |  value   
-----+----------
 10  | value_10
 15  | value_15
 20  | value_20
(3 rows)

redis_fdw_rs=#  SELECT * FROM user_profiles where key like '555%';
  key  |    value    
-------+-------------
 55556 | value_55556
 55581 | value_55581
 55569 | value_55569
 55561 | value_55561
 55516 | value_55516
 55538 | value_55538
 55549 | value_55549
 55539 | value_55539
 55531 | value_55531
 55545 | value_55545
 55590 | value_55590
 55512 | value_55512
 55523 | value_55523
 55534 | value_55534
 55518 | value_55518
 55560 | value_55560
 55564 | value_55564
 55592 | value_55592
 55572 | value_55572
 55519 | value_55519
 55526 | value_55526
 5559  | value_5559
 55530 | value_55530
 55511 | value_55511
 55562 | value_55562
 55542 | value_55542
 55582 | value_55582
 55580 | value_55580
 55501 | value_55501
 55540 | value_55540
 55554 | value_55554
 55546 | value_55546
 55513 | value_55513
 55548 | value_55548
--More--

支援的 Redis 資料型態

目前支援以下 Redis 資料型別,並標示已實作的操作:

Redis Type SELECT INSERT UPDATE DELETE Status
Hash Partial (UPDATE not supported)
List Partial (UPDATE not supported)
Set Partial (UPDATE not supported)
ZSet Partial (UPDATE not supported)
String Partial (UPDATE not supported)
Stream Full (Large data set support with pagination)

可透過 table_typetable_key_prefix 指定資料類型與 key 前綴,也支援選擇 Redis 的 database(預設為 0)。


專案資源


結語:一起打造更強的資料存取能力!

這個專案仍持續演進中,如果你有 Redis / PostgreSQL 混合架構的需求,或是對 Rust、FDW 開發有興趣,非常歡迎你一起參與改進。

有任何回饋,歡迎透過 GitHub 討論,我會持續更新與優化這個實用的工具!


圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言