iT邦幫忙

0

[中文分析]LO-GDRL: Privacy-Preserving Online Task Allocation Based on Lyapunov Optimization

  • 分享至 

  • xImage
  •  

LO-GDRL:基於李雅普諾夫優化與圖基深度強化學習的隱私保護線上任務分配框架——行動群眾感知中的高效穩定解決方案

核心問題與動機

行動群眾感知(Mobile Crowdsensing, MCS)仰賴大量參與者(工作者)使用智慧裝置即時收集資料,廣泛應用於智慧城市、交通、環境與健康監測等領域。其中,線上任務分配是關鍵挑戰:系統必須在任務動態到達時即時決定分配,以最大化平台效益、任務完成率與資源利用,同時最小化成本與延遲。

核心問題

  • 該問題為 NP-hard,涉及高維度動態環境、任務與工作者間複雜依賴關係。
  • 傳統 DRL 方法使用固定維度特徵向量,難以捕捉全局依賴;GDRL 雖引入圖結構,但共享投影矩陣導致特徵模糊、模型效能不佳,且忽略系統穩定性(任務隨機到達易造成佇列積壓)。
  • 隱私洩露:直接公開工作者即時位置,易暴露敏感軌跡。
  • 整體挑戰:如何在動態、不確定環境中實現高效分配、系統長期穩定,並兼顧輕量級隱私保護?

動機:現有方法在模型效能、系統穩定性與隱私保護上存在明顯不足。論文旨在提出輕量級框架,結合李雅普諾夫優化(Lyapunov Optimization)確保長期穩定、圖基 DRL 處理複雜關係,以及差分隱私(Differential Privacy)保護位置資料,實現「隱私-效能」最佳權衡。

結果/成果

LO-GDRL 在兩個真實世界資料集的模擬 MCS 環境中進行廣泛實驗,證明其優越性:

  • 平台效益、任務覆蓋率:優於 SOTA 方法,提供更穩定且更高的長期累積回報。
  • 決策時間:總決策時間更低,展現輕量級優勢。
  • 任務佇列積壓:透過動態佇列管理顯著降低,確保系統穩定。
  • 隱私保護:整合 Laplace 噪聲的差分隱私,在合理隱私預算下,不僅保護位置,還作為隨機平滑劑幫助模型逃離局部最佳解,並具正則化效果防止過擬合。

關鍵技術貢獻

  1. Dual-branch Graph Attention Dueling Network (DG-DuelingNet):異質節點設計與差異化邊權重,使用兩個獨立圖注意力機制分別捕捉工作者與任務的特徵依賴,提升複雜關係建模能力。
  2. Soft-update DQN:提升動態環境適應性。
  3. Lyapunov-based 動態佇列機制:將長期穩定目標分解為各時槽短期決策,限制任務准入以優先降低佇列。
  4. 差分隱私整合:在圖建構與決策過程中注入噪聲,實現隱私保護同時優化學習。

實驗包含參數敏感度分析、消融研究,驗證各模組貢獻,並在不同規模與複雜度情境下均展現穩健性。

分析與洞見

多角度分析

  • 技術創新:將線上任務分配建模為圖約束最佳化問題與圖基 Markov Decision Process(MDP),突破傳統 DRL 的特徵表示瓶頸。DG-DuelingNet 的特徵解耦策略有效解決共享投影的模糊性;Lyapunov 優化提供理論保證,將隨機優化問題轉為可解的短期子問題,特別適合任務到達隨機的 MCS 場景。
  • 隱私與效能的協同:差分隱私不僅是保護機制,還扮演「正則化器」與「探索促進者」角色——噪聲平滑崎嶇的獎勵景觀,幫助代理逃離局部最佳。這是重要洞見:隱私保護不必然犧牲效能,在適當設計下甚至能提升學習效率。
  • 穩定性考量:傳統方法忽略長期佇列穩定,易在高負載時崩潰;LO-GDRL 的動態資源調度機制提供實際保障,適合真實動態環境。
  • 邊緣案例與限制
    • 隱私預算過低可能影響效能(需權衡)。
    • 計算開銷雖輕量,但在大規模 MCS(數萬工作者)下的可擴展性需進一步驗證。
    • 依賴真實資料集模擬,若真實部署中位置噪聲影響任務匹配精準度,需額外校正。
    • 圖建構的即時性在極高頻任務到達時可能成為瓶頸。

更廣泛意涵:此框架不僅適用 MCS,還可延伸至其他邊緣計算、車聯網或 IoT 任務分配情境,強調「穩定 + 隱私 + 圖學習」的混合方法在動態系統中的價值。相較純 DRL 或純優化方法,它提供更務實的線上解決方案,平衡理論保證與實作效率。

結論

LO-GDRL 成功整合李雅普諾夫優化、圖基深度強化學習與差分隱私,提出一個輕量、高效且隱私保護的線上任務分配框架,有效解決 MCS 中 NP-hard 問題的效能、穩定性與隱私挑戰。實驗結果證實其在多樣環境下的穩定優越表現,為行動群眾感知系統提供實用進展。

未來可朝向更大型規模部署、多目標優化(例如能源消耗)、或與其他先進技術(如聯邦學習)結合的方向延伸。此論文凸顯混合優化與學習方法在邊緣智慧系統中的潛力,值得研究者與實務者參考。

論文連結
https://www.sciencedirect.com/science/article/pii/S1389128626002276 (Computer Networks, 2026)
DOI: 10.1016/j.comnet.2026.112215


圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言