前言 先前在 Day10 講過了針對計算資源的分散式架構Ray ⚙️,也在 Day26 提到多個server組成cluster的概念 🌐,在這些clusters...
前言 前面 Day7 有講過超級電腦(資料中心)和IaaS平台之間的關係 🛠️,在 Day9 提到了local LLM和雲端LLM服務的差異 ☁️⚖️,而 Da...
前言 前面的章節中,我們從基礎的LLM推理知識 🧠、簡單的硬體知識 💻,一路學習到一些著名的推理加速技術原理 ⚡️。 礙於技術篇即使加上一堆emoji 🎨還是很...
IaC(Infrastructure as Code)是近年來很夯的技術名詞之一,它的概念是為了更好的整合維運以及開發,舉例來說:在 IaC 出現之前,當 De...
若以硬體的角度來考量Infra設計,首先會以穩定為優先考量;一個好的infra架構設計原則,即是要避免單點故障風險。至於什麼是「單點故障」?簡單的說就是「當系統...
Youtube連結:https://bit.ly/2PrSspM Infrastructure as Code(IaC) 是一個強大的軟體設計理念,志在將...
【晶元光電】強力募集資訊專才!! 一、 招募條件:大學、碩士以上畢業,資工、資管、電機電子、數學等資訊專業人才。二、 應徵方式:請至晶電招募系統登入個人履歷,或...