MLOps 是值得持續投入的新興學門,如同 Day 01 談到的此系列目的,談如何從佈署機械學習至商業情境(ML in Production),並關注佈署之...
在決定要引入機器學習專案的時候,第一個要思考的問題就是,這個服務應該要從外面買?還是要自己建一個?(buy or build)。這個問題從管理層面、技術層面與商...
用於生產的機械學習系統,在 Day 28 介紹 TensorFlow Extended (TFX) 解決方案,是專門用於可擴充的高效能機器學習工作,包括建立模...
在媒體、娛樂和創意產業中,機器學習與人工智能的使用越來越多。不管是管理數位內容、提供創作者新的靈感等等,這些都會是在媒體產業應用的範疇。在這些應用領域當中,對於...
什麼是 TensorFlow Extended (TFX) TensorFlow Extended (TFX) 是端對端平台,可部署於用於生產環境中的機器學習...
近幾年,媒體產業當中,以及社群軟體的應用,使得影片、聲音和圖像這些不同形式的內容正飛速的增長。不管是在娛樂、教育和廣告,各產業正透過這些媒體與觀眾進行深度互動。...
To me, error analysis is the sweet spot for improvement. — Donald A. Norman 前言...
在網路情境常以 API 請求服務,用於生產的機械學習亦可用 REST API 形式提供服務。在Day 20、Day 21、Day 22 介紹部署在算力有限的終...
A chain is only as strong as its weakest link. ― Thomas Reid 前言 今天的開頭是一句英文俗諺,它...
模型公平性的思考 隨著 AI 對於各領域和社會的影響逐漸增加,建立公平且可包容所有人的系統至關重要,為達到負責任的 AI,重視公平性,實踐以人為本的設計初衷...
根據《哈佛商業評論》分享的一項報告數據,“低效率的合約管理流程會導致公司在特定交易中損失 5% 到 40% 的價值。”,也因此,更好的合約管理可以提高效率、生產...
Achieving low average tested error isn't good enough for a project. 前言 昨天談到大部分...
AI 黑箱作業已經被詬病許久,因為 AI 類神經網絡的複雜性不似機械學習的樹狀結構、線性結構容易理解中間判斷過程,但隨著可解釋 AI 技術的出現,理解模型可...
AI system = Code (Algorithm/Model) + Data TL;DR 建立 ML 系統時,要把 AI system = Code ...
當您用心呵護的機械學習終於實現,期待能滿足與提升使用者福祉,您應該有足夠的信心與能力對產品負責, AI 產品亦然。 延續系列文對您的機械學習產品生命週期的思考...
前言 昨天我們使用了 fastAPI 內建 client 的 UI 來與 API 互動,今天我們改為利用 Python 的 requests 函式庫編寫一個最簡...
模型分析 TFMA 介紹 過往我們關注模型的訓練結果,會追蹤該模型在每次 epochs 之後的 AUC 、 ACC、 loss 等指標變化,並且以視覺化繪圖...
線上模型的偏差漂移 Amazon SageMaker Clarify 偏差監控的功能可以幫助資料科學家和機器學習工程師定期監控偏差預測。這些報告可以在SageM...
前言 我們花了將近一周的時間來介紹部署深度學習模型背後的概念,我想大家應該很想知道究竟該怎麼實作,所以今天就來動動手吧。這部分的程式碼主要規劃為在本機端執行,所...
什麼是知識蒸餾 Knowledge Distillation 知識蒸餾 Knowledge Distillation 為模型壓縮技術,其中 student 模...
我們常常聽到,在一個ML專案當中,會需要做各種的資料監控。這些資料監控包含哪些呢? 開發流程在開發流程當中,不管是資料、程式碼、模型,都會需要透過版本控制監...
大家好,在開始之前先祝大家中秋節快樂~~ 監控 (Monitor) 最常見的監控方法為儀表板 (Dashboard),依照專案可選擇適當的監控指標,而監控指標的...
如果說可以讓模型縮小10倍,精度還維持水準,這是什麼巫術? 延續 Day 20 的模型優化作法,本次再結合剪枝技術做到更輕量的模型效果。 什麼是剪枝 Pru...
常見部署情況 根據需求不同,有不一樣的部署模式,常見的情況如下: 提供新的產品/功能:常用的設計模式為先從少量的預測開始驗證,再慢慢增加流量 (trafic)...
有一些模型像是邏輯回歸和決策樹,背後運作的原因相當簡單明瞭,容易解釋模型是如何得出其輸出的。但隨著更多特徵的添加或更複雜的機器學習模型的使用,可解釋性變得更加困...
當我們訓練模型需要部署在硬體較為受限的智慧型裝置、IOT設備,模型運算在吃緊的硬體資源中顯得笨重,此時可以採取模型優化策略改進。 量化 Quantizatio...
在algorithmia的 2021 年報告顯示,大多數組織在機器學習方面面臨一定程度的監管負擔,67% 的組織必須遵守多項法規。這些法規包含ISO, OCC,...
部署模型有兩個主要的挑戰,事實上這兩個挑戰隱含了機器學習產品生命週期裡的 "部署 (Deploy in production)" 與 &qu...
隨著 ML/DL 模型研究屢有突破,現今模型訓練成果已經相當具有水準,但如果需要藉由手動選擇最佳的模型確實較花時間,因此已經出現取多自動化機械學習 AutoM...
在前面的MLOps在金融產業:常見案例與工作流程文章當中,曾經提到,在金融業當中的MLOps可帶來的規範文件、常見工作流程。 今天將針對提供安全的機器學習環境來...