iT邦幫忙

自動化相關文章
共有 50 則文章
鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:22 為什麼需要資料管理工具?DagsHub 與 DVC 怎麼選?

為什麼需要資料管理工具 隨著開發過程持續推進,通常會產生大量版本的程式碼,並需要使用版本控制工具追蹤這些程式碼,以利後續維護。除了程式碼,訓練資料也需要進行版本...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:21 CNN 模型訓練 MLDM + MLDE

今天我們會使用 MLDM + MLDE 來進行貓狗圖片分類的卷積神經網路(Convolutional Neural Network,CNN)模型訓練,並進行以下...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:20 從前處理到模型訓練,都在版控環境中?

過去在 DL 模型的開發過程中,要追蹤大量的資料和實驗結果可能需要結合多項工具,形成較高的學習成本;針對這些問題,HPE 推出 MLDM、MLDE 作為解決方案...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:19 所以模型版本控制工具怎麼選?

這幾天的文章主要分享三個頗受好評的模型實驗管理工具,市面上還有很多類似的工具,這些工具各有特色與強項,團隊可視情況選擇好維護的工具。 這些工具的目的都是在幫助團...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:18 模型版本控制 - MLflow

相較於 Tensorboard 與 Weight&Biases,MLflow 更著重於「公司內部的多人專案」的實驗管理上,主要讓工程師自己建立屬於公司內...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:17 模型版本控制 - Weight&Biases

大致功能與 Tensorboard 相同,但是整合了更多的深度學習(Llamaindex、Langchain、HuggingFace…)與機器學習(Sciki...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:16 模型版本控制 - Tensorboard

Tensorboard 算是深度學習早期最著名的實驗管理工具,至今依然十分熱門,它主打幾個功能: 視覺化的方式呈現模型訓練的Loss曲線和評估指標 視覺化的方...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:15 建模前,要思考的事

我們知道在做模型建立、模型驗證的時候需要思考以下幾個問題: 多人協作如何紀錄分析每位協作者的實驗紀錄,如何從眾多的實驗紀錄中快速比較出預測效果最好的模型? 當...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:13 以 HPE MLDM 實作 MLOps 資料版本控制 - 1

今天的文章將接續昨天的內容,說明具體來說,如何透過 HPE MLDM 讓資料前處理工作自動化,以及使用內建的版控功能,管理大量資料與前處理程式。 實作 接著我們...

鐵人賽 AI/ ML & Data

技術 從「這次不會壞吧」到自動化的未來:12 為什麼我們需要資料版本控制?

為什麼我們需要資料版本控制? 在開發過程中,隨著時間的推移,團隊常常因為模型效能或其他考量,不斷更新訓練資料,最後累積出大量版本。想像一個情境:在增加一些訓練資...

鐵人賽 Python DAY 28

技術 [Day27] Python專案 - PowerBI複習&自動化&網頁自動登入 (PowerBI 、windwos工作排程、PyAutoGUI)

目標 昨天在power介紹完連結方式後今天稍微複習一下power bi的資料檢視跟關聯功能 自動化power bi的方法並且會帶入寫好的python丟到win...

技術 數位轉型第2步|資料複雜無法自動化?後勤自動化的核心方式

首先我們先想一下以下哪些屬於自動化的範疇? 設定鬧鐘在7點整時響起 在Excel內的B2輸入公式=if(A2<>"",A2+1...

鐵人賽 AI/ ML & Data DAY 10

技術 從「這次不會壞吧」到自動化的未來:11 為什麼我們需要資料版本控制?

在開發過程中,隨著時間的推移,團隊常常因為模型效能或其他考量,不斷更新訓練資料,最後累積出大量版本。想像一個情境:在增加一些訓練資料後,模型就訓練不起來了,這時...

鐵人賽 AI/ ML & Data DAY 10

技術 從「這次不會壞吧」到自動化的未來:10 MLOps 系統功能設計 - 部署篇

部署時會用到的功能設計 部署時的功能主要就是要將模型推論的功能建立成 API 讓使用者或其他服務可以調用,這個部分與一般的 API 開發基本相同,開發團隊可以使...

鐵人賽 AI/ ML & Data DAY 9

技術 從「這次不會壞吧」到自動化的未來:09 MLOps 系統功能設計 - 自動化篇

自動化時會用到的功能設計 在完成一個模型後,也可以選擇是否要加入自動化利用新資料定期更新的功能,如果當前的專案還不需要這項功能,想要直接將模型部署上線,那麼就可...

鐵人賽 AI/ ML & Data DAY 8

技術 從「這次不會壞吧」到自動化的未來:08 MLOps 系統功能設計 - 開發篇

在昨天的文章中,描述了機器學習開發專案的流程,大致可分成三個部分: 從資料處理到模型驗證的「開發」 將開發模型訓練做排程處理的「自動化」 將模型上線使用的「部...

鐵人賽 AI/ ML & Data DAY 7

技術 從「這次不會壞吧」到自動化的未來:07 套件的選擇

其實,選擇套件並不是一件困難的事,無非就是根據需求、經費等因素考量後,按圖索驥選出適合團隊的工具而已。以下將簡單列舉挑選特定套件的原因,讀者可以根據團隊需求自由...

鐵人賽 AI/ ML & Data DAY 6

技術 從「這次不會壞吧」到自動化的未來:06 MLOps 系統的基本功能需求

在設計 MLOps 系統時,主要會以開發團隊目前的機器學習專案開發流程為基礎,並以此設計系統。下圖是一般常見的模型開發流程,可以看到在取得原始資料後,會先做不同...

鐵人賽 AI/ ML & Data DAY 4

技術 從「這次不會壞吧」到自動化的未來:04 導入 MLOps 的兩種場景

以昨天討論的內容為例,我們可以讓每個流程都變成自動化。以下分成兩種場景來說明有哪些部分可以利用 MLOps 的工具讓流程更快速便捷,場景為實驗階段及佈署階段:...

鐵人賽 AI/ ML & Data DAY 3

技術 從「這次不會壞吧」到自動化的未來:03 機器學習(ML)開發流程介紹

如上圖所示,在選定一個適合以 AI 解決的題目後,我們會進行資料的前處理與模型開發。當模型完成開發後,則會進行驗證,如果模型通過驗收可上線的標準,就會進行佈署...

鐵人賽 AI/ ML & Data DAY 2

技術 從「這次不會壞吧」到自動化的未來:02 MLOps 定義

MLOps 是 ML (Machine Learning,機器學習) 加上 DevOps 的概念;DevOps 又是由 Development (開發) 加上...

鐵人賽 AI/ ML & Data DAY 1

技術 從「這次不會壞吧」到自動化的未來:01 緣起

隨著 AI 和機器學習技術的快速發展,企業面臨的挑戰不僅僅是開發出高效的模型,還包括如何快速、安全地將這些模型部署到生產環境中並持續監控和優化。這正是 MLOp...

鐵人賽 生成式 AI DAY 2

技術 《零基礎快速入門:GenAI 搭配 Google Apps Script 的工作自動化寶典》Chapter 1-1 自動化的關鍵心態

在成為工程師之前,我曾經是一位 HR 專員。在沒日沒夜的報表修練中,我鍛練出了一身專業的 Excel 能力,並延伸出了 VBA 與 Python 技能。而這些技...

鐵人賽 Security DAY 16
資安銷售 系列 第 16

技術 自動化的威

昨天早上自AM9:00,DDOS攻擊洪流開始湧進,半小時之間接了六條訊息...DDoS 攻擊是「分散式阻斷服務攻擊」 (Distributed Denial o...

技術 自動化工具大比拼 🛠️

讓您的工作更高效、更便利,自動化工具提供了多種方式來減少重複性任務的工時浪費,提升工作效率。 AutoHotkey:定製專屬操作 AutoHotkey 是一款強...

鐵人賽 Software Development DAY 20

技術 Day 20 - 自動化執行的作法分析、使用容器運作程式

前言 由於花了三分之二的內容寫如何透過 Python 和 Asana API 去產出投影片,接下來的內容會轉向說明如何使這串程式可以自動化執行 希望在每週一...

技術 幫你的對帳單/報價單/採購單PDF做自動化分析比對吧!

你跟我一樣有有時候太忙或剛好出國玩可能就會忘記檢查自己的email信箱導致沒看到信用卡帳單進而錯過繳費的情況嗎? 透過自動化的幫忙你可以不用再手動檢查信用卡帳單...

鐵人賽 Software Development DAY 29
QA工程師的美麗與哀愁 系列 第 29

技術 第二十八卷 - 自動化測試與人工智慧會不會取代QA工程師?

在職涯初期,剛開始學自動化測試跟各種測試框架的時候 曾經聽過一種對QA工程師職涯的說法是: 「你如果不做自動化,只做手動測試一定會慢慢被淘汰。」 所以那個時...