很快地我們 Hugging Face 的旅程來到了最後一個任務:問答任務啦!Question answering 一直是自然語言處理中很困難的部份。最常使用的是...
Chatbot integration- 多功能 chatbot 就此誕生! 終於到了這一步,要把所有功能整合在一起了。前面雖然很痛苦,但在我看來最痛苦的還是這...
Azure machine learning: set environment- 準備一個大家都能用的環境 之前,試著在workspace執行print(&qu...
昨天我們用 Hugging Face 做了QA ,但是大家想必發現了很麻煩的一件事情:每次都要把 context 送進去才行。這真的很麻煩,而且處理 conte...
Azure machine learning: workspace and compute group- 從零開始 之前因為工作的關係,曾經在 Google C...
摘要(summarization)也是自然語言處理中很常見的任務之一,今天我們就來看看 Hugging Face 如何幫我們幫我們做摘要吧! Encoder-D...
Azure machine learning: "Hello Azure" experiment- 試一下最簡單的實驗 雖然上一篇文章有提到...
Retrieval-Augmented Generation (RAG) 是一種結合了檢索技術和生成技術的強大方法,旨在提高大型語言模型(LLM)的回答準確性,...
Quantization 是目前優化模型效能很常見的手法,簡單來說就是減少浮點數的精度範圍,使得模型更快更小,而我們可以透過 Optimum 很容易辦到這件事情...
這幾天玩下來,大家應該都有發現到一個問題,就是 Transformer 的效能不是太好,尤其你要在大吞吐量下運作,想必是非常的耗費運算資源。更不用說在不久的將來...
DAY28 用 hyperdrive 來微調超參數 AI 工程師一般又被戲稱為調參數工程師,我們要不斷的調整超參數,以求得最佳解。透過 Azure Machin...
DAY03 建立 Datastore 和 Dataset (上) 我們都知道做 AI 最重要的就是 data,沒有 data 就很難訓練模型,也很難解決商業應用...
DAY26 用 Azure Machine Learning SDK 來做 Pipeline 在 Azure Machine Learning 中,Pipeli...
DAY27 用 Azure Machine Learning SDK 來做 AutoML 之前我們用 AML 的介面來做 AutoML,現在我們就來用 SDK...
Azure Machine Learning 是什麼,為什麼我們該使用它? Azure Machine Learning(下稱AML)是 Azure 上的機器學...
DAY06 開始用 Notebook 在 Azure Machine Learing 上寫程式 我們建立好了自己的 dataset,也建立好了運算資源,今天我們...
DAY05 在 Azure Machine Learning 上建立運算資源 前幾天我們已經建立好了自己的 dataset 了,今天就要開始在 Azure Ma...
DAY25 用 Azure Machine Learning SDK 註冊模型與部署 之前提過在 Azure Machine Learning 裡面,提供了模型...
DAY04 建立 Datastore 和 Dataset (下) 今天我們就要把昨天建立好的 data 匯入成 Datastore 了。 還記得 Datasto...
今天我們要開始建 Azure Machine Learning(下稱AML)的 workspace 了。這是使用 AML 開發的第一步,建議大家可以使用免費額度...
DAY30 淺談 Azure Machine Learning 的 MLOps 做法 終於來到最後一天,我們學完了整套 Azure Machine Learni...
DAY23 Experiment, Run, MLflow 今天開始的幾天內,會進入 Azure Machine Learning(下稱 AML) SDK 比較...
DAY08 部署用 Designer 做好的 Pipeline 到 Web API 昨天我們用 Designer 做好了一個 Pipeline,並且訓練完成了一...
今天我們來補充自然語言處理中的一個很重要的概念:Named Entity Recognition(NER)。 一般翻譯為命名實體辨識、命名實體識別,或也有人翻成...
本次建立的CD pipeline中,會有兩個部分:(1)模型自動部署到測試環境(staging area) (上篇文章)(2)模型自動部署到正式環境(produ...
DAY07 開始用 Designer 在 Azure Machine Learning 做 AI 我們建立好了自己的 dataset,也建立好了運算資源,今天我...
今天我們終於要來做 RAG 了。我們很快就會看到其實在客服性質裡的場景,RAG 的效果會比 Fine Tune 好上很多。 我們接著來寫程式吧! 導入必要的套...
DAY16 實戰 Azure Machine Learning RBAC 我們今天就來實戰 RBAC 吧!還記得前幾天我們大篇幅講了 Azure Machine...
DAY24 Azure Machine Learning SDK 的 ScriptRunConfig 我們在訓練模型的過程中,常常會寫好訓練用的 script,...
DAY11 部署 Automated ML 昨天體驗到 Automated ML 的威力了,它可以自動地幫我們跑一大堆模型,找出最好的解法,省下一大堆時間,真的...