iT邦幫忙

2024 iThome 鐵人賽

DAY 10
0
生成式 AI

生成式 AI 時代下的 Azure Machine Learning系列 第 10

Day10-寫程式串接 Serverless 的 Llama-3.1-8B-Instruct 之虛擬環境篇

  • 分享至 

  • xImage
  •  

Poetry 是一個用於 Python 的套件依賴管理工具。它旨在簡化並統一套件依賴的管理、虛擬環境配置以及專案打包的流程。

Poetry 使用一個 toml 檔 pyproject.toml 文件來管理專案配置和依賴,這符合PEP 518中的「Specifying Minimum Build System Requirements for Python Projects」所提倡的現代 Python 專案的依賴套件的管理方式。

在做 LLM 應用開發時,一定要用 Poetry 這類的依賴管理工具。因為 LLM 這個領域的套件版本的變動時實在是太快了。如果沒有透過這類的依賴管理工具的話,可能光是解套件版本的相依性,就花上很多時間去解,然後產品都還沒有開始開發……。

因此我特別寫了今天的文章,帶大家了解 Poetry 怎麼使用。

  1. 安裝 Poetry。

在 Linux, macOS, Windows (WSL) 中,都可以使用以下指令來安裝Poetry。但是需要注意的是,電腦上要有Python 3.8以上的環境才可以。
curl -sSL https://install.python-poetry.org | python3 -

Windows若是使用Powershell的話,可以使用下面的指令來安裝:
(Invoke-WebRequest -Uri https://install.python-poetry.org -UseBasicParsing).Content | py -

  1. 檢查是否安裝成功。

可以使用下面的指令來檢查是否安裝成功,如果有列出版本號碼,就是安裝成功了。

poetry --version

  1. 把虛擬環境的資料夾,放在專案資料夾裡。

在 Python 的專案開發裡,有一個傳統是把虛擬環境的資料夾放在專案資料夾裡面。一個專案就一個虛擬環境,是在 Python 裡很普遍的做法。我們可以使用下面指令來達成:

poetry config virtualenvs.in-project true

  1. 接著我們就來用 Poetry 建一個新專案。使用下面的指令。

poetry new aml

  1. 建立好新專案後,我們就可以看到 pyproject.toml 這個檔案了。如下圖所示,我們要記得把 Python 的版本給改成 3.11 以上。

生成式 AI 時代下的 Azure Machine Learning 教學圖文

6. 接著我們使用指令poetry add langchain langchain-community,就可以安裝 LangChain 的套件了。這時候,你會看到你的專案裡多出來了一個新的資料夾 .venv` ,這個就虛擬環境所在的資料夾了。

生成式 AI 時代下的 Azure Machine Learning 教學圖文

那麼明天我們開始來寫程式吧!


上一篇
Day09-寫程式串接 Serverless 的 Llama-3.1-8B-Instruct 之 LangChain 介紹篇
下一篇
Day11-寫程式串接 Serverless 的 Llama-3.1-8B-Instruct 之寫程式篇
系列文
生成式 AI 時代下的 Azure Machine Learning30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言