HuggingFace 是一個更正式的模型下載平台，也可以讓我們尋找其他開發者 fine-tune 過的不同模型。

Model Hub

先進入到 Model Hub 的頁面，可以看到下方分別有 models, spaces, datasets 三種類別。

1. models: 可以下載開源模型如 LLama 3.1 8B、 Mistral 7B ，也有許多其他人 fine-tune 好的模型。
   • 也可以到篩選頁面中查找，如這是繁體中文 embedding model
2. spaces: 其他開發者使用模型架設好的 Demo App。
3. datasets: 用來訓練模型的資料集，等進入到 fine-tune 的時候會再來看這部份。

Model Card

以 meta-llama/Meta-Llama-3.1-8B-Instruct 為例，進入頁面後，在 model 名稱下方會有此模型的重點摘要，開發上會參考的主要是模型主要功能 (Text Generation)、支援語言、以及商用開模模型的 License 規範 (Llama 3.1 Community License Agreement)。

除了 HuggingFace 之外，Llama 3.1 也有在 GitHub 上提供更詳細的模型資訊、模型評比結果、各評比項目的說明、以及最重要的 License 商業授權說明。

License

如同開源項目的提供，在模型使用上也會依照 license 有不同的限制，以下整理常見的使用許可：

HuggingFace Repo

HuggingFace 同時也是一個供開發者存放模型和資料的平台，如 Llama 3.1 的模型相關資料都可以從這個 Repo中查看，包含使用資訊、config、model 和 tokenizer。

看完了模型資訊後，就可以進入正式下載流程。

Llama 3.1 8B 模型下載操作

透過 Llama CLI

這裡依照官方的下載流程：

1. 首先到官網上註冊並索取授權
2. 開啟 terminal，輸入 pip install llama-toolchain 下載操作套件
3. 執行 llama model list 查看所有模型資訊
   
   • 可以看到模型的檔案都是存在 HuggingFace 的 repo 當中
4. 執行 llama download --source meta --model-id Meta-Llama3.1-8B-Instruct 下載模型
   • [1 分鐘閱讀] Llama 3.1 模型，帶 Instruct 和不帶 Instruct 有什麼差異
5. 輸入取得的授權 URL，即可成功下載

透過 huggingface-hub

1. 同樣到 HuggingFace 上註冊並索取授權
2. 待得到授權後，先索取待會會使用到的 Access token
   
   • 點擊右上角個人大頭照
   • 點選 setting
   • 左側點擊 Access tokens
   • 點擊 Create new token
   • 可以從 Repositories permissions 中選取剛剛申請授權的 repo
   • 如果不想一直重新申請的話，也在 User permissions 設定允許所有讀寫
3. 開啟 terminal，輸入 git lfs install 確認已經安裝 git
4. 執行 git clone https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct 下載模型
5. 此時會跳出 git credentials 認證，輸入自己的帳號和 token 就可以了

ref.

• Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., ... & Gebru, T. (2019, January). Model cards for model reporting. In Proceedings of the conference on fairness, accountability, and transparency (pp. 220-229).
• hugging face－model card