今天要說明LangChain的安裝和LLM的連接

主要使用python進行安裝

pip install langchain

接著連接LLM

• langChain支援的LLM有非常多
• 主要有以下幾種
• 
• 今天主要會講OpenAI、AzrureOpenAI、gemini

首先是OpenAI

我們主要會使用openAI 來進行，模型為gpt-4o

安裝

pip install -qU langchain-openai

• pip 指令當中-q -U 有不同含意

  • -q 或 --quiet：表示安靜模式，會減少輸出信息，只顯示安裝過程中的關鍵信息和錯誤信息。這對於不需要詳細輸出的情況下很有用。

  • -U 或 --upgrade：表示升級模式，如果已經安裝了指定的包，它會嘗試將其升級到最新版本。

串接

import os
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = "你的openAI API key"

model = ChatOpenAI(model="你的模型名稱")

簡單的呼叫

import os
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = "你的openAI API key"

model = ChatOpenAI(model="你的模型名稱")
text = model.invoke("hi!")

print(text)

content='Hello! How can I assist you today?' response_metadata={'token_usage': {'completion_tokens': 9, 'prompt_tokens': 9, 'total_tokens': 18}, 'model_name': 'gpt-4o-2024-05-13', 'system_fingerprint': 'fp_157b3831f5', 'finish_reason': 'stop', 'logprobs': None} id='run-26b50fc6-14ff-4175-b48d-116d830e658e-0' usage_metadata={'input_tokens': 9, 'output_tokens': 9, 'total_tokens': 18}

Azure Open AI

安裝

pip install -qU langchain-openai

串接

from langchain_openai import AzureChatOpenAI
import os

os.environ["AZURE_OPENAI_API_KEY"] = "你的azure openAI api key"

model = AzureChatOpenAI(
    azure_endpoint="你的endpoint",
    azure_deployment="你的模型名稱",
    openai_api_version="你的api版本",
)

Create Azure OpenAI 可以參考此篇
https://learn.microsoft.com/zh-tw/azure/ai-services/openai/how-to/create-resource?pivots=web-portal

端點和api key大約在這個位置

模型的話可以從側邊攔看到部屬的模型

openai_api_version的話可以參考文件說明
我之前主要使用"2024-05-01-preview"
https://learn.microsoft.com/zh-tw/azure/ai-services/openai/api-version-deprecation#latest-preview-api-releases

GCP Vertex AI

安裝

pip install -qU langchain-google-vertexai

串接

• 我們利用GCP上的服務帳戶金鑰來串接

import os
from langchain_google_vertexai import ChatVertexAI

os.environ["GOOGLE_API_KEY"] = "你的api key "
model = ChatVertexAI(model="你的模型名稱")

在GCP 搜尋 Vertex AI 之後
可以在多模態這裡看見可使用的model和地區

可選用的model和地區

至於 API key 的部分可以在GCP 搜尋API與服務 點選函式庫 搜尋 Vertex AI API

創建的憑證選用服務帳戶，之後給予此服務帳戶權限，接著在服務帳戶中生成金鑰即可以使用了!