今天我們來實作第一個簡單LLMs應用
原本想再介紹一下prompt,但感覺一直講理論太boring了,
讓我們趕快開始寫code吧!
那接下來實作用的技術應該都是python跟js的next.js
首先安裝套件
$ pip install openai
這邊要先拿API KEY https://platform.openai.com/account/api-keys
進去後按create new secret key
接下來引用
import os
import openai
# 讀取你的API key
openai.api_key = os.getenv("OPENAI_API_KEY")
info = input("輸入你的個人資訊 : ")
chat_completion = openai.ChatCompletion.create(
model=MODEL,
messages=[
{"role": "system", "content": "你是一個很專業HR,讀過各種各樣不同的履歷,我需要你幫我整理資料生成履歷並以繁體中文回復."},
{"role": "user", "content": info },
],
temperature=0,
)
看一下chat_completion 這裡
model 就是你要用的model -> https://platform.openai.com/docs/models/continuous-model-upgrades
裡面有各種模型,像是gpt-3.5、gpt-4,我們接下來大部分都會用gpt-3.5來做示範
下面message的部分比較複雜
大致會有3個role
syetem : 定義機器人風格、像是回復的語氣、基本資訊等等
assistant : 機器人的回復
那為什麼我們需要先給他回復呢?
如果有用過chatgpt就知道,如果我們先給他一些資訊或是要求它回復格式,那它就會根據上下文回覆。
這邊也是一樣意思,我們給他幾個範例的答覆讓它了解我們接下來需要的東西。
越多越好的範例它也會給我們越好的回復
user : 使用者發送的訊息
temperature:溫度 可以設置0~1
0-0.3 越低跟你的條件越類似
0.3-0.7 平衡創造力跟設定條件
0.7-1 越高則有越豐富的創造力
像我們這種一個輸入一個輸出的,又稱Zero-Shot Prompting
今天介紹了最基本使用chatgpt api的串接法,接下來我們會繼續加入更多功能