機器學習(machine learing)
機器從現有資料中找出函式參數(parameter),意思是當給定多個資料輸入x與輸出y,找出參數a, b,y = f(x) = ax +b
在training過程(找出參數a, b)也稱為learning。
在testing過程(輸入資料,看模型輸出結果)也稱為inference(推論)。
換成機器學習的概念就是x為feature、y為label、a,b為model參數,以圖片辨識為例模型在使用資料學習的過程中找出參數,並在推論階段嘗試輸入圖片看模型的輸出結果。
autoregressive generation(自動迴歸模型)是機器學習的一種類型,他會根據先前依序的輸入來自動預測序列中的下一個組成,比如Chatgpt。
生成式人工智慧
可以用於圖片生成、文字生成、語音生成。
強化生成式AI的方法:
prompt: 給語言模型的輸入。
prompt engineering: 透過合適的輸入引導語言模型給出理想的輸出結果。
Reinforcement Learning(增強式學習):訓練模型輸出能提升LLM的prompt,prompt輸入至LLM並根據回饋來調整模型輸出的prompt。
In-context learning:提供額外範例給LLM,使LLM的回覆更精確。
將複雜的輸入任務進行拆解,讓AI更容易理解任務內容。