隨著生成式 AI 技術的不斷發展，開發者和研究人員可以選擇多種方法來實現特定的任務需求。這些方法包括直接使用提示 (Prompt) 進行生成、使用檢索增強生成 (Retrieval-Augmented Generation, RAG) 技術進行知識檢索與生成，以及透過微調 (Fine-Tuning) 來解決特定任務。根據不同任務的需求，選擇合適的方法可以提升生成式 AI 的效率。

使用提示 (Prompt) 的場景

提示是生成式 AI 中最基本且最靈活的方法。透過提供一個明確的提示詞或句子，AI 模型可以生成相應的文字、程式碼、圖片或語音。這種方法非常適合需要快速生成內容且無需準確調整模型的場景。

更多提示方法可以參考 Day 12 生成式 AI 溝通技巧

使用提示的典型任務

• 創意寫作：生成文章、詩歌、故事或文案。
• 對話系統：根據用戶輸入生成自然的對話回應。
• 程式碼生成：根據片段程式碼生成完整的程式。

優點

• 快速實現：無需額外的資料或模型調整，直接使用已有的預訓練模型 (Pre-trained Model) 即可。
• 靈活性高：適合多種應用場景，易於調整和測試不同的提示詞。

限制

• 準確性有限：對於需要高度專業知識或準確性的任務，提示生成的內容可能不夠準確。
• 可控性較低：難以對生成過程進行細微的控制。

使用檢索增強生成 (Retrieval-Augmented Generation, RAG)

檢索增強生成結合了生成式 AI 和資訊檢索技術，通過檢索相關知識來增強生成過程。這種方法特別適合需要依據最新的知識或專業資料的任務。檢索增強生成模型在生成內容之前，會先從資料庫或網路中檢索相關資訊，然後基於這些資訊生成最後的結果。

使用檢索增強生成的典型任務

• 專業領域回答：如醫療、法律等領域的問答系統，依據最新的研究或法規。
• 即時資訊生成：生成包含最新資料或時事的報告、文章或建議。
• 長篇文章生成：結合外部文件或資料進行深入分析和生成。

優點

• 準確性高：通過檢索相關知識來源來增強生成內容的準確性和可靠性。
• 應對性強：能夠動態更新知識庫，應對最新的資訊需求。

限制

• 複雜度較高：需要建立和維護一個知識檢索系統。
• 生成速度較慢：檢索和生成過程需要更多的計算資源和時間。

使用微調 (Fine-Tuning)

Fine-Tuning 是在已有的預訓練模型 (Pre-trained Model) 基礎上，使用特定任務的資料進行進一步的訓練，使模型能夠更好地解決該任務的需求。這種方法適合需要專業要求高和高準確的任務，如企業級應用或特定領域的生成任務。

使用 Fine-Tuning 的典型任務

• 企業專屬生成：如品牌文案、自動化報告生成等，需滿足企業特定風格和需求。
• 專業文獻生成：如醫療診斷報告、自動化合約生成等，需符合特定格式和專業要求。

優點

• 高準確：通過專門領域資料的訓練，使模型能夠生成高準確和專業的內容。
• 專業性強：模型微調後，可以很好地面對特定領域或應用的需求。

限制

• 資料需求大：需要大量的標註資料來進行有效的微調。
• 成本高：微調模型的過程可能需要高計算資源和較長時間。

參考

• Dr Rabi Prasad Padhy, Fine-Tuning vs. Prompting vs. RAG: Which to Pick for Your LLM, https://www.linkedin.com/pulse/fine-tuning-vs-prompting-rag-which-pick-your-llm-dr-rabi-prasad-722cc/
• 大數軟體, 打造企業AI大腦：如何利用微調、RAG與提示詞工程強化企業核心技術, https://www.largitdata.com/blog_detail/20240108
• MyScale, Prompt Engineering vs Fine-tuning vs RAG, https://medium.com/@myscale/prompt-engineering-vs-finetuning-vs-rag-cfae761c6d06