.

iT邦幫忙

0

大語言模型回答錯誤如何改善?

  • 分享至 

  • xImage

(A)本地部屬
(1)硬體
CPU : i7-14700k
RAM : 32GB
GPU : RTX 4060Ti 16GB

(2)軟體
	Ollama + Docker + AnythingLLM
		大語言模型 : qwen2.5:14b
		向量資料庫 : LanceDB (預設)
		向量嵌入器 : Ollama nomic-embed-text:latest
		JSON 格式知識庫 :
			[
				{
					"名稱": "PVC 管 1/2\"* 2.0 mm(D16)(E管)",
					"九宮格": "12",
					"次九宮格": "1",
					"工率": 0.008
				},
                ...
			]
		對話設定 > 提示詞 : "從知識庫查詢,以表格方式呈現以下清單的九宮格、
        次九宮格、工率 : "

(3)對話(Thread)
	(3.1)【正確】
	
		問:PVC1/2"* 2.0 mm(D16)(E管)
		
		答:
		
		名稱								九宮格	次九宮格	工率
		--------------------------------------------------------
		PVC 管 1/2"* 2.0 mm(D16)(E管)	12		1		0.008
	
	(3.2)【正確】
		
		問:
		PVC1/2"* 2.0 mm(D16)(E管)
		PVC 管 3/4"* 2.0 mm(D20)(E管)
		
		答:
		名稱								九宮格	次九宮格	工率
		--------------------------------------------------------
		PVC1/2"* 2.0 mm(D16)(E管)	12		1		0.008
		PVC 管 3/4"* 2.0 mm(D20)(E管)	12		1		0.01

	(3.3)【第3筆錯誤】
		
		問:
		PVC1/2"* 2.0 mm(D16)(E管)
		PVC 管 3/4"* 2.0 mm(D20)(E管)
		PVC1"* 2.0 mm(D28)(E管)
		
		答:
		名稱								九宮格	次九宮格	工率
        --------------------------------------------------------
		PVC 管 1/2"* 2.0 mm(D16)(E管)	12		1		0.008
		PVC3/4"* 2.0 mm(D20)(E管)	12		1		0.01
		PVC 管 1"* 2.0 mm(D28)(E管)		未提供	未提供	未提供

(B)雲端應用
(1)Google NotebookLM
(1.1)相同知識庫
(1.2)目前測試同時上傳 9 筆資料答案是正確,資料量超過某程度之後,
回答就會錯誤。

(C)煩請協助為何資料一多答案就會錯誤? 改善方案為何?

haward79 iT邦研究生 1 級 ‧ 2025-03-21 16:07:56 檢舉
這樣的應用
比起 AI,直接刻程式似乎更有效率且正確?
Arslucas iT邦新手 5 級 ‧ 2025-03-22 10:09:35 檢舉
感謝你
ruiang iT邦新手 5 級 ‧ 2025-03-24 13:05:27 檢舉
用RAG應該就能處理你的問題了
.

1 個回答

我要發表回答

立即登入回答