之前寫很多程式 網站 CLI 後端等
我都會用AI幫助我 但是AI常常會編造API endpoint, request body等
或是改A功能就把B功能省略了
所以我自己做了一個AI: CodeXor
希望他可以不要編造 討好使用者和生成真正可以跑得程式碼
但是光靠SYSTEM PROMPT做不到 要改template (https://ollama.com/NeuralNexusLab/CodeXor:14b/blobs/2f705b821bf4)
但我就是不會寫 有沒有大佬可以傳授一下?
可以參考 Llama4 編寫 System Prompt 的方法。
重點是定義模型的角色和工作內容,對模糊的行為給予明確指引和限制,引導模型遵循既定的工作流程和格式產生回應。
同時要考慮到 AI 模型的行為具有不確定性,不一定能夠完全遵守 System Prompt 的內容。其中可能受限於 Context Window 大小,以至於大量對話內容會使 System Prompt 內容丟失。而其中一種處理方法,是每次提問都自動加入 System Prompt,使 System Prompt 內容不會隨著 Context 增加而丟失。