各位好
最近在研究地端AI
有在vm中裝win10，配8g RAM+8CPU，沒有gpu
使用openclaw+ollama
ollama單獨運行都還可以
在回答問題時，cpu會爆滿，但是是暫時的，還能接受
但當openclaw去與ollama一起跑時
vm就會整個都當掉了，cpu整個衝到100%好久，降不下來
有試過llama2.7也有用過qwen2.5
都一樣會不行的
不知道是否還有其他合適的搭配組合
想先弄個可以連線到我區網資料庫的ai
來作資料庫、本機程式碼的大量分析
還請各位專家們給點意見，謝謝
已邀請的邦友 {{ invite_list.length }}/5
在不購買硬體設備的前提下，沒有有效的改善方案。
AI 模型依賴於 GPU 進行運算是由於 AI 模型中存在大量向量運算，需要利用 GPU 並行運算的特性加快運算速度。而 CPU 運算必然是同步的，哪怕沒有分配運算資源給 VM 也不會比 GPU 運算快。
Windows 系統在靜止狀態下，佔用資源也比 Linux 系統多不少。建議使用 Linux 系統，配搭容器化技術執行 Openclaw 及 Ollama。
iThome鐵人賽
看影片追技術