iT邦幫忙

0

DeepSeek本地部署如果沒有安裝顯卡用INTEL的內顯可以部署嗎?

  • 分享至 

  • xImage

因為看到教學都是講的是獨立顯卡.
因此想請問如果用INTEL的內顯可以部署嗎?
以下是Deepseek的回答

DeepSeek的本地化部署是否需要独立显卡取决于具体任务的计算需求。对于轻量级任务,Intel UHD 770 集成显卡可以胜任;但对于深度学习等计算密集型任务,独立显卡(如NVIDIA GPU)更为合适。

具体考虑因素:
任务类型:

轻量级任务:UHD 770 可以处理。

深度学习:建议使用独立显卡。

性能需求:

UHD 770 适合低计算需求的任务。

独立显卡(如NVIDIA)更适合高性能需求。

软件支持:

部分深度学习框架对NVIDIA GPU有优化(如CUDA)。

UHD 770 支持有限,可能影响性能。

内存:

集成显卡共享系统内存,可能限制性能。

独立显卡有专用显存,适合大数据处理。

总结:
轻量级任务:UHD 770 足够。

深度学习:建议使用独立显卡。

根据任务需求选择合适的硬件配置。
看更多先前的討論...收起先前的討論...
望空 iT邦新手 1 級 ‧ 2025-02-03 12:49:59 檢舉
理論上可以,但那個速度應該很感人
froce iT邦大師 1 級 ‧ 2025-02-03 13:05:30 檢舉
https://github.com/deepseek-ai/DeepSeek-V3?tab=readme-ov-file#61-inference-with-deepseek-infer-demo-example-only

用torch的可能可以用CPU跑,GPU應該是不能用。
但這方法只能在linux下。

剩下的都要AMD或NV的GPU。
我用NV GTX1650都佈署失敗,錯誤都是無法配置VRAM
(WSL+Ubuntu24.04 跟 WSL + Docker 都失敗,不知是不是WSL無法虛擬化VRAM)
froce iT邦大師 1 級 ‧ 2025-02-04 09:54:56 檢舉
https://docs.nvidia.com/cuda/wsl-user-guide/index.html#getting-started-with-cuda-on-wsl-2
但1650支援的CUDA版本可能只有特定的舊版本。
fdfanmo iT邦新手 4 級 ‧ 2025-02-04 16:37:18 檢舉
最近DeepSeek都常常服務器忙碌中..
所以才想說要本地化.
不過看來沒有獨立顯卡好像就算部屬成功也很吃力.
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

2 個回答

0
zivzhong
iT邦研究生 5 級 ‧ 2025-02-03 14:20:11

應該可,另外最新的 model 使用 CPU 範例如下:
https://www.youtube.com/watch?v=kfN1w_4Zg2E&ab_channel=FahdMirza

0
melmedarda
iT邦見習生 ‧ 2025-02-05 09:46:53

当 DeepSeek 在集成 GPU 而不是独立显卡上运行时,是否有任何优化或软件配置可用于提高其性能?
Chill Guy Clicker

我要發表回答

立即登入回答