iT邦幫忙

2025 iThome 鐵人賽

DAY 6
0
生成式 AI

我的 AI 學習之路:30天 Gemma 與 Gemini系列 第 6

我的 AI 學習之路:第6天 Gemma 與 Gemini - Gemma/Ollama/Windows

  • 分享至 

  • xImage
  •  

使用 Ollama - 最簡單,推薦初學者

在Windows上如何安裝 Ollama 來執行 Gemma3 4b 的模型和效果如何
環境:
電腦:ASUS ROG GA403WM
顯卡: 5060 8G
模型:Gemma3 4b 

Windows 安裝Ollama

先到 https://ollama.com/ 官網

https://ithelp.ithome.com.tw/upload/images/20250907/20121643gICz9IaQkH.png

  • 選Windows
    https://ithelp.ithome.com.tw/upload/images/20250907/20121643XBJR6qXB2e.png

安裝Ollama
https://ithelp.ithome.com.tw/upload/images/20250907/20121643NMD2m45WgJ.png

在終端機執行下列指令來執行 Gemma3 4b

    ollama run gemma3

執行成果

https://ithelp.ithome.com.tw/upload/images/20250907/20121643FZ0UjCVgLd.png

問題: >>> gemma 家族 用繁體中文
回覆:

好的,以下是 Gemma 家族成員的繁體中文名稱:

*   **Gemma Pro:** Gemma 專業版
*   **Gemma 2:** Gemma 2
*   **Gemma 3:** Gemma 3 (目前仍在開發中,尚未正式發布)

**簡要說明:**

*   **Gemma Pro** 是 Gemma 家族最先進的模型,提供更強大的性能和功能。
*   **Gemma 2** 是前一代的模型,仍然是一種強大的語言模型。
*   **Gemma 3** 是 Google 預計推出的下一代模型,有望帶來更大幅度的進步。

希望這些資訊對您有幫助!您還有其他問題想問嗎?

耗費效能

total duration:       4.0674697s
load duration:        1.6132275s
prompt eval count:    17 token(s)
prompt eval duration: 233.9231ms
prompt eval rate:     72.67 tokens/s
eval count:           158 token(s)
eval duration:        2.2187772s
eval rate:            71.21 tokens/s

總結

根據測試的數據,結論非常明確:Windows 電腦在執行 Gemma 3 4B 模型時,速度遠遠快於 Mac。

讓我們直接比較一下關鍵數據:

效能指標	Mac	Windows	領先者
總耗時	35.42 秒	4.07 秒	Windows (快 8.7 倍)
生成速度 (eval rate)	17.86 tokens/s	71.21 tokens/s	Windows (快 4 倍)
提示處理速度 (prompt eval rate)	7.82 tokens/s	72.67 tokens/s	Windows (快 9.3 倍)
模型載入時間	96.8 毫秒	1.61 秒	Mac

上一篇
我的 AI 學習之路:第5天 Gemma 與 Gemini - Gemma/Ollama/Jetson_Orin_Nano
系列文
我的 AI 學習之路:30天 Gemma 與 Gemini6
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言