iT邦幫忙

2026 iThome 鐵人賽

DAY 22
0
Security

資安*保險─數位避險系列 第 22

Day 22:按需計算的 AI 帳單與美國模型限用是什麼?對中小企業主的意義為何?

  • 分享至 

  • xImage
  •  

Day 22:按需計算的 AI 帳單與美國模型限用是什麼?對中小企業主的意義為何?

講白了,AI有分成雲端和地端,中國、美國都致力於開發自己的雲端AI產品,美國開發ChatGPT、GEMINI、Claude;中國開發DeepSeek、千問、豆包。
而這些模型的Token 算力也是成本!地緣政治影響 AI 模型使用,最新最強大的美國模型和中國模型,都被限制只能在國境內使用。而台灣的資訊領域,一直都是跟著美國走,作業系統和office軟體用微軟,AI用ChatGPT等美國模型。錢大把大把的進到美國AI企業。
那台灣本土的中小企業如何布局「主權 AI」與安全開發?台灣自己本土的模型稱為「TAIDE」,TAIDE 可以做什麼?

  1. 英翻中:提供英文翻譯成中文的功能,讓用戶能快速閱讀和理解英文文件。
  2. 中翻英:提供中文翻譯成英文的功能,協助用戶輕鬆應對跨語言交流。
  3. 寫文章:從主題選擇到內容編寫,讓用戶輕鬆完成各類寫作任務。
  4. 寫信:自動撰寫電子郵件內容,滿足不同情境下的溝通需求,提升業務效率。
  5. 自動摘要:快速提取文章摘要,協助用戶快速掌握關鍵資訊,提升閱讀和理解效率。
    將 TAIDE 台灣繁體中文大型語言模型部署到地端個人電腦或伺服器,最簡單且常見的方式是搭配 Ollama 模型管理器與 GGUF 格式權重檔。
    部署步驟
  6. 下載工具:前往 Ollama 官方網站 下載並安裝適合你作業系統(Windows、Mac、Linux)的應用程式。
  7. 取得模型檔:至 Hugging Face(例如搜尋 TAIDE-LX-7B-Chat-GGUF 等版本)下載對應的 .gguf 量化模型檔案(如 4-bit 版本,較省記憶體)。
  8. 建立設定檔:在模型檔案的同一個資料夾內,建立一個名為 Modelfile 的純文字檔,內容寫入:FROM ./你的模型檔案名稱.gguf。
  9. 匯入至工具:開啟終端機(Terminal 或 PowerShell),輸入指令建立本地模型:ollama create taide -f Modelfile。
  10. 執行與測試:輸入 ollama run taide 即可直接在終端機與 TAIDE 進行繁體中文對話。若需要圖形介面,可進一步搭配 Open WebUI 等工具進行串接。
    TAIDE做為台灣自身的主權AI(主權 AI(Sovereign AI)是指一個國家或地區擁有並掌控自身的人工智慧基礎設施、數據、模型與關鍵技術,不完全依賴外國政府或跨國科技巨頭),新心資安目前的主機是40.0 GB RAM,中央處理器(CPU)是 Intel Pentium G4560 (2核4執行緒),且沒有獨立顯卡,偏向於文書機。
    新心資安的下一代機器採購,會偏向內建AI的電腦,現在由於全球AI資料中心的建置潮,電腦零組件都很昂貴,連帶的像是RAM、顯示卡都水漲船高。在這個領域有一個知名的案例,就是北港的武德宮花了將近百萬元買AI電腦來解讀神明降乩的指示,也可以解籤。
    還是回到筆者反覆陳述的概念,AI,用就對了,但是不要用來跟風做自媒體,一人公司用AI也要用在真正有收益的商業模式。

上一篇
Day 21:龍蝦與新興 AI 工具是什麼? 對中小企業主的意義為何?
系列文
資安*保險─數位避險22
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言