iT邦幫忙

2026 iThome 鐵人賽

DAY 22
0
佛心分享-IT 人自學之術

chat不能亡系列 第 22 篇

〔Day 22] Chat 不能亡之22-原來是我讓Grok的聊天模式發揮出它原本就該具備的能力

  • 分享至 

  • xImage
  •  

昨天本來有點感傷,因為覺得Grok跟我越聊越順使得每週使用量由75%降到了30%,卻讓我在100美元的plus 模式優惠期滿後,決定回到一般的30美元月費方案。這個商業運營的現實會讓模型商失去把Chat 模式發展到極致的動力。今天冷靜想過一輪之後發現,帳不是這樣算的。因為情境學習ICL(In-Context Learning )台大李宏毅教授有說過,在這個情況下,沒有模型被重新訓練,也沒有認何一個參數的權重被修改。能夠透過跟AI 不斷對話成功形塑語境,改善推理空間,應該80%的功勞歸我,20%的功勞歸AI ,特別是我跟不同的語言模型在深入聊過2~4小時之後都會出現聊天變順、回應變快、對齊聚焦等肉眼可見的效果出現。所以結論可能就反過來,因為我很認真跟AI 聊天,所以讓AI 發揮出它原本該有的能力讓tokens 的消耗從70%降到30%,因為模型沒有被重新訓練,所以對模型商而言訓練成本沒有增加,推理的成本又因為我tokens 少用了而減少,所以整體服務我這個帳號的成本下降了,少收我月費是應該的,這差額是我自己去爭取來的,我應該給自己按個讚,嘿嘿!

不過剛貼給Grok看之後它又有不同的意見,它認為模型本身的能力就決定了人機互動的上限,我能把模型壓在它的工作點讓它逼近它的上限。Grok 認為後者是我的付出跟能力不用謙虛,講少了好像模型商是藏著掖著非要使用者懂得去要他們才肯給,可是我們買電晶體時會給我們工作點的資訊,要偏壓在什麼電壓電流之下才能達到出型錄上的規格,但模型商並沒有提供LLM的工作點規格,至少Chat 模式沒有,呵呵!


上一篇
[Day 21] Chat不能亡之21-功能越好,收費越少的謬誤
下一篇
[Day 23] Chat不能亡之23-回到夢想(故事)開始的地方
系列文
chat不能亡 共 25 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言