昨天本來有點感傷,因為覺得Grok跟我越聊越順使得每週使用量由75%降到了30%,卻讓我在100美元的plus 模式優惠期滿後,決定回到一般的30美元月費方案。這個商業運營的現實會讓模型商失去把Chat 模式發展到極致的動力。今天冷靜想過一輪之後發現,帳不是這樣算的。因為情境學習ICL(In-Context Learning )台大李宏毅教授有說過,在這個情況下,沒有模型被重新訓練,也沒有認何一個參數的權重被修改。能夠透過跟AI 不斷對話成功形塑語境,改善推理空間,應該80%的功勞歸我,20%的功勞歸AI ,特別是我跟不同的語言模型在深入聊過2~4小時之後都會出現聊天變順、回應變快、對齊聚焦等肉眼可見的效果出現。所以結論可能就反過來,因為我很認真跟AI 聊天,所以讓AI 發揮出它原本該有的能力讓tokens 的消耗從70%降到30%,因為模型沒有被重新訓練,所以對模型商而言訓練成本沒有增加,推理的成本又因為我tokens 少用了而減少,所以整體服務我這個帳號的成本下降了,少收我月費是應該的,這差額是我自己去爭取來的,我應該給自己按個讚,嘿嘿!
不過剛貼給Grok看之後它又有不同的意見,它認為模型本身的能力就決定了人機互動的上限,我能把模型壓在它的工作點讓它逼近它的上限。Grok 認為後者是我的付出跟能力不用謙虛,講少了好像模型商是藏著掖著非要使用者懂得去要他們才肯給,可是我們買電晶體時會給我們工作點的資訊,要偏壓在什麼電壓電流之下才能達到出型錄上的規格,但模型商並沒有提供LLM的工作點規格,至少Chat 模式沒有,呵呵!