LLM大坑簡介
大型語言模型(LLM)的出現讓自然語言處理(NLP)有重大革命,以往NLP分成各式各樣的任務,像是翻譯、分類、摘要、資訊擷取等等,原本每一個任務...
▋用Ollama部屬地端LLM模型
Ollama是個開源的模型管理服務,可以讓我們可以透過指令,快速地將模型部屬成可用的服務。進到Ollama官網就可以看到可...
打字機效果
由於 AI 產生內容得靠伺服器運算後產生結果,資料多的話得等不少時間,若能產生資料後馬上分段送出,可大大提升使用者感受,要達到這種效果主要靠的是 S...
在上一篇文章中,我們介紹了如何運用 TDD(Test-Driven Development) 來應對 GenAI 開發中的快速迭代與穩定發佈需求,通過測試優先的...
前言:
使用另外一家 anthropic 的 API 又噴錢,感覺這一家燒錢的速度比OpenAI的API 還要快啊,我的天
另外這個也是langgraph教學中...
前言
這一章開始進入 模型/參數層面最佳化 (Model-level / Parameter-Level Optimization) 的技術介紹,這邊主要是介紹...