Google Cloud Summit Taipei的開發者之夜可以分為幾個議程:

• Google Cloud Demo展示
• 產業座談、Generative AI 在台灣的發展
• 互動遊戲
• 開發者技術活動宣傳

壹、Google Cloud Demo火力展示---Advanced Ticket analysis System & Fine Tuning LLM

一、Advanced Ticket analysis System

背景介紹

在近似Ticket的搜尋下，如何避免持續重覆處理相近的問題。

User interface程序進行

1. 搜尋欲尋找問題(input keywords)
2. 利用語言模型，根據input產生近似的五個延伸問題關鍵字
3. 蒐集到最近似的十個Ticket結果，並依照相依度由近到遠排序(By pgvector)
4. 依據此十個Tickets與keyword進行總結、歸納，並羅列相關影響可能原因
5. 將結果進行中英轉換

整體架構圖

Why use pgvector

• 可以產生可下載Table，方便直接以SQL語法進行相似度比對
• 當User發生repo test failed時，也可以透過語言模型的五個擴充問題作為說明的完整性補充，增加Hit rate

二、Fine Tuning LLM Model

背景介紹

在醫院體系下，時常會有需要針對病人說的內容進行分級，進而有增加系統判定分級的穩定性的需求

流程介紹

1. 取得初步由病人資訊彙整的csv
2. 依照LLM Model官網提供的格式對csv進行Fine Tune
3. 根據結果作為最終input

初步csv內容	官網格式要求範例

增進效果

• 而導入LLM Model，但官網並未提及資料集的準備依據
• input資料的分類度會影響到輸出的發揮效果，因此透過改善input資料集來達到增進Fine Tune輸出結果穩定度的效果

貳、Google Cloud Demo火力展示---Big Query 與商品label

一、電商標題與商品Label

背景介紹

目前的電商平台容易在標題內塞入過多的無用資訊，導致核銷、報帳時很難從收據的Product name得知確切商品資訊。過去都會透過NLP、字詞分析、Mapping、Regular Expression的方式處理，但這樣的方式不僅費時，且很難隨著詞彙的日新月異而動態修正

流程

1. 在Big Query內建立連線
2. 使用PaLM2 Model下Prompt

使用輸出結果，可以依序羅列商品的相關資訊

改善效果

• 可以直接使用SQL，並且具有表格與attribute，增加可視性
• 省去label時間，整體僅需約一分鐘便能迅速產生實際的產品相關資訊，並可動態調整，大幅提升整體效率

二、Google Map 評論分析

背景介紹

在瀏覽Google Map評論時，可能會因為數量眾多、內容參差，無法立刻了解評價

使用技術

1. 將評論內容進行情緒分析
2. Category label

使用輸出結果，顏色作為正負面情緒區分

改善效果

融合資料的蒐集、分析、呈現，快速將一個地點的正負面評價一目了然

參、Google Cloud Demo火力展示---Golden State warriors: Art of the possible with Google Cloud

背景介紹

假設你/妳是一個NBA、大聯盟球場的經營者，我想要知道經營上該往怎麼樣的方向發展，並且彙整相關資料，在過往，總得等到比賽結束後再進行會後資料蒐集、報表呈現時才可以推得未來方向，但這樣就會產生時間的推移、延宕。

Demo特點呈現

可以分為針對觀眾與球員的兩種層面，並且所有數據皆依照比賽的進行，隨著比賽的進行，Real time呈現給上位管理者

頁面呈現結果

針對觀眾

• 首排MVP的觀眾: 從他的飲食、紀念品購買、下次票卷的訂購，計算貢獻價值
• 一般觀眾: 透過即時品牌的物品販售額圖表，擬定銷售策略
• 網路、轉播觀眾: 即時呈現廣告效益、直至當下的廣告持續鏡頭總時數，得知廣告投放效果、對廣告商收放成本的增減規劃

針對球員、球隊

• 分析球員過去資訊，從目前動作推估動作成功率、即時的表現水準呈現，便於球隊經營
• 蒐集即時的球隊推文情緒，得知目前的推文風向

肆、Fireside chat: what's next for GemAI and how can Taiwan stand out

一、針對新創公司的相關問題

Q: 從技術開發者的背景轉變為創業者的優劣勢?

• 優勢: 了解技術上的地雷、特性，不用特別媒合技術人員
• 劣勢: 時間分配上可能花太多時間在產品上，而疏忽了使用者面談、商業面的重要性

Q: 喜不喜歡tech background最為founder?可能需要注意的事項

• 仍然希望有複數位founder，並且具有相異的背景作為互相輔助，例如技術與商業背景
• tech background可能會有對於技術使用的適切性問題，很常發生殺雞焉用牛刀的行為。一個公司的產業價值應該在技術的含量，而非專利數量，以及如何將適切的技術轉變為商品
• 有時候tech background會對於一個功能面認為簡單易懂，但對於消費者而言卻不盡然。所以在與使用者的解釋上也十分重要

Q: 在目前的AI熱潮下，how can Taiwan stand out

• 目前的AI浪潮是機會，並且逐漸融入生活中，但是對於新創公司來說，也是個重大的決擇
• 找出自己的優勢，不要直接與在紅海市場上已發展完臻的項目硬碰硬(像是圖像生成、語言模型)，目前AI領域仍會有未開發的Verticles，應該去找那些有AI方法可以解決，但還沒有做好、作完的地方
• 目前市場的架構上，to B 仍是有70%的範疇，to C是30%，還有很多foundation problem待解決，而台灣在亞洲市場也有自己的特色，例如多語言的環境，有時候就算是已經存在的服務，但把多語言功能做到不錯、順暢，那也會有自己的市場價值

Q: 在這波浪潮下，最欣賞的AI公司

• NVIDIA: 提供了良好的使用者體驗
• Google: 提供了OpenSource的資源、人才與風氣
• ChatGPT, Hugging Face, Midjourney...: 快速讓世界知道GemAI的技術在做什麼、是什麼，並且帶起了讓「大家」、各個產業，都能使用AI來提升自己的環境，而非集中於金字塔頂層的少數人