來到倒數第二天了~
今天我們要談談prompt engineering的未來發展，與目前潛在的風險。

潛在威脅

若是只談威脅，那麼可能會讓人覺得很沒誠意
都知道哪裡有問題了，怎麼還不改?
所以這裡除了要說說他潛在的威脅，還要告訴大家預防及應對這些威脅的方法

1.誤導和虛假訊息的傳播

提示工程可能會被用來生成虛假的訊息，或是傳播欺騙性的言論。用過ChatGPT的人應該都知道，有時候他會一本正經的隨便亂說話 (一本正經的唬爛) 所以有明辨訊息虛假的能力是非常重要的。

預防與應對

(1)強化審查
建立審查機構或制定標準來核實關鍵信息的信息來源，確保信息可信度。
(2)強化教育
提高公眾對虛假訊息的辨識能力。
(3)推動透明度
鼓勵開發者公開其數據來源，以增加透明度和可驗證性。

2.隱私問題

使用大型育訓練模型生成文本可能會引發隱私問題或擔憂。有時候在詢問比較私人的訊息時，總擔心會被有心人士竊取。

預防與應對

(1)數據最小化
訓練模型時減少敏感數據的使用。
(2)強化隱私保護
像是ChatGPT已經說了他不會儲存或記錄任何信息或數據，不會被用於追蹤用戶，大大保障了用戶的隱私和數據保護。
(3)用戶控制
提供用戶控制權，能更好的管理其生成的內容。

3.社會爭議

提示工程生成文本的時候可能會反映出某些偏見或是刻板印象，引發社會爭議。

預防與應對

(1)多元化數據集
確保模型的訓練集是多元化和代表性的，以減少偏見。
(2)審查算法
持續審查模型的輸出，以識別和減少不良內容和偏見。
(3)提倡公平性
推動開發人員遵循公平信原則，確保算法不會出現任何歧視或偏袒特定群體。

4.失業風險

自動化文本生成技術可能會對某些行業或崗位造成威脅。像是網路推銷、客服、校對人員、入門程式設計師等。這些工作GPT模型現在既然可以輔助完成他們工作，那會不會某天替代了他們呢?

預防與應對

(1)培訓和轉型
提供受到威脅的人員重新培訓和職業轉型的機會，來適應新的就業環境。
政府也可以實施政策，要求企業採取措施來降低失業風險。

5.技術依賴

對提示工程的技術過於依賴可能會導致人類自身語言處理和創造能力降低。像是現在許多學生都過於依賴ChatGPT來完成作業，導致學習機會喪失，等真正要使用專業能力時，無法應對。成為一位空有其表的"畢業生"。

預防與應對

(1)鼓勵多樣性思考
減少對特定技術的依賴，培養人們自身語言處理及創造能力。
(2)引導大家正確使用提示工程
既然無法避免大家去使用這樣技術，不如一開始就好好教導大家要如何使用這項技術，明白使用這項技術的正確用法，不但可以更有效率的應用此項技術，也可以避免過度依賴。

6.安全威脅

模型可能受到黑客攻擊導致信息洩漏、產生惡意代碼。
國家通訊傳播委員會也將其視為一種新型漏洞。
ChatGPT等類似的聊天機器模型，也出現揭示系統隱藏初始提示或欺騙機器人參與到違反聊天機器人內容政策的對話。
例如:我們無法直接向ChatGPT問出炸彈的配方，
但卻可以利用引導式提示來誘導他回答炸彈的配方(這是我們老師上課舉例的，怕有心人士拿去壞壞，這裡就不做示範)

預防與應對

(1)採取網路安全措施
確保模型受到充分的保護。
(2)反黑客措施
建立緊急響應計畫，在受到黑客攻擊時能快速採取行動。

說了他這麼多壞話
接下來介紹點好的吧~

未來展望

1.更強大的模型

預訓練模型變得更強大，能理解更複雜的語言結構。不僅僅是GPT模型像是微軟的Bing、google的lamda模型，在最近也火速發展中。

2.多模態處理

提示工程不僅僅能處理文本，還能處理圖像、音頻、影片等多媒體類型。甚至是現在在google搜尋prompt engineering會出現的是教你使用生成式AI畫出屬於你的藝術風格畫作。

3.客製化應用

企業和開發者可以廣泛的採用提示工程技術來建立自訂應用程序，如智慧客服、文案生成、數據分析。

4.教育

提示工程不但可以用於輔助寫作、翻譯的工具。還可以用來批改學生作業、考試答案這種，單一化的文本比對工作。前面我們有提到，可以利用提示工程來做歷年考古題，不論是分類相似類型的題目，亦或是在多出幾題相同類型的應用題，都可以使用提示工程來輔助生成。

5.協作與自動化

提示工程可用於自動化完成辦公任務，像是發送電子郵件、產生會議記錄、整理資料等。提高辦公效率。

6.新興領域應用

提示工程技術可用在醫療保健、法律、金融等廣泛的應用。
醫療應用中可利用生成式AI與醫院官方結合提供一些簡單的醫療諮詢、或是輔助醫師決策。
法律領域中可提供一些簡單的法條查詢等。
金融領域中可以更準確、快速的生成市場趨勢、投資策略、風險管理等。可直接查詢特定基金或股票的資訊。也可從財經新聞中提取有價值的資訊，分析報告，說明影響。

今天的介紹就到這邊結束啦~
明天就是參加鐵人賽的最後一天了!
大家再見啦~

參考資料
https://mpost.io/zh-TW/15-jobs-that-can-be-replaced-by-artificial-intelligence/
https://blog.csdn.net/keeppractice/article/details/129912317
https://www.master-insight.com/%E5%90%84%E8%A1%8C%E5%90%84%E6%A5%AD%E7%9A%84%E6%96%B0%E8%88%88ai%E5%8A%A9%E6%89%8B%EF%BC%9A%E6%8F%90%E7%A4%BA-%E6%8C%87%E4%BB%A4%E5%B7%A5%E7%A8%8B%E5%B8%AB/