最後面論文提到些可能的應用、與限制，以及一些無論是道德上還是社會衝擊的問題，引人省思，多智能體的互動如果可以獨立運行，假如記憶、人格都是可以被訪問與使用的，不是透過真人互動，不就可以似有似無的穿插在我們生活中，影響著我們嗎？當然可能有人說AI賦予的人格跟真人，都是生命體，但這算是另外一個層次的問題，最後一篇關於AI社區，就講一些可能與要考量的，剩下就留給大家思考。

生成智能體的應用

在之前的篇章有提到，像是社會學的模擬，或是NPC角色，都有大量的用途，研究還有提到像是社交機器人，或是做一些人際關係互動的實驗，另外還有提到，如果真的對於行為與言語，透過模型，可以了解我們人的心智狀態，那或許可以藉由這些應用，去讓生活居家的助理幫手，變得更有人性味。我覺得NPC應該很有幫助，不過讓居家助理更加的智慧，更加的了解我們，是有點到可怕的地步，感覺心思都被猜透XD 不過說起來很多國家的老年化日益增加，我覺得陪伴老人這點，或是兒童，或許是可以減少看護人員負擔很好的一個方式。

道德與社會衝擊

接下來就講到幾個要思考的問題，主要有四個

1. 情感投射問題：其實電影像是黑鏡、雲端情人…很多都有提到，如果我們對智能體產生感情怎麼辦？我覺得這是很難避免的，因為我們人類是社會性動物，如果沒有人，可以對寵物或者排球產生情感https://zh.wikipedia.org/zh-tw/浩劫重生。這是很正常的，Lex fridman對於許多專家的採訪中，也有提到。論文給出兩種解法：
   1. 主動提示：要讓使用者意識到智能體就只單純是一個演算法，ChatGPT現在就採用這種模式
   2. 價值觀對齊：大概意思就是，智能體的價值觀要對齊，不能產生一些不適當的行為，例如對告白產生回應。就像是某些感情上，師生戀、辦公室戀情，有一方會表示彼此的關係就只是師生或長官下屬關係，確定什麼樣的行為是正確，什麼樣行為是越界。
2. 演算法錯誤：第二種風險也是老生常談的，就是智能體不可避免會發生些錯誤，沒有完全百分之百完美的演算法，所以當發生錯誤我們該怎麼應對，或事後怎麼補償，什麼樣的法律流程合適？就像是全自動的無人車一樣，撞死人的話公司要怎麼負責…
3. 安全性與隱私：第三種是，會不會用使用者的資料去創造假的人去互動，達到些非法的犯罪目的，論文提到是用紀錄日誌去做管空，但如果是建立的語言模型，好像就無效了…
4. 過度依賴：讓智能體在開發過程扮演人類或系統厲害關係人的角色，這一個我就比較不懂了，是指怕智能體取代人類嗎？剛好想到最近美國好萊塢的罷工大遊行。

總結

雖然，跟我一開始的想像有點不太一樣，但記憶儲存、檢索與反思的機制，算是給我一些新鮮的概念。讓我覺得往AI充滿生活的日子又更進一步了，雖然現在的方法，感覺部屬到模擬市民這種，應該沒什麼問題，不過還有很常一段路要走，像是論文有提到，其實25個agents，2天的實驗，這樣跑是花蠻多經費的，我們怎麼去讓系統設計的有效率，很快的去實驗或重現，是未來我們可以思考的問題，像是多智能體的平行化，目前感覺就是像大富翁一樣，你結束換下一個，然後的確2天有點短，我很期待它在某些場景上，可以研究好幾個月甚至多年後，社會或是人格的發展研究，很期待這一塊能在未來有更多的突破。