第一次聽到 Gary Marcus 這位先生,是在網路上閱讀到了幾篇有關他的新書《重啟人工智慧 (Rebooting AI) 》的書摘。從書名上可以看出來,Marcus 的基本立場,是認為現行以 DNN 架構為主流的深度學習 AI 發展趨勢必會面臨不可解決的瓶頸,未來邁向通用人工智慧 (Artificial General Intelligence; AGI) 時,必須重新檢討目前深度學習的發展方向,不能過度依賴單一的模型架構及方法論 (Methodology),而必須結合各種方法,利用混合式的系統架構 (Hybrid System Architecture) 方能保證 AI 可長可遠的發展。
雖然當時老頭還沒有機會直接拜讀 Marcus 的相關著作,但是對於他的觀點卻相當有興趣。在老頭的「簡單即是美」一文中(註一),曾經介紹了「理查薩頓 (Richard S. Sutton)」的大作「慘痛的教訓 (The Bitter Lesson)」。如果把「慘痛的教訓」的觀點和《重啟人工智慧》裏的看法相對照,可以發覺這兩位先生彷彿是站在天平的兩端,各有其信念。
老頭學習 AI 的時間不長,雖然有一些自己的心得,也覺得 Sutton 的論點比較符合自己目前研發的方向,但總覺得 Sutton 的觀點太獨斷了一些,Marcus 的論述應該也有他的可取之處。恰好得知 Marcus 在今年初發表了一篇論文「The Next Decade in AI」(註二),就決定好好的讀它個徹底並把它介紹給有興趣的 AI 人。
這篇論文的標題是 「The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence」,Marcus 主張在未來十年,以 4 個階段的研究過程到達強固型 AI 的目標。老頭在這先列出這四個階段的原文,稍後幾天再一一和大家介紹它們的含義。
- initial development of hybrid neuro-symbolic architectures
- construction of rich, partly-innate cognitive frameworks and large-scale knowledge databases
- further development of tools for abstract reasoning over such frameworks
- more sophisticated mechanisms for the representation and induction of cognitive models
這篇論文的摘要是這樣寫的:
近來有關 AI 及機器學習的研究,大多著重於一般用途的學習 (general-purpose learning)、大量的訓練資料集、和越來越多的算力需求。與之相反,我要提出一個混合的 (hybrid)、以知識驅動 (knowledge-driven)、以推理為基礎 (reasoning-based) 、以認知模型 (cognitive models) 為中心的方法,以其為基底來架構一個比現行方法更豐富更強固的 AI。
Recent research in artificial intelligence and machine learning has largely emphasized general-purpose learning and ever-larger training sets and more and more compute. In contrast, I propose a hybrid, knowledge-driven, reasoning-based approach, centered around cognitive models, that could provide the substrate for a richer, more robust AI than is currently possible.
很時顯的,這篇論文就是衝著 Sutton 等人的觀點來的,Sutton 認為「搜索」和「學習」這兩個通用方法,是未來解決 AI 問題的最重要的途徑,而 Marcus 卻直指它們並不足夠;Sutton 認為我們應該停止解析人類複雜的心智結構,而 Marcus 卻要提出一個基於(人類)認知模型的基底架構。在如此多元的研究思維交互激盪下,未來十年,AI 的世界必定精采可期!
(註一:老頭在 12th 鐵人賽的第三天發文,參考 https://ithelp.ithome.com.tw/articles/10237871 )
(註二:論文 arXiv 號碼 2002.06177 https://arxiv.org/abs/2002.06177 )