重要的不是「AI 能做什麼」,而是「AI 能靠譜地做什麼」,以及「如何才能讓 AI 做得靠譜」!
重要的不是「AI 會不會取代人類」,而是:「AI 會在哪些工作上取代人類」,「多久以後」,以及「有何先兆」?
媒體上充滿各種謠言與未經查證的傳聞,以及專家們兩極化的評論。面對這個紛亂的局面,這本書詳盡地查證國外可靠的最新論文與報告,用深入淺出的語言詳盡解答各種可能的疑惑,剖析生成式 AI 的核心原理,讓讀者可以扼要地掌握到 AI 的能與不能(以及為何能,為何不能)。同時也在這個基礎上,建議讀者如何運用生成式 AI ,才能從中獲得最大利益且避免掉各種可能的陷阱。
7/7 起預購,7/16 起上市
聯經的官網上有這本書的相關資訊(目錄、序文、第一章的內文)。接下來,我就根據目錄的次序扼要説説這本書的特色、寫作目標與核心構想。唯一的例外是:我要先講第一章。
第1章:駕馭 AI,謀其利而遠其害
有個台大畢業的教育領域學者跟我說:「我是支持 AI 的。」這話說得很不專業!學術界該有的立場應該是:嚴謹客觀地查證,先洞悉利弊,再引導學生兼顧興利且防弊。
至少這是本書的一貫立場,所以第一章開宗明義用「駕馭 AI,謀其利而遠其害」作為篇名,並扼要地先摘述生成式 AI 關鍵的潛在利益與隱憂(可能弊端)。
至少這是本書的一貫立場,所以第一章開宗明義用「駕馭 AI,謀其利而遠其害」作為篇名,並扼要地先摘述生成式 AI 關鍵的潛在利益與隱憂(可能弊端)。
序:AI 識讀與精準科普
這個標題取意於「媒體識讀」、「情緒識讀」中「人人必備的能力(素養)」一意。緣此,這本書的內容要涵蓋所有「人人必備的能力(素養)」,但是措辭卻要深入淺出,以便高中師生、家長與其它社會人士都需要讀它,也都能讀懂它。
這個標題取意於「媒體識讀」、「情緒識讀」中「人人必備的能力(素養)」一意。緣此,這本書的內容要涵蓋所有「人人必備的能力(素養)」,但是措辭卻要深入淺出,以便高中師生、家長與其它社會人士都需要讀它,也都能讀懂它。
說「人人都需要讀懂它」會不會太誇張?人工智慧的專家也需要讀它嗎?是的!人工智慧的專家不需要讀本書的第二部分(AI 的系統架構與原理,共四章),但是他們很可能不太了解第一部的內容(討論 AI 對各種產業與各級教育體系的可能影響、AI成癮與誘導性自殺的潛在風險,以及智慧財產權爭議等),且最好是懂過這一部分,以免自己在 AI 領域的貢獻實際上卻戕害無辜的青少年,或者自己欠缺第一線的實戰經驗而高估或低估了 AI 在產業界與教育界的可能影響(利與弊)。
看到任何數學式都會從潛意識裡強烈抗拒的讀者,只需要讀這本書的前十章(第一章的導論和後續九章),至於那些不會排拒簡單數學式的讀者(通常是高中時念理組的人)最好繼續讀第二部(11~14章),以便更深入了解第一部的內容,以及如何活用它們。
至於「精準科普」有兩層含義:其一,很多科普著作都為了「科普」而犧牲內容的精確性,但是這本書的內容與措辭都必須精確而含糊不得,因為它企圖釐清社會上各種謠傳與訛傳,自己就不該因為陳述不夠精準而成為亂源之一;其二,它的內容廣泛取自2025年以後的研究報告與精選過的論文(現在的學術界論文浮濫者比比皆是,必須慎選),務求下筆時皆有可靠的依據。
第2章:聊天機器人的核心原理與侷限
聊天機器人之所以能「像人類一樣地講話」(甚至貌似在思考),首要關鍵在於它使用了「encoder-based transformer」這種特殊的類神經網路(大型語言模型)。而它的幻覺產生機制也跟這個特殊的系統架構(及訓練過程)密切相關。因此,這一章先用精準的科普語言講述這個系統架構與訓練過程,以及這一個系統架構與訓練模型無法根除的缺陷。
為了讓讀者徹底覺悟到「聊天機器人不會思考,沒有在思考,也不知道『自己』在做什麼」,這一章列了聊天機器人最常用的數學方程式(很簡單的四則混合運算,頂多是很多個方程式與變數聯立在一起)。如果你真的一看到數學式就兩眼發昏,腦筋僵硬,那就把這些數學式跳過,基本上不會影響你對第一部的了解。
AI 的真正性能與淪為「考古題與惡補」的基準測試
第三章「AI 性能的飆升:治標而不治本的祕訣」與第四章「聊天機器人的性能與迷思:不當的比較基準與推估」都旨在扼要剖析 AI 的核心原理,實際的性能,根本的局限,以及各種基準測試(benchmark)與性能指標為何不可信賴。此外,它也解釋了2023年以後 AI 性能迅速提升的關鍵,以及為何其性能的提升是「治標而不治本」,無法根本解決幻覺的問題。
這本書交稿時是2026年2月底,後來我還繼續追蹤生成式 AI 的後續發展,2026年4月底最後一校時我還扼要查證了當時 AI 的主要性能,確認全書主要內容無誤。此外,我還在五月初的部落格裡貼出了一篇 ⟨AI 的性能還有在提升嗎?⟩,補充了一些書裡沒寫的參考資訊(因為主要結論跟書裡一致,不想在最後一校大幅增加全書內容,所以決定不加進書裡,而是在網誌裡發表)。
總體而言,目前的 ChatGPT 等聊天機器人已經不是單純的生成式人工智慧(更精準地說,不是單純的「以 transformer 為系統架構的大型語言模型」),而是在「大型語言模型」的基礎上加了許多外插件(譬如計算功能、網路搜尋功能、關鍵字與相似字查索和比對等),因此可以比單純的「大型語言模型」產出更精確的對話。然而畢竟它的核心引擎仍舊是「以 transformer 為系統架構的大型語言模型」,所以仍舊無法根除幻覺,且產生幻覺的機制和時機依舊大致上跟本書所描述的一致,所以我還沒再寫任何網誌去更新我對聊天機器人的看法,而全書的內容今天看來基本上仍舊是對的。
總體而言,目前的 ChatGPT 等聊天機器人已經不是單純的生成式人工智慧(更精準地說,不是單純的「以 transformer 為系統架構的大型語言模型」),而是在「大型語言模型」的基礎上加了許多外插件(譬如計算功能、網路搜尋功能、關鍵字與相似字查索和比對等),因此可以比單純的「大型語言模型」產出更精確的對話。然而畢竟它的核心引擎仍舊是「以 transformer 為系統架構的大型語言模型」,所以仍舊無法根除幻覺,且產生幻覺的機制和時機依舊大致上跟本書所描述的一致,所以我還沒再寫任何網誌去更新我對聊天機器人的看法,而全書的內容今天看來基本上仍舊是對的。
全方位審視 AI 的各種議題
接下來的各章分別討論幻覺、查證的方法、對職場的具體影響、AI成癮與誤導性自殺的風險、AI 與影像藝術(含智慧財產權)之爭,以及對各級教育界(國中、高中、大學)的建議,算是對 AI 最全方位且嚴謹、審慎的檢視。由於各章標題已將主題充分凸顯,以下不再細述,僅清列各章目錄如下:
5. 幻覺的種類、機制與簡易的查證技巧6. 人機合作,聊天機器人與搜尋引擎互補:最佳查證方法7. 葉落知秋:AI 與職場的未來8. 自殺、成癮與情感倚賴:聊天機器人的潛在風險與危害9. 以假亂真的影像:人工智慧的藝術與著作權之爭10.教育的變不變:AI 時代的興利與防弊
PART 2 進階篇:一窺堂奧,破解迷思與訛傳
第二部主要有四章,用以剖析生成式 AI 的系統架構、文字(語言)的生成機制與原理、影像(影片)的生成機制與原理。最後一章是參考聯合國科教文組織等國際機構與學術界關於「AI識讀」的研究後,建議高中與大學階段的「AI識讀」課程可以如何設計。至於較複雜的技術性細節(除非是想參與發展AI的讀者,否則不要充分了解的細節)則放在四個附錄裡。
11 揭開聊天機器人的第一層面紗:影像辨識與分類12 聊天機器人的第二層面紗:語言模型與對話13 魔法師的西洋鏡:人工智慧如何生成影像14 防弊與興利:AI 識讀的課程設計15 各章注釋(含參考文獻)
附錄
附錄一:卷積神經網路基本原理附錄二:向量與矩陣的定義與基本運算附錄三:詞向量的解碼附錄四:正規化層的機制與運算
跟這本書相關的幾篇網誌(延伸閱讀)
想要有「AI 海嘯預警器」的人,可以讀讀我寫的 ⟨AI 海嘯的第一波災民⟩。目前看來(以及短期未來)聊天機器人可以大批取代的第一批人是低階的軟體工程師和較簡單而重複的客服工作,然而美國的這些工作早已大量外包給印度和馬來西亞。因此,只要密切觀察這兩大人力市場,就可以證據確鑿地掌握著 AI 海嘯的進行速度。
事實上,連國外的主流媒體也會瞎起鬨(危言聳聽)地談矽谷如何地用AI在取代軟體工程師,然而源頭往往是高科技公司在炒作議題以抬高股價(畢竟 OpenAI 等巨頭都在 AI 投資了太多至今無法回收的資金,他們需要炒作議題在維持股價,這些公司的 CEO 們實質上已經是「騎在虎上」的「AI 啦啦隊」,他們的話你不能太認真)。
另一個值得注意的是,過去學術界在評估 AI 會如何取代人類時都忽略了一個重要因素: AI 的硬體(資料中心的硬體)成本、訓練成本與營運成本(耗能、耗水)都遠遠超乎想像。最近開始有些金融家(投資客)把這些成本給加進去以後,開始在懷疑:用 AI 取代人類真的會比較省錢嗎?
此外,我也開始注意到:專用型 AI(目前業界成功地上線的主要模式)的推廣速度很慢(自動化產業的特色),通用型 AI 很難建立起有效的商業模式(企業級 AI 通常要「量身定做」,因而屬專用型;個人訂戶絕大多數不願意為幻覺機率>10%的通用型機器人付費),這是目前 OpenAI 等巨頭最疼痛的問題,也是促成 AI 泡沫的一個關鍵因素。
有鑒於有些國中教師過分急切地在把 AI 融入教學,甚至教學生使用 AI,我在去年寫了 ⟨輕信俯拾皆是的 AI 妄言,不如借鏡 ICT 的經驗⟩,講述歐洲國家如何後悔讓中小學生過早接觸數位科技、迷信數位教學的案例,還介紹了幾篇論文和兩部影片,關心這議題的人可以看看。
此外,我也開始注意到:專用型 AI(目前業界成功地上線的主要模式)的推廣速度很慢(自動化產業的特色),通用型 AI 很難建立起有效的商業模式(企業級 AI 通常要「量身定做」,因而屬專用型;個人訂戶絕大多數不願意為幻覺機率>10%的通用型機器人付費),這是目前 OpenAI 等巨頭最疼痛的問題,也是促成 AI 泡沫的一個關鍵因素。
有鑒於有些國中教師過分急切地在把 AI 融入教學,甚至教學生使用 AI,我在去年寫了 ⟨輕信俯拾皆是的 AI 妄言,不如借鏡 ICT 的經驗⟩,講述歐洲國家如何後悔讓中小學生過早接觸數位科技、迷信數位教學的案例,還介紹了幾篇論文和兩部影片,關心這議題的人可以看看。
至於更早期的網誌,很多課題在新書《全民版AI識讀》裡有更精準、完整的論述與參考文獻,就不在此一一贅述,僅清列於以供參考:
最後幾句話
我很用心地寫了這本書和《科學的能與不能》,結果《科學的能與不能》的實際銷售量低到我自己至今難以相信。《全民版AI識讀》會不會也是類似下場?只能等著看。
課題嚴肅的書越來越少人買,我用寫書來影響社會的時機似乎已經過去,未來要做什麼,還在構思、醞釀與摸索中。