AI 到底厲害不厲害？為什麼能解數學界的千禧難題，卻連小孩能解的拼圖都搞得一塌糊塗（見以前的網誌〈被 AI 蹂躪得滿目瘡痍的數學界〉）？
其實 AI 的原理和性能截然不同於人類，決不可以用擬人化的方式去理解和推測 AI。
譬如，有些 AI 模型擅長解數學，那是因為它們在完成預訓練（pre-trainning）之後，又用「強化學習」（Reinforcement Learning, 簡稱 RL）的訓練方式「讀」過龐大的數學文獻庫的結果。還有些模型擅長侵入網路，那是被駭客訓練過的結果。而這兩種模型通常不是同一個，也通常跟一般人付費或免費使用的模型不同。但是目前所有的AI 模型都不擅長空間關係的分析、研判與推理，所以再簡單的拼圖都有可能可以難倒它。
而且，不僅同一家 AI 公司的各個模型所長（與所短）各不相同，同一個尖端模型在不同的問題上表現出的能力也差異懸殊；不能因為一個模型擅長解數學難題，就推論說「它的智商超高，所以應該會擅長突破資安防火牆，還擅長倍音速的飛機設計」。
後訓練（post-training）與性能的「提升」
AI 模型的訓練（與性能）分兩大階段：（1）預訓練期間無差別性地以所有能找到的資料（文件）訓練類神經網路，使它表現出類似人類的對話模式，其結果為該模型的「基準性能」（或一般性能）；（2）後訓練（包括微調、強化學習等）期間以數量較少的資料繼續訓練已完成預訓練的AI 模型，藉以強化它在某些特定方面的表現（譬如法律、數學解析、數學證明、廣義推理等）。
至於更具體的內容和解說，《全民版AI識讀：原理、應用、幻覺與誤區》的第二章裡已經扼要解說過 AI 模型的預訓練，以及類神經網路架構、參數量與預訓練（資料量與訓練時間）會如何影響 AI 模型的性能，《全民版AI識讀：原理、應用、幻覺與誤區》的第三章也已經扼要介紹過微調（fine tunning）與「強化學習」的基本原理，它們會如何「治標不治本」地改善局部性能（數學證明、「推理」等）。此外，第四章討論過「聊天機器人的性能與迷思」，第五章也已討論過「幻覺的種類與機制」。
值得注意的是，《全民版AI識讀：原理、應用、幻覺與誤區》的第三章裡曾經提過：不管是微調或強化學習等，後訓練的最大缺點是必須有人力的參與（準備訓練資料，撰寫訓練資料等），因此其數量遠遠無法跟預訓練時的海量相比擬。為了突破這個缺點，有個新創公司 Mercor 專門通過網路平台替各大 AI 公司招募遠端的專業人力（包含兼職與退休的專業人士），以便這些人可以大規模提升後訓練的資料量與質（有興趣的人可以看這個澳洲的訪問影片）。
然而就像因此，必須非常謹慎地進行。在這種現實條件下，就算 Mercor 公司有機會幫 AI 公司招募到廉價的專業人士（退休族、第三世界菁英等），究竟大型語言模型的性能可以提升到什麼程度，依舊難以預言，且隨著問題的特性而變。
推理模型的突破與侷限
為了免除人類參與後訓練的侷限（難以海量地規模化），DeepSeek 在 2025年提出一個關鍵性的突破（DeepSeek-R1 模型），使得 AI 模型可以急遽地提升推理能力。這種特殊的訓練方法被寫成一篇 Nature 的論文 "DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning"，從此所有 AI 公司循著它的啟發展開了「推理模型」的訓練（開發）熱潮。
DeepSeek 提出的方法是在完成預訓練之後跳過微調，直接進行特殊的強化學習：針對有明確對錯的問題（譬如數學與程式寫作），對 AI 提問，之後不去管它的解題過程，只問最終答案的對錯（答案對時給加分，答案錯時扣分），這樣反覆問盡量多的問題，同時利用最佳化的程序調整 AI 模型的參數，直到模型能答對所有問題（或最多的問題）。結果發現，在這種訓練模式下，AI 的回答特徵會改變，不會再是直接給答案，而是用貌似人類口吻與解題程序的複雜反應模式，反覆出現「驗證（verification）、反思（reflection），以及對其他可能解法的探索（exploration of alternative approaches）」等歷程，逐漸逼近答案。
然而這種訓練模式的結果有一個鮮明的缺點：回答時的語法很糟而難以卒讀，甚至不時中英夾雜。因此必須在將完成強化學習的模型進行另一階段的監督式微調（SFT）、強化學習與拒絕式取樣（rejection sampling）等後訓練，以緩解其弊。
然而就像《全民版AI識讀：原理、應用、幻覺與誤區》的第三章裡講的，後訓練若過度強化，有可能會讓模型損失預訓練期間所獲得的「基準性能」，最壞的情況甚至有可能會發生「災難性的遺忘」。
類似地，DeepSeek 所提出的「推理模型強化學習訓練」也有幾個無法忽視的缺點（根據上述的 Nature 的論文）。其一，所耗損的計算量可能倍增數十倍（更深入的討論見這個英語演講）；其二，原本可以利用提示來提升 AI 的表現（尤其是進行推理時），但是給 DeepSeek 多道提示（Few-shot prompting）時卻會發現 DeepSeek 的回答反而變得比沒有提示（zero-shot）時更糟。
此外，經過上述推理訓練的 DeepSeek-R1 在一些非屬邏輯演繹性（推理性）的對答上（譬如多回合對話、角色扮演和 JSON 輸出等任務上）反而退化（不如推理模型訓練前的原始版本 DeepSeek-V3）。
那麼，目前為止 AI 擅長什麼任務？不擅長什麼任務？
要具體回答這個問題，吳恩達是最有資格的人之一。他曾擔任過「Google Brain」團隊創始負責人與百度首席科學家，有豐富的人工智慧開發經驗；還創立 AI Fund 等創投公司去加速人工智慧在各種領域的應用；更早時還創立營利性的教育科技公司 Coursera，並且在這個教學台上推廣 AI 理論與知識的傳播。然而他在 2026年9月24日的一場對話裡，卻直指：即便是使用「強化學習」等後訓練，AI 最終還是只有在「有正確答案」的問題（尤其是數學、程式寫作）上表現較佳；在沒有固定答案（個人偏好、與個人背景有關的價值判斷等）或需要隨機應變（包括從對方表情、措辭、聲調研判其好惡）的問題裡，很難通過後訓練提升其表現（甚至或許根本連未來也很難想出辦法）。
同樣是在這個對話裡，吳恩達一再強調：不管 AI 的性能如何發展（「進步」），人類的終就不可以偏廢學習，尤其是學習 AI 所不擅長的能力（尤其是與邏輯演繹、程式寫作無關的能力，譬如複雜情境下的決策與批判性思考）。
一個警鐘：仰賴 AI，是不是在與虎謀皮？
不過，即便 AI 在數學領域有驚人的表現，在「唯利是圖」的 AI 公司手裡，它最終是將數學界蹂躪得滿目瘡痍。
類似地，即便 AI 在軟體寫作上有驚人的表現，還為 AI 公司 Anthroic 賺進大把營收，然而軟體界卻已經開始在質疑：利用 AI 協助軟體寫作，最後會不會變成是「與虎謀皮」——AI 公司先用低價政策鼓勵軟體公司降低人力，等到軟體公司「沒有 AI 協助就沒有足夠人力維持公司營運」時，AI 公司會不會祭出「養套殺」的殺手鐧，抬高付費標準，以「吸血蟲」模式榨乾軟體公司的利潤，使他們變成 AI 公司「畜養」的「社畜公司」？（參見以下的 YouTube 影片：之一、之二、之三）。
即便拋棄「合理懷疑」的陰謀論，已經有越來越多的軟體公司發現：他們為了爭取程式撰寫的效率而把越來越多的軟體是交給 AI 撰寫，等到測試階段產才發現有 bugs，但是原本負責該案的工程師卻沒有辦法即時解決（因為程式不是他們寫的），甚至可能會發現必須把整個程式重寫，因而成本反而倍增（參見這個 YouTube 影片和這個影片）。
此外，哈佛大學兩位研究者在2026年11月初公布一份研究（"Artificial Intelligence in the Firm:
Bottlenecks in Software Production"），指出：AI 雖然讓軟體工程師的程式撰寫速度增快（產量增大），但是在程式整合後的測試階段裡卻造成大塞車（抓 bugs 的速度變慢，因為程式不是自己寫的；而且公司人力與工作流程尚未調整，所以程式審查與測試的人力與速度相對地慢而成為整個工作流程的瓶頸），以至於最終對於軟體公司完整產品的開發效率沒有明顯提升。
事實上，精明的人資專家已經警覺到：AI 公司的藍海（寡頭壟斷的利潤），有可能是其他公司（不只是軟體界）的地獄：當一個公司過度仰賴 OpenAI 等公司的服務時，有可能造成公司內部低階人力太少，不足以從中培養出未來所需的中高階人力（參見這個 YouTube 影片）。因此，即便撇除合理懷疑的陰謀論，一個公司如何在 AI 時代合理在調整工作流程與人力分配，以確保公司有辦法持續維持運作（包括培養未來所需的中高階主管），且確實從中獲益，這仍舊只是當今人資界開始在思索（而尚沒有成熟答案）的問題！
面對這些事實與現實上的侷限，可以很篤定地說：即便 AI 已經有足夠能力可以取代某些人的工作，但是企業界要構思（且嘗試錯誤，一再調整）出運用 AI 的最有效工作流程與人力配置依舊是一個絕非三、五年就能有妥善答案的問題。
附記：
本文內所給連結幾乎都有中文字幕和中文旁白，是一個華人將網路上的專家演講（或訪談）英文錄影剪接出重點，並加上科普化的旁白。
接下來我會發佈一系列關於 Chatbots 實際能力的文章，文章裡所給的連結幾乎都有中文字幕和中文旁白，是前述那個華人將網路上的專家演講（或訪談）英文錄影剪接出重點，並加上科普化的旁白。
