編按:本文綜合整理自 arXiv 預印本 2609.03344、Hacker News 討論串、MIT Media Lab「Your Brain on ChatGPT」研究與 Microsoft Research 生成式 AI 對批判性思考影響調查,並加入 Siami 編輯部觀點與分析。
九位複雜系統學者,把 LLM 當成流行病來建模
2026 年 9 月 3 日,一篇標題極具挑釁性的預印本上架 arXiv:《Large-Language Models as a Cognitive Virus》(大型語言模型作為一種認知病毒),編號 2609.03344,全文 12 頁、3 張圖。
作者陣容才是真正引起注意的原因——九位掛名者包含 Universitat Pompeu Fabra 與 Santa Fe Institute 的複雜系統理論學者 Ricard Solé、Santa Fe Institute 現任院長 David C. Krakauer、以生物電與再生醫學研究聞名的塔夫茨大學教授 Michael Levin,以及 Giulio Ruffini、Francesca Castaldo、Marco Tuccio、Luis F. Seoane、Manlio de Domenico、Santiago F. Elena。這不是 AI 產業內部的自我檢討,而是一群研究演化轉變、網路科學與族群動力學的學者,把流行病學的數學工具轉頭對準了 LLM 的擴散。
論文被歸類在四個領域底下:物理與社會(physics.soc-ph)、電腦與社會(cs.CY)、適應與自組織系統(nlin.AO),以及族群與演化(q-bio.PE)。
上架三天後,這篇論文以「LLMs as a Cognitive Virus」為題衝上 Hacker News,累積 353 分、238 則留言,成為當週最具爭議性的討論串之一。
模型怎麼運作:三種人、兩個臨界點
論文的核心是一個經典的「多倉室」(compartment)流行病模型,但傳播的不是病原體,而是「人與 LLM 的耦合狀態」。族群被分成三類:
- 未耦合者(U):完全不用或極少使用 LLM,維持多樣化的認知生態
- 一般使用者(C):把 LLM 納入工作流程,但仍保有大量獨立認知活動
- 依賴者(D):持續把認知運算外包給模型,LLM 成為執行任務與取得資訊的主要介面
狀態之間的轉換由幾個速率參數控制。其中最關鍵的是 β,代表 LLM 使用習慣透過社會接觸與制度壓力擴散的有效強度——同事都在用、公司導入了、學校默許了,都會推高這個值。另一個關鍵是從一般使用回到未耦合狀態的返回率。
論文加入了一個不同於標準流行病模型的設計:一個 Allee 效應式的二次項。它的假設是「不依賴 LLM 的認知習慣本身具有社會增強性」——當獨立思考的人夠多時,學校、職場、同儕圈與各種規範會讓「自己動手想」這件事更容易維持;反過來,當自主思考的人變稀少,維持它的成本就會急遽上升。
這個正頻率依賴性,正是整篇論文所有戲劇性結論的來源。它讓系統產生了鞍結分岔(saddle-node bifurcation)與跨臨界分岔(transcritical bifurcation)兩個不同的臨界點,而兩者之間存在一段雙穩態區間:未耦合狀態與耦合狀態可以同時是穩定解,系統落在哪一邊取決於歷史路徑。
這段區間的寬度,就是論文所稱「技術鎖定」(technological lock-in)的數學定義。
一顆彈珠與兩個山谷:論文最直觀的一張圖
論文把動力學改寫成一個梯度系統,得到一個四次雙井位能函數。作者用了一個很好懂的比喻:把族群狀態想成一顆在地形上滾動的彈珠,最後會停在某個山谷底部。
- β 很低時,地形上只有一個山谷,位在「高度自主」那一端
- β 越過鞍結點後,第二個山谷出現在「低自主、高卸載」那一端
- 兩個山谷之間隔著一道山脊;在雙穩態區間內,彈珠停在哪邊取決於它從哪裡來
- β 繼續上升會經過 Maxwell 點——此時兩個山谷深度相等,卸載狀態開始在能量上更有利
- 但彈珠可能仍卡在自主山谷裡,直到這個山谷完全消失為止
最後那一步,就是論文說的失控轉變(runaway transition):山谷消失的瞬間,彈珠會突然滾向另一端,形成「更依賴 LLM → 更多認知卸載 → 又更依賴」的正回饋。從外部看,這是一個平緩的採用曲線突然變成斷崖。
「認知能力」在這裡到底指什麼
這是全篇最容易被誤讀、也最需要講清楚的定義。
論文把認知能力(cognitive competence, CC)限定為:當外部支援被移除時,人類自身還剩下的能力——而不是「人+AI 這個耦合系統」的總產出。這個區分至關重要:一個重度依賴 LLM 的工作者,在有工具時的產出可能極高,但論文衡量的是把工具抽掉之後的那個數字。
作者接著在論文中明確區分兩種使用型態:
- 鷹架式(scaffolding):降低當下的認知負荷,但保留甚至提升使用者日後獨立執行同一任務的能力
- 替代式(substitution):直接移除執行該認知運算的必要性
論文原文的立場是:真正的分野「不在於用不用 LLM,而在於耦合的形式,以及當工具被撤走時還剩下什麼認知能力」。
數據解讀與質疑:這篇論文沒有說的事
這是一篇純理論建模論文,沒有任何實證數據。認清這一點,才能判斷它該被賦予多少份量。
第一,關鍵參數是「示範用」的假設值,不是量測值。 論文為了畫出圖表,替三種狀態指定了遞減的認知能力數值。作者自己在文中寫得非常保守:這個排序「是一個示範性的建模假設,不是對 LLM 使用的普遍主張」,並明講在鷹架式或增強式的使用情境下,耦合「可能讓後續認知能力維持不變、甚至提升」。換句話說——斷崖的存在來自模型結構,斷崖的深度則來自作者手動填的數字。許多轉傳這篇論文的社群貼文直接跳過了這段免責聲明。
第二,這是平均場(mean-field)近似。 模型假設每個人都均勻接觸族群平均值,把網路連結度全部吸收進 β 這個單一參數裡。作者主動指出真實社會網路是異質且相關的,連結度分布會改變流行病閾值與免疫結果,並把網路與空間版本列為未來工作。
第三,模型完全不預測時間尺度。 論文明說,最小模型「並未決定這個轉變在真實時間中展開的速度」。它描述的是準靜態參數變化下的平衡態結構改變,不是「明年就會崩」。
第四,「病毒」是機制類比,不是價值判斷。 論文明確寫出,病毒類比並不意味人與 LLM 的互動本質上是寄生的。
那麼,什麼是有實證支撐的?目前有三份被廣泛引用的研究指向同一方向:MIT Media Lab 的《Your Brain on ChatGPT》以 EEG 追蹤寫作任務,提出「認知負債」概念;Michael Gerlich 發表於《Societies》的研究以認知卸載為中介變項,指出 AI 使用與批判性思考呈負相關;Microsoft Research 針對知識工作者的調查也得到類似結果。這些研究提供了「替代式使用會降低獨立表現」的個體層級證據——但沒有任何一份證明了族群層級的臨界點真的存在。本篇論文的貢獻,是提出一個「如果那個機制成立,集體會怎麼跳」的數學框架,而不是驗證它已經發生。
為什麼這件事重要
撇開「病毒」這個吸睛標題,這篇論文真正值得認真對待的貢獻,是它把一個過去只在個體心理學層次討論的現象,搬到了族群動力學的層次,並且指出了一個非常違反直覺的性質:預防與逆轉的成本是不對稱的。
在多數關於 AI 與思考能力的公共討論裡,隱含的假設是線性的——用多一點就退化多一點,少用一點就恢復一點,隨時可以踩煞車。這篇論文的數學結構直接否定了這個直覺。一旦系統越過臨界點滑向耦合狀態,把 β 降回原來的臨界值是不夠的;因為遲滯效應,必須把社會與制度壓力壓到更低的另一個閾值,族群才會回到自主狀態。用白話講:讓一個組織「開始全面依賴」所需要的推力,遠小於讓它「重新學會不依賴」所需要的拉力。
這對誰有實際意義?對正在制定 AI 政策的學校、正在導入 AI 工具的企業、以及正在設計工作流程的團隊。論文的框架意味著,「先全面導入,出問題再收回來」這種常見策略,在數學上可能是一個單向門。等到獨立作業能力的流失變得明顯可見時,把工具收回來並不會自動讓能力長回來——因為此時整個環境已經滑進了另一個吸引子,維持自主思考的社會增強機制已經被稀釋掉了。
同樣值得注意的是,論文對「該怎麼辦」的回答,並不是禁用。作者反覆強調,認知免疫「不必然意味著低度使用 LLM」。這讓它跟常見的科技悲觀論調拉開了距離:問題不在使用量,而在耦合的形式——是否保留了驗證、主動推理、獨立替代方案,以及從替代式依賴中復原的路徑。
認知免疫:作者開出的處方
論文區分了兩個層次的介入策略,各自作用在不同的參數上:
第一類,改變地形本身(決定會不會出現斷崖):
- 提高「返回率」——讓回到獨立認知成為一個容易抵達且經常發生的狀態
- 具體做法:保留不使用工具的任務、刻意安排脫離期、維持非 LLM 技能、提供有吸引力的非 LLM 替代方案
- 論文特別點出,這個參數夠高時,雙穩態會直接消失,轉變從斷崖式變回連續式——這是最強的一種介入
第二類,改變耦合的組成(決定斷崖有多深):
- 降低從一般使用滑向持續依賴的機率,或提高從依賴中復原的速率
- 具體做法:後設認知訓練、強制驗證流程、週期性的無輔助練習、保留主動推理的任務設計
論文也提醒了一個微妙的陷阱:一味強化「集體自主氛圍」雖然能提高入侵門檻,卻同時擴大遲滯區間,讓系統一旦真的翻覆會更難回頭。作者的建議是,集體保護必須搭配夠強的返回機制,否則保護本身會變成路徑依賴的來源。
在討論的結尾,論文引用了 J.C.R. Licklider 1960 年的預言:
「人機共生大概不是複雜技術系統的終極典範。在適當的時候,電子或化學機器很可能會在多數我們現在認為專屬於人腦的功能上超越人腦。」
作者的評論是:六十多年後,LLM 讓這句話變得格外具體——它們的重要性不只在於能做什麼,而在於它們在人類認知與人工認知之間創造出的新耦合形式。論文也提到光譜的另一端:AI 可以成為「外腦皮質」(exocortex),負責搜尋龐大知識體、把詮釋與高層判斷留給人類。
本篇論文共同作者、Santa Fe Institute 院長 David Krakauer 於 The Generalist 頻道談「人類能否在 AI 時代維持聰明」,主題與本文高度相關
Hacker News 上的正反交鋒
238 則留言的討論串,火力集中在幾個點上。
爭點一:「病毒」這個詞公不公道。 高票留言者 tptacek 出面替論文辯護,指出作者並非把病毒當貶義詞,而是要區分 LLM 的社會傳播機制與單純的「迷因」——迷因會傳染,但迷因不會像病毒那樣改造宿主的結構。也有人認為「社會傳染」(social contagion)會是更精確的用詞。
爭點二:非技術背景的人有沒有資格評論。 討論串裡票數最高的一則留言主張,AI 的能力與應用變化太快,學術研究往往是落後指標而非領先指標。這引來大量反駁,其中 podgietaru 的回應最直接:不是每件事都得放在技術脈絡下理解,科技與社會相互交錯,理解衝擊本身就是關鍵工作。
爭點三:滑坡式的類比反擊。 留言者 qarl2 提出了全串轉發最多的質疑——汽車也讓人類產生依賴,那汽車是病毒嗎?煮熟食物呢?人類早就徹底依賴熟食了。支持論文的一方則回應,對高度依賴的技術「促進可逆性」本來就是合理的公共政策目標。
爭點四:模型輸出正在為模型而寫。 varispeed 提出一個較少被討論的觀察:使用越多 LLM,越覺得它們的輸出在往「讓其他 LLM 覺得可以接受」的方向漂移,句子脫離脈絡、脈絡本身也是碎的。這個觀察指向論文沒有處理的另一層——不只是人被改變,語言本身的選擇壓力也在改變。
網友熱門留言 (6)