← 返回 Siami 首頁

當 AI 句型變成思想監控——研究員花 20 美元自證「我不是 AI」

▲ 132 💬 103
當 AI 句型變成思想監控——研究員花 20 美元自證「我不是 AI」

當語言的衡量變成它要追求的目標,它就不再是好的語言。

「It’s not X, it’s Y(不是 A、其實是 B)」是大型語言模型最愛用的招牌句型,這個修辭結構被稱為「負面平行」。當它鋪天蓋地出現在 AI 文案、學生論文裡時,引發了一場反自動化語言的獵巫:用全形破折號、愛寫「深入探討」或堆砌三個一組的詞,都可能被當作 bot 標記。

研究學者 Eryk Salvaggio 在《Cybernetic Forests》撰文指出,這場獵巫的代價正在浮現。他為了一篇期刊投稿,花了 20 美元請 AI 偵測公司 Pangram 驗明「非 AI 寫作」的正身,付錢買的不是答案,而是「不被誤判的保證」——一旦被定罪,學術生涯就完了。Salvaggio 直言這就是勒索。

文章追溯到這類句型氾濫的技術根源:可驗證獎勵強化學習(RLVR)。後訓練階段獎勵模型用「邊寫邊想」的方式解題,當模型抵達正確答案時,途中最常出現的思考語言會被強化,這就是業界所說的「推理」能力。

當 AI 偵測器把「像人類推理」的語言結構判定為 AI 生成、社會又集體羞辱被誤判的人——古德哈特定律(Goodhart’s law)正在應驗:當衡量指標變成目標,它就不再是好指標。在 AI 寫作是心靈工業化的時代,AI 偵測正是思想的監控系統。

網友熱門留言 (5)

#1 Hacker News 留言 (cryzinger) ▲ 87
反過來說,我認為避免使用 LLM 慣用語也有用,因為這是個快速自我檢驗——看看你是在講衍生論點,還是真的有原創、有趣、重要的事。如果你寫的東西會讓人合理地懷疑是 LLM 寫的,那代表你的寫作水準不過是「把人類語言熔成糊、再壓回沒特色小方塊」的程度。當然有例外,但這是個有用的訊號。
#2 Hacker News 留言 (drc500free) ▲ 64
與其糾結特定語言特徵(這些在未來訓練中會被磨平),真正的問題是 LLM 想模仿「有意義的寫作」——帶讀者從 A 走到驚奇 Z——卻通常缺乏真正的洞見支撐。多數常見的 LLM 痕跡都源於這種「想顯示前後落差」的衝動,當內容是個被打磨得圓滑的陳詞濫調時,這些手法就完全失靈了。
#3 Hacker News 留言 (tkgally) ▲ 51
我同意危險在於「只評估語言模式而忽略內容」,但必須指出,這在 LLM 出現前就已經存在。十五年前我教研究所的學術寫作課時,師生一起讀相關研究論文、分析教科書和課程大綱。雖然「批判思考」之類詞彙會出現,整體重點顯然在語言模式:句構、段落結構、轉折詞、詞彙複雜度。LLM 只是把這套既存的評分文化推到極端而已。
#4 Hacker News 留言 (ilaksh) ▲ 38
這些典型的句型標記很快會被從模型訓練中拔除,畢竟它們太過公開、太過氾濫。寫作可能會因此稍微變差,但目前這種句型在所有內容裡的濫用程度實在令人煩躁。我認為現有模型仍像過動的天才兒童,而不是真正的人類等級——最大模型的複雜度也只有人腦的十分之一。
#5 Hacker News 留言 (atoav) ▲ 42
上週我看了十份學生的專案提案。其中兩份整篇都符合 LLM 寫作的所有特徵。我不是特別去檢查 LLM 標記,但當文字讓你開始懷疑「等等,我是不是在讀 LLM 的輸出?」,接著又冒出更多內容層面的標記時,閱讀體驗就會被影響——這也應該被影響。學生如果提案都半調子,我自然也不會當真。