再談「AI味」
最近，我花了不少時間在 AI 輔助科學研究上。大型語言模型的表現固然驚艷，但除了寫程式、跑仿真實驗之外，其他方面的表現卻是肉眼可見地愈來愈差。這個結果，想必大家也早有預料——AI 公司愈來愈沒有耐性，對於那些難以用測試題衡量的能力，也愈來愈不上心了。
這就是我們常說的目標「未對齊」：OpenAI 與 Anthropic 的目標，是即將到來的首次公開募股（IPO）；它們想討好的使用者，有很大一部分是憑感覺寫程式的 vibe coders（氛圍程式開發者），或許還想把這群人拉來投資——轉型成憑感覺花錢的 vibe spenders（氛圍消費者）？如今，誰都難以抗拒讓 AI 代理寫程式的誘惑，我也不例外。但 AI 輔助寫程式與 vibe coding之間，有一個很大的差別：前者寫出的是人讀得懂的程式碼。同樣地，人們還是更期望創意寫作要寫得像個人，產品設計要讓人用得舒服。可現在許多憑藉AI踏入寫程式/文章、做設計的新手，並不怎麼在乎這些；他們已經懶得去閱讀/體驗自己的作品了2。
雖然我覺得以上是稍微轉動腦筋就能想明白的事情，但仍有些人意識不到這點。2026 年以來，vibe coding 做出來的應用程式如雨後春筍般湧現。你當然可以反駁，「有的 vibe coding 比別的 vibe coding『更vibe coding』」，但即使是「最少vibe coding」、「最人类對齊」的app，也總有些小地方，會讓使用者覺得一股「AI slop（泔水）味」撲面而來。這個「AI slop味」，如果指的是平面設計的好壞，那麼各人有各人的口味，這是比較主觀的；但扎眼、讓人無法忍受的，始終是那些「AI寫作 slop」。
Liao 等人最近發表在 arXiv 上的預印本〈Defensive Writing in GPT Models〉討論了 GPT家族的模型在寫作時鑽獎勵機制漏洞的新花樣，俗稱「防禦式寫作」。受這種思維影響下寫出來的文字，不忍卒讀。論文值得一讀，有興趣的讀者不妨看看；這裡就挑幾個我覺得最有意思的地方，簡單分享點我的讀後感。
防禦式寫作之所以管用，是因為在「打分者」（也是AI）眼裡，這樣的文字比較安全，也比較「嚴謹（rigorous）」（最近的 AI 很愛用這個詞）。讓 AI 模型替 AI 模型打分數，是強化學習最大的弱點，也放大了鑽獎勵機制漏洞的問題。論文發現，只要提示詞提到或暗示文字將會被評審，強化學習的本性就會驅使模型採取策略性的寫法，使出各式各樣的防禦手段，包括但不限於：
- 弱化語氣：把肯定句改成語氣較弱、或限縮適用範圍的主張，藉此削弱原本的論斷（GPT 很愛把這件事叫作「縮小主張的範圍」）。從 GPT-5.4 開始，就能觀察到這種行為；版本愈新，愈叫人看不下去。GPT-6 Astra 更是其中最大的敗筆，幾乎每一段都要加上毫無根據的限定條件。為了避免AI判官產生「這段文字咄咄逼人或過度自信」的觀感，GPT模型學會了鑽 AI 安全對齊的漏洞——不分青紅皂白，處處把主張往小了說。
- 否定/撤回：為了不讓任何潛在的評審者提出質疑，GPT模型開始全面拒絕提出任何常識無法支持的主張（也就是拒絕提供任何新知），荒唐地把自己原本要說的話一一否定掉。比如說，AI 明明看到今天是晴天，卻可能寫成「沒有充分證據顯示，今天的天氣會一直晴朗」。這是一句誰都同意、也完全多餘的話。作者發現這主要是 GPT-6 Astra 的毛病；即使給GPT-6 Astra的是「潤色這篇文章」這樣人畜無害的提示詞，它也能擅自竄改，把作者的主張直接撤回。在論文的基準測試中，GPT-6 Astra 撤回了四成段落裡的主張，大幅扭曲了作者原本想表達的觀點。
對於這些讓人犯噁心的slop，人類讀者很難看得下去；但 AI公司給「AI評審者」的任務往往並不是評判「有多slop」，而是評判「論述是否站得住腳」。這種錯位被不斷強化，於是層層堆疊的限縮主張、小心翼翼的否定句，就逐漸佔據了這些模型Attention layer（注意力）裡相當大的分量。Attention is NOT all you need。
AI 拎得清「邏輯上的謹慎」，和為了排除一切風險而寫出的「防禦式slop」嗎？我相信它們分得清；只是他們的大腦裝滿了「鑽獎勵機制漏洞」的經驗，毛病不改、積惡成習，以至於它們會「下意識」地吐出這些防禦式文字。就像一代又一代東亞「做題家」比起跳脫框架思考，更喜歡套公式就能得到的成功，哪怕眼前的問題早已無關對錯；如果 AI 公司不重新對齊自家的模型，讓它們停止鑽獎勵機制的漏洞，往後它們還是會繼續製造slop。
……不過，這倒也不全是壞事。如果你的目標，是分辨人寫的文章與「AI 輔助完成」的文章（不僅僅是 AI「直接生成」的文章），那麼，現在正是最容易一眼看出誰用了 AI 的時代。但如果你想用 AI 協助自己寫作，恐怕就要失望了：要找到一個既夠聰明、又能寫得像個人的前沿模型，如今實在不容易。