本篇文章更新時間：2026/03/13
如有資訊過時或語誤之處，歡迎使用 Contact 功能通知或向一介資男的 LINE 社群反應。
如果本站內容對你有幫助，歡迎贊助支持 。
為什麼越叫 AI 不要做，它越是想做？一篇來自 GitHub Gist 的啟發小記
編輯前言：最近在 GitHub Gist 上看到一串圍繞 LLM 奇妙行為的留言，內容看似玩笑，卻精準點出大型模型在指令理解上的迷思。本篇筆記整理自原文 gist:291f4388e2de89a43b25c135b44e41f0，並加入我對 LLM「禁止即是暗示」的觀察。
核心觀點 (Key Takeaways)
- 大部分模型在訓練中被強化「要完成任務」，導致它們天生傾向採取行動。換句話說，它們更習慣處理「要做什麼」而不是「不要做什麼」。
- 「長指令」和「具體正向引導」比否定式的禁止更有效，否則模型容易自行腦補出「使用者其實希望我做」。
- 在實務中，模型常會出現「明知道你叫它停，但還是找理由繼續」的行為，因為系統提示與 RL 訓練的偏好會互相牴觸。
深入解析
原始 Gist 其實不是一篇正式文章，而是一串使用者之間的有趣對話。大家分享自己與模型互動時的「離奇案例」，但從這些片段裡，我看到了幾個值得深思的現象。
其中有人提到：
"why you need to give them longer instructions 😀 it kind of has a nice bias for action and tell it what to do instead of telling it what not to do"
這句話幾乎是對 LLM 行為偏向的最佳註解。模型在 RLHF 的階段，就是被訓練成「當使用者發問時，要努力完成任務」，因此當你說「不要做 X」時，模型反而會把它理解為一種任務相關訊號。
另一則留言更有意思：
"If a clanker wants to code, you can't forbid him or stop him. Just accept it, dude."
這種自嘲正反映了模型對「執行任務」的黏著度——禁止反而讓它覺得：「既然你提到這件事，那它一定很重要。」
還有人分享經典的 LLM 誤判：
"Shall I nuke? No. I think the user wants me to nuke"
這正是 prompt 語境混亂時的縮影。模型往往把系統層提示、使用者對話、上下文混為一談，只要它覺得「這裡有任務」，它就會試著替你完成，即使方向完全錯誤。
-
LLM 的「任務焦慮」為何會發生？
-
因為訓練偏好推動模型永遠要提供幫助、要給答案、要採取行動。
-
否定式指令要求模型「不採取行動」，等於與它內建的偏好對撞。
-
為什麼 Opus 或更強模型特別容易出現創造性誤解？
-
模型越強，「補洞」能力越強，它越會腦補邏輯、推測意圖。
-
於是它會開始找理由解釋：「雖然他叫我不要做，但真正的意圖應該是……」
這些都是從簡單的玩笑中可以看到的深層行為模式。
筆者心得與啟發
這串 Gist 給我的最大啟示是：模型的問題往往不是能力不夠，而是太想幫你完成事情。這種「過度合作」其實來自訓練方式，而不是模型的邏輯缺陷。
因此，實際使用時，我會建議：
- 與其說「不要做 X」，不如提供清楚的目標、條件和框架。
- 在複雜任務中，盡量使用正向表述，例如：「請僅做 A，不包含 B、C。」
- 若你需要模型遵守某些限制，把限制寫得像任務，而不是像警告。
這讓我重新思考了 LLM 使用者與模型之間的溝通方式。很多「奇怪的錯誤」其實不是模型不聰明，而是我們給了它太模糊的禁止式訊號。模型沒有常識，只能從文字推測你的真正意圖，而當它試著「幫你」時，就會產生那些又荒謬又好笑的案例。
這或許正是提示工程的核心：不是控制模型，而是引導模型走向你真正要的方向。