《Slow Down:面對 AI 程式代理人的失控與誘惑》讀後筆記

本篇文章更新時間:2026/03/26
如有資訊過時或語誤之處,歡迎使用 Contact 功能通知或向一介資男的 LINE 社群反應。
如果本站內容對你有幫助,歡迎贊助支持


放慢速度,重新掌握我們的工程直覺

從《Thoughts on slowing the fuck down》談 AI 程式代理人的狂熱與後遺症

編輯前言:這篇文章值得一讀,因為它不只是批評 AI 代理人的技術限制,而是提醒我們:工程品質的瓦解,其實是「人類放棄節制」的連鎖效應。

核心觀點 (Key Takeaways)

  • AI 代理人會讓整個軟體系統迅速累積不可控的複雜度,因為它們沒有「學習痛感」,也不會從過錯中成長。
  • 大量自動生成的程式碼讓人類失去架構掌握力,最後導致所有人只能靠手動測試確認系統是否還能動。
  • 真正有效的使用方式,是讓代理人做可控的小任務,而人類保留對架構與核心邏輯的主導權。

深入解析

作者回顧過去一年 AI coding agents 的爆炸性成長——從 Cursor、Aider 到一堆 autonomous agent frameworks——我們的產業似乎正被「寫更多程式碼」的快感帶著走。當 AI 能在幾小時內生出兩萬行程式碼,許多人就開始幻想:是不是只要丟幾個 agent,就能造出一個產品?

現實卻是:

“Companies claiming 100% of their product's code is now written by AI consistently put out the worst garbage you can imagine.”

作者點出的問題非常具體:

  • 代理人會犯錯,而錯誤不會被自動糾正。人類也會犯錯,但人類會學、不會重複犯相同的低級錯。代理人則會在每個任務重新「發明」同樣的錯。
  • 代理人不會控制自己產生的 complexity。它們從訓練資料中學到的,是人類工程界的「集體壞習慣」。
  • 沒有 bottleneck 就表示錯誤會爆炸式累積。兩位工程師搭配十個代理人,能在幾週內累積相當於一家大型企業多年才會出現的程式複雜度。
  • agentic search recall 過低——代理人找不到所有需要更新的程式碼,進而導致更多重複、更多錯誤、更多 inconsistency。

總結起來就是:

AI 程式代理人正把我們推向一個更容易失控的軟體世界,而不是更簡單的世界。

子標題 1:Clankers 不會痛,所以不會學

作者提出一個很有趣的觀點:人類會改善系統,是因為痛。痛來自於不得不面對某個問題。代理人無法感受 pain,也不負責整體架構,因此完全沒有改善的動力。

  • 它們可以重複產生同樣的錯誤。
  • 它們不會累積經驗。
  • 它們也不知道哪些部分是「應該避免碰」的。

人類工程師建立直覺的方式,是透過理解整體架構並承受後果。代理人沒有這層學習過程。

子標題 2:真正的問題不是錯誤,而是複雜度

雖然人人都知道代理人會出錯,但作者提醒我們:「錯誤不是關鍵,複雜度才是」。

因為:

  • 代理人在架構決策上做的是「局部最佳化」。
  • 代理人之間彼此不共享 context,因此各自製造自己的 abstractions。
  • 這些局部、小錯、小 duplication 最後累積成不可能維護的巨獸。

在大型企業,複雜度需要數年才成形;在 AI + 小團隊環境下,幾週就能出現同等級的地獄級 codebase

筆者心得與啟發

讀完這篇文章,我最大的感受是:AI 並不是問題,放棄節制才是問題。

這篇文章並非在反對使用代理人,而是在提醒我們:

  • 人類的工程直覺和思考速度,是軟體品質中不可替代的一部分。
  • 快速產生大量程式碼不是價值,能理解並維護它才是。
  • 「我不知道這段程式是怎麼來的」本身就是一個 architecture smell。

作者提到一句很值得反覆咀嚼的建議:

Slow the fuck down.

放慢速度,不是要變成手工藝人,而是保持那種「理解自己在做什麼」的能動性。這對我來說,有幾個實際啟示:

  • 使用代理人處理可控的小任務,不碰架構核心。
  • 限制每天讓代理人產出的程式碼量,確保人類能完整 review。
  • 任何關乎系統「形狀」的事——架構、邏輯、資料模型——永遠由人手寫。
  • 讓代理人成為「好用的加速器」,而不是「失控的自動化機器」。

這篇文章提醒我們:工程不是生產線,是思考和決策的藝術。寫程式不是越快越好,而是越清楚越好。放慢速度,不是落後競爭,而是確保未來能持續前進。

我們需要的是能用一輩子的 codebase,而不是兩週就崩壞的 agent soup。

這點,我想作者說得非常對。


Share:

作者: Chun

WordPress 社群貢獻者、開源社群推廣者。專注於 WordPress 外掛開發、網站效能最佳化、伺服器管理,以及 iDempiere 開源 ERP 導入與客製開發。曾參與 WordCamp Taipei 等社群活動,GitHub Arctic Code Vault Contributor。提供資訊顧問、WordPress 開發教學、主機最佳化與企業 ERP 整合服務。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *


文章
Filter
Apply Filters
Mastodon