現代 AI 入門課程閱讀筆記

本篇文章更新時間：2026/03/02
如有資訊過時或語誤之處，歡迎使用 Contact 功能通知或向一介資男的 LINE 社群反應。
如果本站內容對你有幫助，歡迎贊助支持 。

從零開始打造一個 LLM：CMU《Introduction to Modern AI》課程閱讀筆記

編輯前言：最近我讀完了 CMU 在 2026 春季新開的《Introduction to Modern AI》課程簡介，深感它把「現代 AI」拆解得既扎實又務實，尤其是「從零實作一個簡易 LLM」的課程路線，非常值得初學者參考。本篇筆記整理自原文：10-202: Introduction to Modern AI。

核心觀點（Key Takeaways）

• 課程以「現代 AI＝機器學習＋大型語言模型」的實務定義為核心，專注於 ChatGPT、Claude 等系統背後的技術。
• 強調「從基本原理開始」，學生最終能用幾百行程式碼寫出一個開源 LLM 的簡化版。
• 完整涵蓋 supervised learning、transformer、tokenizers、推論優化、SFT、RL、AI 安全等 LLM 必備主題。

深入解析

這門課的企圖心非常明確：不是講 AI 哲學，而是帶你實際打造一個可運作的聊天模型。官方甚至提到：「一個最小可行的 LLM 其實只需要幾百行程式碼」。這點讓我印象很深，因為它直接指出了當今許多學習者的迷思：大模型看起來神乎其技，但底層邏輯其實不複雜，複雜的是工程規模與訓練資源。

引文：「Despite their seemingly amazing generality, the basic techniques that underlie these AI models are surprisingly simple.」

課程內容被分成三大塊：

• 一、監督式學習基礎：
  從線性模型、loss function、梯度下降一路講到基本 neural networks，讓學生掌握「模型怎麼從資料中學習」。特別值得注意的是作業安排：每個作業都用 Colab 或 Marimo 進行，並逐步堆疊成最終 chatbot。

• 二、LLM 核心技術：
  這段就是 transformer 必修區，包括 self-attention、位置編碼、tokenizer、efficient inference（像 key-value cache）。走的是實作路線，所以學生會自己用 PyTorch 寫 transformer block，再擴展成一個最小 LLM。

• 三、後訓練（post-training）與 AI 對齊：
  SFT、instruction tuning、RL（含 RLAIF/RLHF 概念）、reasoning models、AI 安全。這一段其實是現代 AI 最社會化、也最容易被誤解的部分。課程放在後段是合理的——因為只有當基礎架構都懂了，你才會理解「對齊」在調整什麼。

整體課程時間線安排也非常工程導向：前面三週搭起 supervised learning 基礎；中段專做 transformer 與 LLM；後段是 SFT、RL 與安全。

筆者心得與啟發

讀完課程大綱，我最大的感想是：這門課完全抓住了 2026 年 AI 工程師需要的核心技能。現在的 AI 學習資源要嘛太學術、要嘛太黑箱，而這門課很務實地把「能否從零打造 LLM」當作教學軸心，並以循序編程作業帶著學生真正理解模型構造。

更重要的是，它提醒了一件事：

• AI 工具可以用，但不能依賴。尤其在初期學習時，自己走過一次所有環節，才能真正理解模型為何這麼做。

這對現代學習者非常重要。因為在 ChatGPT 等工具如此普遍的時代，懂得自己撰寫、理解、debug 模型的人，會比只會調 AI prompt 的人更稀缺、也更有競爭力。

如果你也想往 AI 工程、AI 科研或產品化方向前進，這門課的結構就是一個很好的學習藍圖。我會建議把它當成一條 roadmap，即使不正式修課，也能沿着作業順序自學一次。