CAVEDU教育團隊技術部落格 / CAVEDU 課程與研習

NVIDIA DLI 講師實作坊 [為大型語言模型注入新的知識]

✍ CAVEDU 阿吉 - 雜工📅 2026-09-14👁 261

課程介紹

當大型語言模型(LLM)開始被導入實際企業與專業領域,單純依靠 Prompt 往往不足以讓模型穩定符合特定任務需求。本課程是一場為期兩天、強調實作的模型客製化工作坊,專為 AI 工程師、應用研究人員、軟體開發人員,以及希望讓 LLM 具備特定領域知識、任務行為與一致輸出品質的研發團隊所設計。

課程將以完整的模型客製化流程為主軸,從「如何定義什麼叫做更好的模型」開始,先建立 Evaluation 並測量基礎模型,再透過 Prompting、Synthetic Data、Supervised Fine-Tuning(SFT)、LoRA 與 Direct Preference Optimization(DPO)逐步改善模型表現。學員將實際使用 NVIDIA NeMo Data Designer、NeMo Curator、NeMo AutoModel、NeMo RL 與 vLLM,建立一套可評估、可比較、可迭代的 LLM Model Customization Workflow。

✅ 認證資訊:完成本課程評量後 *,即可取得 NVIDIA DLI 完課證明。

🌐 版本說明:本課程原文名稱為 [Adding New Knowledge to LLMs],相關資訊皆以原廠為準。

為大型語言模型注入新的知識 - 完課證明樣張
為大型語言模型注入新的知識 - 完課證明樣張

課程定位

  • 🟢 程度:技術 - 中級
  • 🟢 主題:生成式 AI / LLM / Model Customization / Fine-Tuning
  • 🟢 完課證明:有
  • 🟢 考試方式:網頁測驗與課程評量
  • 🟢 課程先修條件:熟悉 Python 與 Jupyter Notebook,能閱讀 JSON、YAML、Notebook 輸出與模型回應,並具備 LLM Prompting 與 API 型模型呼叫的基礎概念
  • 🟢 所需軟體:Python、Jupyter Notebook、NVIDIA NeMo AutoModel、NeMo Data Designer、NeMo Curator、NeMo RL、vLLM
  • 🟢 所需硬體:可連上網際網路的筆記型電腦,用於連入 DLI 雲端虛擬機執行課程。筆記型電腦無須另外安裝程式
  • 🟢 相關資訊:請參考 NVIDIA DLI 官方課程頁面
  • 🟢 課程定位:本課程聚焦於 LLM 模型客製化,從 Evaluation、Synthetic Data、SFT、LoRA 到 DPO,建立完整的模型改善與評估流程

學習目標

  • 🎯 設計一個能在模型訓練前,捕捉任務行為、具體成功指標以及重要失敗模式的評估機制
  • 🎯 利用評估證據來決定下一步的正確策略,包含:提示工程、合成資料生成、監督式微調 (SFT) 或偏好最佳化。
  • 🎯 使用教師模型 (Teacher model) 與 NVIDIA NeMo Data Designer,針對特定領域任務來生成合成資料。
  • 🎯 透過品質檢查機制與 NVIDIA NeMo Curator,檢查並篩選整理所生成的資料
  • 🎯 使用 NVIDIA NeMo AutoModel 進行監督式微調,訓練專注於特定任務的 LoRA 適配器 (Adapter)
  • 🎯 使用 vLLM 部署並評估不同階段的模型,根據任務指標比較基礎模型 (Base)、提示工程、SFT 與 DPO 之間的行為差異
  • 🎯 使用 NVIDIA NeMo RL 建立並評估用於直接偏好最佳化 (DPO) 的偏好資料對
  • 🎯 分析模型客製化過程中的各項取捨 (Tradeoffs),並將基於證據的決策清晰地傳達給團隊成員與程式代理

課程特色

    • 🚀 Evaluation-First 模型客製化流程:不是一開始就 Fine-Tuning,而是先建立評估標準與基線,利用資料斷模型真正缺少的是什麼。
    • 🚀 Synthetic Data × NVIDIA NeMo Data Designer:使用 Teacher Model 產生針對特定任務的訓練資料,並透過 NeMo 工具建立可重複的資料生成流程。
    • 🚀 NeMo Curator 資料品質管理:從資料檢查、Filtering 到 Deduplication,理解高品質訓練資料對模型客製化的重要性。
    • 🚀 LoRA × Supervised Fine-Tuning:使用 NVIDIA NeMo AutoModel 與 PEFT,以參數高效率的方法讓開放權重 LLM 學習特定任務行為。
    • 🚀 SFT × DPO 模型能力逐步提升:理解 SFT 解決「會不會做」的任務行為後,如何利用 DPO 進一步改善回答品質與偏好。
    • 🚀 完整模型生命週期評估:使用 vLLM 服務不同模型階段,從 Base Model、Prompting、SFT 到 DPO 進行客觀比較。
    • 🚀 跨領域 Capstone 實戰:從 Meridian Response 的人道救援分類案例,進一步將相同的模型客製化決策流程應用至 Atlas Support 客服分類情境。
    • 🚀 原廠認證:完成課程評量驗證學習成效,通過即可取得完課證明。

第一天課程表:Evaluation 與 LLM 模型客製化基礎

時間 內容摘要
10:00 – 10:30 DLI 簡介與 LLM Model Customization 入門 - 簡介 NVIDIA DLI 與 Generative AI / LLM 技術 - 認識模型客製化的常見方法 - 介紹 Base Model、Prompting、SFT 與 DPO - 課程案例 Meridian Response 與實驗環境介紹
10:30 – 12:00 Evaluation First:先定義什麼叫做「更好」 - 設計 Task Evaluation - 建立 Success Metrics 與 Failure Modes - 測量 8B Open-Weight Base Model - 建立 Baseline 與模型評估流程
12:00 – 13:00 午餐時間
13:00 – 14:40 Prompting Ceiling Test 與模型改善策略 - In-Context Learning - 測試 Prompting 可以改善多少模型表現 - 比較 Local Model 與大型 API Model - 從 Evaluation 證據判斷下一步技術方案
15:00 – 16:40 Synthetic Data Generation 與資料策展 - 找出模型目前缺少的 Training Signal - 使用 Teacher Model 產生 Synthetic Data - NVIDIA NeMo Data Designer 實作 - 使用 NVIDIA NeMo Curator 進行資料檢查、Filtering 與 Deduplication
16:40 – 17:00 Q&A 與複習 - 回顧 Evaluation-First 與 Synthetic Data 流程 - 資料品質與模型訓練問題討論

第二天課程表:SFT、LoRA 與 DPO 模型最佳化

時間 內容摘要
10:00 – 12:00 Supervised Fine-Tuning × LoRA - Understanding Supervised Training - LoRA 與 Parameter-Efficient Fine-Tuning - 使用 NVIDIA NeMo AutoModel 進行 SFT - 設定並執行一個 Epoch 的 LoRA Adapter Training - 評估 SFT 後的模型是否改善任務表現
12:00 – 13:00 午餐時間
13:00 – 15:20 模型服務、評估與 Direct Preference Optimization - 使用 vLLM 部署與服務模型 - 比較 Base、Prompted 與 SFT 模型 - 找出 SFT 後仍存在的 Response Quality Gap - 設計 Style Rubric - 建立 Chosen / Rejected Preference Pairs - 使用 NVIDIA NeMo RL 執行 DPO
15:30 – 16:30 課程評量與 Capstone - 將模型客製化流程應用至新的 Atlas Support 客服分類情境 - 建立新的 Task Evaluation - 產生 Synthetic Data 並進行 SFT - 透過 Assessment Gates 確認各階段成果 - 完成課程評量並取得 NVIDIA 原廠完課證明
16:30 – 17:00 結尾與後續資源 - 回顧 LLM Model Customization Decision Playbook - Base → Prompt → Synthetic Data → SFT → DPO 完整流程整理 - 講師解題分享、完成工作坊問卷調查

立即洽詢與報名

CAVEDU 教育團隊 (翰尼斯企業) 是國內執行課程經驗最豐富的 NVIDIA 教育合作夥伴。 歡迎洽詢企業包班、技術顧問與客製化課程:

我們的專業團隊(2025 全球第一白金級大使領軍)將為您提供專屬的 NVIDIA DLI 原廠認證課程 規劃。

* 須完成該課程所指定之課程評量,難度根據各課程而有不同。

** 翰尼斯企業有限公司(29070497)為正式註冊之法人,CAVEDU 為其教育部門。

本文發表於CAVEDU 課程與研習、NVIDIA DLI 深度學習學院,並標記AI認證、DLI、DLI認證、LLM。

相關文章 📎

NVIDIA DLI 講師實作坊 [建立以大語言模型為基礎的代理 AI 應用]

2026-09-14

NVIDIA Physical AI 一日課程:SO-101 機器人模擬、VLA 訓練與部署

2026-07-01

SO-101 Sim-to-Real 兩日課程:NVIDIA Isaac 模擬訓練與實體部署

2026-04-25

NVIDIA DLI 擴散模型工作坊:U-Net、降噪擴散與 CLIP 文字生成圖像

2026-04-08

留言 💬 (0)

還沒有留言,來當第一個。