課程介紹
隨著大型語言模型（LLM）展現出卓越的能力，企業積極將其整合至產品與內部應用中，以滿足文字生成、大規模文件分析及聊天機器人助手等各種場景。
運用現代提示工程（Prompt Engineering）技術是利用 LLM 處理任務最快速的方法，也是進階 RAG（檢索增強生成）與 PEFT（參數高效微調）的基礎。
在本工作坊中，學員將使用 NVIDIA NIM 平台搭配 Llama-3.1 模型，結合 LangChain 打造 LLM 應用，實際體驗如何有效提升 LLM 的生成品質。
✅ 認證資訊：完成本課程評量之後，即可取得 NVIDIA 原廠完課證明。
🌐 版本說明：本課程原文名稱為 [Building LLM Applications With Prompt Engineering]，NVIDIA DLI 目前未提供正體中文版本，相關資訊皆以原廠為準。
課程定位
- 🟢 程度：技術 – 中級 (NVIDIA DLI LLM Level 1)
- 🟢 主題：深度學習 / 生成式 AI / 大語言模型
- 🟢 完課證明：有
- 🟢 考試方式：程式實作
- 🟢 課程先修：熟悉 Python 語法，對 LLM 關鍵技術有扎實理解
- 🟢 所需軟體：Python3 / NVIDIA NIM / LangChain
- 🟢 相關資訊：參考 DLI Generative AI / LLM 學習路徑
學習目標
- 🎯 理解如何應用迭代式提示工程最佳實踐，開發多樣化任務的 LLM 應用。
- 🎯 熟練使用 LangChain 框架來建構高效的 LLM 工作流程。
- 🎯 開發以 LLM 為核心的生成、文件分析與聊天機器人等實務應用。
課程特色
- 🚀 全面涵蓋：從 Transformer 基礎到 LLM 應用開發，最終掌握智能代理編排。
- 🚀 實作導向：實際操作 Hugging Face 與 LangChain 進行問答與多模態開發。
- 🚀 場景驅動：探討 AI 客服、情感分析與機器翻譯等企業真實營運需求。
- 🚀 前瞻工具：掌握 RAG、PEFT、LangGraph 等最新技術趨勢與實戰。
- 🚀 原廠認證：完成課程評量驗證學習成效，通過即可取得完課證明。
第一天課程表：提示設計與 LangChain 編排
| 時間 | 內容摘要 |
|---|---|
| 10:00 – 10:30 | DLI 簡介與 NVIDIA NIM 入門 － 簡介 NVIDIA DLI 深度學習學院與主流 AI 工具 － 註冊 NVIDIA 開發者帳號 － 介紹 NVIDIA NIM：用於部署本課程之 Llama 3.1 LLM |
| 10:30 – 12:00 | 認識提示設計（Prompt Design） － 理解提示工程與 LLM 的緊密關係 － 使用 OpenAI API 與 LangChain 建立提示並檢視回應內容 － 串流回應與批次發送提示之效能比較 － 迭代式提示開發 － 建立第一個提示模板（Prompt Templates） － 迷你專案：對批次輸入執行分析與生成任務組合 |
| 12:00 – 13:00 | 午餐時間 |
| 13:00 – 14:40 | LCEL、Runnables 與 Chains － 學習 LangChain 表達式語言（LCEL）與 Runnables 組合技術 － 撰寫自訂函式並轉換為 Runnables 以納入 Chains － 將多個 LCEL Chains 組合成大型應用程式鏈 － 平行執行 LCEL Chains 來提升系統效率 － 迷你專案：結合 LCEL 與平行執行來處理複合式分析任務 |
| 14:40 – 15:00 | 休息與交流時間 |
| 15:00 – 16:50 | 進階提示設計：訊息管理與推理 － 核心訊息類型應用：Human、AI 與 System Messages － 少樣本提示（Few-Shot Prompting）技術引導系統輸出 － 運用思維鏈（Chain-of-Thought）增強複雜推理任務 － 對話歷史管理與聊天機器人功能實作 － 迷你專案：打造靈活的多角色聊天機器人應用 |
| 16:50 – 17:00 | 結語與賦歸 |
第二天課程表：結構化資料、工具整合與智能代理
| 時間 | 內容摘要 |
|---|---|
| 10:00 – 11:00 | 多結構化輸出實務 － 探索使用 LLM 批次生成結構化資料的方法 － 結合 Pydantic 類別與 LangChain 的 JsonOutputParser 生成結構化輸出 － 學習從長篇文字中提取資料並進行標註 － 迷你專案：從非結構化文字文件中進行資料擷取與文件標註 |
| 11:00 – 12:00 | 擴充文字生成規模 － 運用提示工程技術讓 LLM 生成不同長度、風格與格式的文字 |
| 12:00 – 13:00 | 午餐時間 |
| 13:00 – 15:30 | 工具使用與智能代理 (Agents) － 建立 LLM 外部功能 (Tools) 供模型辨識與呼叫 － 開發智能代理 (Agent) 以判斷工具使用時機並整合回應 － 迷你專案：開發可呼叫外部 API 的 LLM 代理，提供即時資料與增強內容 |
| 15:30 – 16:30 | 課程評量 － 完成課程評量並取得 NVIDIA 原廠完課證明 |
| 16:30 – 17:00 | 講師解題與問卷 － 講師解題分享、完成工作坊問卷調查 |
立即洽詢與報名
CAVEDU (翰尼斯企業) 是國內執行課程經驗最豐富的 NVIDIA 教育合作夥伴。
歡迎洽詢企業包班、技術顧問與客製化課程：
我們的專業團隊（2025 全球第一白金級大使領軍）將為您提供專屬的 NVIDIA DLI 原廠認證課程 規劃。
