課程介紹
近年來，大型語言模型（LLM）在技術和可及性方面的進步，為企業提供了前所未有的機會，以幫助簡化營運流程、降低成本並大規模提升生產力。此外，企業還可以利用 LLM 驅動的應用程式來提供創新且改良的服務，或是加強與客戶的關係。例如，企業可以透過 AI 夥伴提供客戶支援，或使用情緒分析應用程式來提取有價值的客戶見解。在本課程中，您將深入了解 LLM 應用開發的核心概念與實務知識，並探索開源生態系統，包括預訓練 LLM，讓您能夠快速入門並開始開發基於 LLM 的應用程式。
本課程原文名稱為 [Rapid Application Development with Large Language Models (LLMs) ]，由 NVIDIA DLI 提供正體中文版本，相關資訊皆以原廠為準。
完成課程評量之後即可取得完課證明。
課程定位
- 程度：技術 – 中級 (本課程屬於 NVIDIA DLI / LLM grouping Level 1 )
- 主題：深度學習 / 生成式AI / 大語言模型
- 完課證明：有
- 考試方式：程式實作
- 課程先修條件：熟悉 Python 語法，對於 LLM 關鍵技術有扎實理解
- 所需軟體：Python, PyTorch, HuggingFace, Transformers, LangChain, LangGraph
- 所需硬體：可連上網際網路的筆記型電腦，用於連入 DLI 雲端虛擬機執行課程，筆記型電腦無須另外安裝程式
- 相關資訊：請參考 DLI Generative AI / LLM 學習路徑
- 課程定位：本課程位於 DLI 學習路徑之 Generative AI / LLM分類，如下圖，也歡迎從中找到更多您喜歡的課程：
學習目標
完成本課程後，您將能夠：
- 探索、導入並試驗 Hugging Face 模型庫與 Transformers API。
- 使用編碼器模型來執行語義分析、嵌入、問答與零樣本分類等任務。
- 操作條件式解碼器模型，以輸入並生成各種有趣的資料格式、風格與模態。
- 打造生成式 AI 解決方案，以實現安全、高效且可擴充的自然資料處理任務。
- 探索 LangChain 與 LangGraph 的應用，以協調資料管道並管理環境驅動的智能代理。
課程特色
1. 全方位 LLM 應用開發培訓
本課程涵蓋大型語言模型（LLM）的完整開發流程，從 Transformer 基礎概念到模型與智能代理（agentic）編排，讓學員能夠深入理解並實作各類 LLM 應用。
2. 實作導向學習
透過 Hugging Face 模型庫與 Transformers API 進行實際操作，學習如何使用編碼器與解碼器模型，並探索多模態架構，以提升 AI 應用開發技能。
3. 企業應用場景
探討 LLM 在企業環境中的應用，如 AI 客戶支援、情緒分析、文字分類與生成式 AI 解決方案，幫助企業提升效率與服務創新。
4 高效部署與擴充能力
學員將學習如何最佳化 LLM 推理、部署大規模應用，以及利用 LangChain 和 LangGraph 來編排資料管道與智能代理，確保 AI 解決方案的可擴充性與穩定性。
5. 課程認證與實作評量
透過最終評量，學員需整合文字生成、多模態學習與智能代理技術來開發一個 LLM 應用。成功完成課程評量將獲得完課證明，驗證所學技能。
課表
第一天
| 時間 | 內容 |
| 10:00 – 10:30 | 簡介NVIDIA DLI深度學習機構與主流AI工具
註冊NVIDIA開發者帳號 Transformer 簡介：探索 Transformer 架構與核心應用。 |
| 10:30 – 12:00 | Transformer架構與LLM
– 介紹 HuggingFace 和 Transformers。 – 討論 LLM 如何增強企業應用。 – 介紹並說明 Transformer 架構的深度學習基礎原理。 – 理解使用 Tokenizer、嵌入（Embeddings）與注意力機制（Attention Mechanisms）進行輸入輸出處理。 |
| 12:00 – 13:00 | 午餐時間 |
| 13:00 – 14:40 | 任務專用的管線
– 分析編碼器模型在不同 NLP 任務中的最佳應用場景。 – 探討輕量級模型在自然語言嵌入、分類、子集選取與零樣本預測中的應用。 |
| 14:40 – 15:00 | 休息與交流時間 |
| 15:00 – 16:30 | 使用解碼器實作Seq2Seq
– 介紹 GPT 風格的解碼器模型，用於序列生成與自迴歸任務。 – 應用編碼器-解碼器架構於機器翻譯與少樣本任務完成等應用。 |
| 16:50 – 17:00 | Q&A 與複習：
回顧本日學習內容並解答問題。 |
第二天
| 時間 | 內容 |
| 10:00 – 11:00 | 多模態架構
– 將不同的資料模態（文字、圖像、音訊）整合至 LLM 工作流程中。 – 探索多模態模型，如 CLIP 進行跨模態學習、視覺語言模型用於圖像問答，以及擴散模型用於文字引導的圖像生成。 |
| 11:00 – 12:00 | 擴充文字生成規模
– 探索 LLM 推理挑戰與部署策略，包括優化的伺服器部署方式。 – 將 LLM 整合至可擴充的應用，使其適用於更大規模的資料庫與使用者群體。 |
| 12:00 – 13:00 | 午餐時間 |
| 13:00 – 15:20 | 編排與智能代理
– 介紹 LangChain 以進行 LLM 編排與智能代理工作流。 – 探討智能代理（Agentics）與工具調用（Tool-Calling），以整合自然語言與標準應用程式及資料。 |
| 15:20 – 15:30 | 休息與交流時間 |
| 15:30 – 16:30 | 課程評量
– 完成課程評量並獲得證書。 |
| 16:30 – 17:00 | 結尾與後續資源：
填寫課程問卷，了解環境設置與進階學習資源。 |
