【課程綱要】

【課程內容】

日期

• 單元一：

從生成模型到下游任務：

探索語言模型在NLP中的應用

1. 了解生成式模型演變，從馬可夫鏈開始
2. 了解使用不同機器學習範例（監督、非監督、生成式）的用例。
3. 解釋 LLM 生命週期：預訓練、微調、推理。
4. 了解並處理不同類型的下游任務：文本分類、文本相似性、摘要、翻譯、命名實體識別。
5. 實作WordCount、NER、文本分類等實作案例。

(六)

6H

• 單元二：

LLM架構及應用：打造智慧客服 Chatbot

1. 大型語言模型架構 SPRLO 介紹：
   Streamlit, Pinecone , RedisCache , LangChain , OpenAI
2. LLM 基礎介紹、元素解說、應用場景說明：QAGPT、ChatDocs、SQLGPT
3. 分享大型語言模型應用開發流程，檔案拆分、向量存放檢索、向量資料庫。
4. 基於文件對話，實作法律文件機器人，以Uber為例

(六)

6H

• 單元三：

深入了解LangChain：掌握NLP平台開發和應用的進階知識

1. 介紹 LangChain 關鍵元素：Model、Prompt、Chain、Agent、index
2. 介紹 Prompt Engineering 基礎知識與進階技巧 3. 實作多種資料來源應用技巧，包含：Docx、Excel、PDF、Email。
3. 實作大型語言模型應用，建構公司內部文件GPT

(六)

6H

• 單元四：

向量資料庫應用：從資料檢索到自然語言理解的應用實踐

1. 開源模型應用，從 LLama 到 Dolly 2.0
2. 開源向量資料庫應用，從 Chroma 到 Redis
3. 實作大型語言模型應用，建構客服機器人

(六)

6H