生成式AI大型語言模式(LLM)開發與實作:工研院產業學院(台北學習據點)

在企業內部擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師或研發人員等。具備基本程式概念者。

1.理解 LLM 核心原理，熟悉語言模型演進、記憶架構與應用範疇。
2.具備 LLM API 串接與開發能力，可整合 OpenAI 等主流平台至應用場景中。
3.能設計具記憶能力的聊天系統，打造上下文連貫的對話應用。
4.熟練使用 LangChain、LlamaIndex 等開發框架，加速構建多步驟任務處理流程。
5.掌握向量資料庫與嵌入技術，進行語義查詢與資料檢索整合。
6.能建構 RAG 應用系統並進行優化（含 CAG 與 GraphRAG），提升語言模型的知識回應能力。
7.具備 AI 代理與 Function Calling 系統實作能力，可應用於自動化任務執行與智慧服務設計。

~本課程歡迎企業包班~

單元	內容
大型語言模型（LLM）原理與串接 LLM API 實作	-理解大型語言模型的核心原理 -探索不同 LLM 模型的比較與應用 -實作 LLM API 串接
從 NLP 到 GPT – 實作具有記憶功能的聊天情境架構	-NLP 與 GPT 技術的發展與演進 -設計具記憶功能的聊天情境 -實作具記憶功能的聊天架構
大型語言模型開發框架使用與操作	-介紹 LangChain 和 LlamaIndex 框架的功能與用途 -設計與實作基於 LangChain 和 LlamaIndex 的應用 -實作框架應用範例
外部資料收集與 LLM 資訊串接	-外部資料收集方法與技巧 -資料清理與預處理技巧 -LLM 與外部資料的串接
自然語言模型的嵌入式模型與向量資料庫	-嵌入式模型（Embeddings）概述與應用 -向量資料庫的概念與操作 -實作嵌入式模型與向量資料庫的整合
外部文件庫存取與運用 RAG 增強模型知識能力	-了解 RAG 技術與模型知識擴展的基本概念 -如何設計與構建外部文件庫的存取機制 -實作 RAG 系統與外部文件庫的結合
進階 RAG 優化策略： CAG 與 GraphRAG	-理解 CAG（檢索增強生成）策略的優化方法 -學習 GraphRAG 技術的應用 -實作 CAG 和 GraphRAG 優化案例
工具調用 Function Calling 與 AI 代理 Agent 實作	-學習 Function Calling 的基本概念與應用 -理解 AI 代理（Agent）的設計與應用 -實作 Function Calling 與 AI 代理系統