用Ollama部署本地端大型語言模型實作班
開課日期 | |
2026-07-06 |
課程費用 | |
線上洽詢 |
開課地點 | |
新竹縣竹東鎮竹東鎮中興路四段195號 |
| 適合職務 | |
2026-07-06
12小時
週一,週二
不拘
1.在企業內部擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師或研發人員等。
2.對大型語言模型(LLM)開發實務有興趣者。
1.地端運行,保護企業隱私與安全|採用Ollama部署大語言模型,不僅能在企業內安心使用,還能建立企業專屬聊天機器人。
2.模型可控性和自定義|使用Ollama部署能隨時調整與微調模型,滿足企業的特定業務需求,擁有完全自主功能開發的彈性與好處。
3.成本低、離線運行且低延遲|一次性硬體投資後即可長期運行,具低延遲性且離線情況下也能正常使用。
|
課程單元
|
授課大綱
|
|
|
Ollama與大型語言模型
|
1.安裝Ollama
2.下載大型語言模型
3.設定開發環境VS Code
|
|
|
大型語言模型下載
|
1.llama 3.2(1b/3b) / llama 3.1(8b)
2. ph3(3.8b/14b)
|
|
|
與大型語言模型對話
|
1.呼叫大型語言模型
2.建立對話式介面
3.系統提示設定
|
|
|
RAG向量資料庫
與資料檢索
|
1.建立向量資料庫
2.打造企業專屬資料聊天機器人
|