在AMD平台打造您的大型語言模型(LLM)應用

分享
收藏
開課日期 | 2025-05-14
課程費用 | 免費課程
開課地點 | 線上課程
>
課程資訊
適用對象
課程特色
詳細內容
師資介紹

課程資訊

開課日期

2025-05-14

學習時程

2小時

上課時間

週三

上課時段

下午

適用對象

1.對高效運算、AI技術開發有興趣者

2.對生成式AI應用、HPC、AMD ROCm平台開發有興趣的大專院校學生

3.欲評估從CUDA轉移到ROCm的平台使用者

4.在企業擔任資訊(IT)、AI軟體開發、AI模型運用、AI程式應用工程師或研發人員等

※符合以上條件者 免費上課

課程特色

提供給有興趣在 ROCm 上部署大型語言模型(LLM)解決方案的學習者參考。內容涵蓋 LLM 背景的高層次概述,並包含學員可實作操作的實務範例。

詳細內容

課程形式

課程大綱

時數

實體課程

  1.LLM 基礎介紹(Introduction to LLM)

  2.AMD 環境建置與支援(AMD Platform Setup)
  • ROCm環境安裝(Linux)

  3.LLM 模型部署(LLM Deployment)
  • 使用 LM Studio 於 Windows 平台部署模型
  • 使用 Ollama 在 Linux 上執行本地模型


  4.LLM 應用整合(App Integration)
  • 建構 RAG 架構
  • 使用 Agent 技術

3H

 

開課資訊

【上課日期】:114年5月14日(三),13:30~16:30,共3小時

【上課地點】:Webex線上直播

【課程費用】:學費全免 

【主辦單位】:AMD_ITRI聯合實驗室

黃講師

現職:工研院電光所 副工程師
專業領域:LLM及CNN微調、應用及整合。

師資介紹

與我諮詢 / 報名

  • 居住地點

  • Change the CAPTCHA codeSpeak the CAPTCHA code
     
若您有進修網會員帳號,建議您登入進修網,省去填表部份欄位的填寫!