生成式AI聊天機器人開發實作班:LLM × LangChain × RAG整合應用

日期 2025/08/19(二)-2025/08/20(三)
時間 ■13:00~16:30 ■17:30~20:00
地點 計中 206 教室(電腦教室)
費用 臺灣大學及國立臺灣大學系統教職員生1000元,其他2000元。
主辦單位 國立臺灣大學計算機及資訊網路中心(臺大計中)
協辦單位 兌全有限公司
對象 本課程對電腦程式語言有興趣者皆可報名。
備注 本課程不供餐,不提供上課證明或證書。

課程簡介

隨著人工智慧大語言模型(LLM: Large Language Model)功能的推升,開發聊天機器人(Chatbot)的技術越趨成熟。各大企業所發表免費的開放模型(open-source LLM)例如:Google AI Gemma、Qwen QwQ、DeepSeek-R1、Meta LLaMA、Microsoft Phi小型語言模型(SLM: Small Language Model)、Mistral AI Mistral等;同時也可以使用應用程式介面(API: Application Programming Interface)藉由自行開發程式傳遞命令至各雲端企業LLM,透過免費或收費的機制,達成使用雲端高階LLM的Chatbot生成服務。這些管道提供了現今開發Chatbot的方法,使得各行各業可以成功的將Chatbot的功能植入自家的軟硬體產品中,提供各專業領域的Chatbot服務;但是要如何達成以上Chatbot各技術單元(component)的整合呢?此即本課程的核心目標。

本課程以整合開發Chatbot為主軸,逐一說明多種開發Chatbot的方法,應用LangChain將LLM、RAG(Retrieval Augmented Generation)、Prompt提示問話、Agents等重要模組一同整合,透過實作導向課程設計,協助學員建構可展現人工智慧的服務型Chatbot系統,應用於多元場域與需求。

課程内容

1. 大語言模型(LLM)基本原理與概念說明

2. LLM下載與部署實作

3. 啟動LLM:環境建置與運作測試

4. LangChain架構說明

5. Prompt提示設計策略與實作技巧

6. 檢索增強生成(Retrieval Augmented Generation, RAG)整合應用說明

7. LLM Agents概念說明與實作

8. Chatbot服務整合實作

9. OpenAI API(Application Programming Interface)簡介

10. 打造專屬Chatbot:微調(Fine-tune)與客製化 LLM

11. 縮裝LLM:QLoRA參數微調方法說明與實作

12. AI Agents 2.0 framework: MCP(Model Context Protocol)概念說明與實作