Course Information
Registration period
Year-round Recruitment
Course Level
Study Mode
Duration
8 Hour(s) 39 Minute(s)
Language
Mandarin
Taught by
成龍 張
Rating
4 views
Course Overview
用最簡單的方法，解鎖生成式 AI 的無限可能
大型語言模型（LLM）實作全攻略：從入門到進階應用，快速掌握生成式 AI 核心技術！
這是一門專為希望學習並實作大型語言模型技術的學員設計的線上課程，涵蓋從基礎搭建到進階應用的完整知識與技能。課程以實用為導向，透過簡單步驟，教學員如何使用 Llama3、Mistral V3、Ollama 等工具，快速實現文字生成、語音合成、圖片解讀及多媒體文件處理等功能。
我們還深入探討 RAG（檢索增強生成）、Rerank 技術、模型微調等前沿技術，幫助學員解決生成式 AI 的常見問題（如幻覺、答非所問），並掌握開發本地化知識庫查詢應用的能力。此外，課程提供完整的實作指引與範例，讓學員能夠將理論與實踐結合，快速開發高效能 AI 應用。
適合對象
想快速掌握生成式 AI 與大型語言模型技術的初學者。
希望運用 AI 提升工作效率的技術愛好者與資料分析師。
計畫開發本地知識庫或智能查詢系統的產品經理與創業者。
對模型微調、AI 創新應用有興趣的工程師與進階學習者。
需要處理多媒體文件查詢與自動化工作的各領域專業人士。
課程內容簡要說明：
入門系列：LLM 搭建與基礎應用
首部曲：3 步驟快速搭建 LLM 系統（Python + Ollama）。
二部曲：文字轉語音，讓 AI 為你發聲！
三部曲：LLaVA 圖片解讀機器人，將視覺與語言整合。
RAG 技術應用：知識庫建置與提升生成準確性
快速建置本地知識庫查詢，解決生成式 AI 的幻覺問題。
Rerank 技術實操，全面提升生成內容的準確性與相關性。
微調與模型定制：Llama3 與 Ollama 應用
深入學習如何微調 Llama3 模型，並將其匯入 Ollama。
解決自訂模型答非所問的問題，提升模型可靠性。
Mistral V3 免費微調，結合勞基法實作範例。
高效資料處理：多檔案類型與語音/圖片轉文字
建置 PDF Chatbot 與多類型檔案（txt、docx、pptx）的查詢工具。
超極速語音與圖片轉文字技術，顛覆資料處理效率。
進階應用與代理工具開發
Firecrawl 數據採集與內容解析實作，快速獲取高價值資料。
SmolAgents：僅需 5 行代碼，建置強大 AI 代理與 Text2SQL 工具。
Llama 3.3 70b 的實際應用探討：從 SQL 指令執行到輿情開發，掌握分類、摘要與情感分析技術。
Course Content
- 9 section(s)
- 48 lecture(s)
- Section 1 大型語言模型（LLM）快速實作三部曲
- Section 2 建置知識庫(LLM+RAG+Rerank)，解決LLM幻覺的一種常見方案！
- Section 3 教你如何微調模型(How to finetune model？)，用自已的資料訓練模型！
- Section 4 應用開發實作練習：將理論與現實結合，為接軌在地應用做好準備工作！
- Section 5 結合新技術應用：由基礎應用擴展到更多應用場景，增加應用價值與解決方案落地！
- Section 6 其它AI平台應用：使用平台進行開發，有效提升導入速度及減少維護建置成本！
- Section 7 新模型介紹(包括多模態LLM、單卡可執行模型)：持續研究與探討新技術，確保內部應用核心模型，定期更新！
- Section 8 2025-Google ADK 輕鬆打造多智能體系統-支持ollama、mcp及自帶UI介面
- Section 9 不用寫程式！安裝並完成第一個n8n + AI Agent！
What You’ll Learn
- 快速搭建大型語言模型應用，實現文字生成、語音合成與圖片解讀。
- 理解並應用 RAG 與 Rerank 技術，提升生成式 AI 的回答精準度。
- 掌握 Llama3 與 Mistral V3 模型的微調與實作，開發專屬 AI 模型。
- 創建本地化知識庫與文件查詢應用，實現智能化信息檢索。
- 開發多媒體 AI 解決方案，支持 txt、docx、pptx、PDF 等多類型文件處理。
