為什麼我剛說過的話,你下一秒就忘了?

在上一章的實戰中,我們成功地把 PDF 變成向量、存進了向量資料庫,並用 LangChain 串起了一條能看小抄回答問題的強大 RAG (檢索增強生成) 客服機器人鏈 (Chain)。 如果你問這個機器人:「請問水星冰箱的保固是幾年?」,它會去資料庫找到那份型錄,並精準地回答:「保固為一年。」

這看起來非常的完美與專業。但是,如果你緊接著在對話框再問他第二個問題: 「那我可以延長到三年嗎?」

這時候,可怕的災難就發生了。 你的 RAG 機器人會完全當機,或者開始胡說八道回答你:「抱歉,我在資料庫中找不到『那我可以延長到三年嗎』的相關資訊。」 為什麼?因為當你的程式把「那我可以延長到三年嗎?」這句話丟進向量資料庫去搜尋時,資料庫根本不知道你在指什麼東西!資料庫裡的冰箱說明書,絕對不會有一段話叫做「那我可以...」。

你這才驚覺一個關於 AI 底層架構的可怕事實:所有的大語言模型 (LLM),天生就是一個沒有海馬迴的「超級金魚腦」。 不管他多聰明,每一次你透過 API 發送問題給 ChatGPT,對它來說都是一次「全新的人生」。它完全不記得上一秒鐘你們才剛熱烈討論過「水星冰箱」。

如果你想要讓你的 RAG 機器人能夠像真實的人類客服一樣,跟你「一來一往」地連續對話、承接上下文,你必須親手為它裝上記憶中樞:記憶體模組 (Memory)


🧠 給 AI 一本對話筆記本:Conversation History

在 LangChain 裡,為 AI 加上記憶力的概念非常直覺。我們不需要、也無法去修改 OpenAI 伺服器的底層參數,我們只需要做一個非常聰明的「偷吃步 (Workaround)」:

「在每次發問時,把你跟 AI 過去 10 句的聊天紀錄 (History),全部貼在 Prompt 裡面,當作背景資訊一起傳送過去!」

如果把記憶加進去,你問第二個問題的底層運作流程,會變得像科幻電影一樣精彩:

  1. 你發問:「那我可以延長到三年嗎?」
  2. LangChain 攔截問題:LangChain 不會立刻去搜尋。它打開它內建的 ConversationBufferMemory (筆記本),發現你們剛才聊過水星冰箱。
  3. 改寫問題 (Query Transformation):LangChain 把你的問題與歷史對話,丟給一個負責做苦工的「小型 AI 模型」,並下達指令:「請幫我把這句話結合上下文,翻譯成一個具有完整主詞的問題,不要回答」。 小型 AI 翻譯後產出:「使用者真正想問的是:水星冰箱的保固期,可以延長到三年嗎?
  4. 搜尋圖書館:LangChain 拿著這個「被補滿的完整新問題」,去向量資料庫搜尋。這下子,它精準地命中了水星冰箱的保固延長條款 PDF 頁面。
  5. 最終回答:最後,大 AI 看著找出來的條款小抄,回答你:「可以的!水星冰箱提供加價 1000 元延長至三年保固的尊榮服務喔!」

這就是現代高階客服機器人能夠順暢聊天的核心架構秘密:帶有歷史記憶的對話檢索鏈 (Conversational Retrieval Chain)


🚀 進入下一代 AI 宇宙:從 RAG 躍升至 Agents (智能體)

學會了 RAG 與 Memory,你已經站在了 2023 年 AI 技術的最頂峰,這足夠讓你去接下許多企業級的客服專案了。 但科技的演進狂潮並沒有停下來。2024 年,AI 產業界迎來了一個更具破壞性、更接近通用人工智慧 (AGI) 的終極概念:Agents (智能體/代理人)

RAG 系統雖然強大且精準,但它非常「被動」。它的行為模式永遠只能是:「你問一個問題 ➡️ 它去資料庫找一份小抄 ➡️ 然後回答你」。 如果今天你的老闆丟給你一個極度複雜的要求:

「小明,請幫我上網搜尋一下目前市面上規格最好的三款電競筆電,然後跟我們公司內部的最新產品線規格做比較。最後幫我寫一份中英文對照的分析報表,並用 Email 寄給行銷部經理。」

傳統的 RAG 系統完全做不到。因為它不知道怎麼開瀏覽器上網查最新資料、不知道怎麼寫 CSV 報表、更不知道怎麼呼叫 Gmail API 發信。

Agent 的革命性概念,就是賦予 AI「使用工具 (Tools)」與「自主思考計畫 (Reasoning / ReAct)」的能力。

在 LangChain 的高階 Agent 架構中,你不只給 AI 一個 Prompt,你還給它一個「工具箱」:

  • 🔧 工具 A:GoogleSearchTool (賦予它上網爬取最新資料的能力)
  • 🔧 工具 B:CompanyDatabaseTool (就是我們前面學的 RAG 系統,賦予它查閱公司機密的能力)
  • 🔧 工具 C:SendEmailTool (賦予它發送 Email 的行動力)

當老闆下達複雜指令時,Agent 的大腦會開始自己進行鏈式思考 (Chain of Thought),你會在終端機看到它瘋狂自言自語:

(思考中...)「老闆要我寫報表並寄出。第一步,我必須先呼叫【工具 A】上網查對手資料。」 (呼叫工具... 取得資料) (思考中...)「好的,我拿到對手資料了。第二步,我必須呼叫【工具 B】去內部資料庫查我們的規格書。」 (呼叫工具... 取得資料) (思考中...)「資料比對完成,我已經生成中英文報表。第三步,我將呼叫【工具 C】把報表寄給行銷部 (marketing@company.com)。」 (任務完成!)

Agent 會「自己決定」要依照什麼順序、呼叫什麼工具、甚至在發現錯誤時(例如 Email 地址打錯)自己想辦法重新修正! 這就是科幻電影鋼鐵人裡面的 J.A.R.V.I.S,這才是真正能幫你上班打工的「自主虛擬員工」!


🎉 結語:歡迎來到 AI 系統架構師的新紀元

透過這五堂 LangChain RAG 基礎與觀念課程,你經歷了一段不可思議的技術躍遷旅程。

  1. 你明白了 AI 為什麼會產生可怕的幻覺 (Hallucination),以及為什麼企業需要 RAG。
  2. 你學會了用高維度的 Embedding 座標,取代傳統字串比對搜尋 (Vector Database 向量資料庫)。
  3. 你學會了怎麼用程式,自動把一本 500 頁的法規切成好消化的小肉丁 (Document Loaders & Text Splitters)。
  4. 你親手把這些樂高積木串成了一條會看小抄的客服機器人 (The Chain)。
  5. 你了解了讓機器人擁有記憶力 (Memory) 與自主思考行動力 (Agents) 的終極藍圖。

在過去,學完這些複雜的架構,可能需要花費幾十萬去上外面的資料科學大師班,寫上萬行的底層程式碼。 但現在,透過 Vibe Coding 的力量,你只需要具備「系統架構的宏觀思維」,用白話文對 Cursor 下達明確的 Prompt 指令,就能在幾分鐘內,瞬間組裝出這些原本高不可攀的企業級系統。

LangChain 與 LLM 的世界還在以每週為單位的速度瘋狂進化,每天都有新的神奇積木被發明出來。 但現在的你,已經擁有了最堅實、最正統的底層邏輯與心法。

帶上你的 Prompt 武器庫,大膽地去組合各種工具,去打造出下一個震驚世界的 AI 創新產品吧! 課程到此結束,但你身為頂尖 AI 開發者的旅程,現在才真正迎來全速爆發的開始!🚀

解鎖完整教學內容

本章為付費內容。加入專案即可解鎖超過 5000 字的深度解析,包含 10 個以上神級 Prompt 與真實 Source Code 範例!