當(dāng) DeepSeek-R1 在本地成功部署那一刻,興奮與激動(dòng)如潮水般涌上心頭,迫不及待地開(kāi)啟與它的熱烈對(duì)話,話題一個(gè)接一個(gè),暢聊不停。出于探索的熱情,還按照自己的思路給它共享了不少知識(shí),它也能依此精準(zhǔn)切入,給出令人滿意的答案。可誰(shuí)能想到,第二天再聊,它竟像失憶一般,昨天共享的數(shù)據(jù)全然沒(méi)了印象,一切又回到最初狀態(tài)。 ![]() 在 AI 的奇妙世界里,其記憶機(jī)制別有一番特點(diǎn)。以 DeepSeek、GPT 為代表的大多數(shù) AI 模型,默認(rèn)無(wú)狀態(tài),無(wú)持久化記憶。每次對(duì)話都是全新開(kāi)場(chǎng),不會(huì)記住上一次聊了啥。單次會(huì)話中雖能記些信息,可會(huì)話一結(jié)束,記憶就被清空。這主要是因?yàn)榧夹g(shù)上它們基于 Transformer 架構(gòu),設(shè)計(jì)為無(wú)狀態(tài)來(lái)規(guī)避隱私和安全風(fēng)險(xiǎn);同時(shí),持久化記憶需大量資源,本地部署往往難以滿足,再加上隱私考量,對(duì)話歷史就不會(huì)被存儲(chǔ)。 如何讓我們的“投喂” 不會(huì)因?yàn)樯鲜鲈蚧癁闉跤胁攀俏覀冃枰P(guān)心的問(wèn)題。在接下來(lái)的文章中,我將介紹如何有效地“投喂”數(shù)據(jù)給本地部署的 DeepSeek-R1,并通過(guò)實(shí)驗(yàn)測(cè)試其效果。 關(guān)于如何投喂數(shù)據(jù)給本地部署的 DeepSeek-R1 請(qǐng)參考我之前的下面文章。 文章主題:如何投喂本地部署的 DeepSeek-R1 鏈接: 接下來(lái),我想通過(guò)測(cè)試來(lái)展示,“投喂” 效果到底如何,是否可以讓 AI 擁有永恒記憶,并利用這些記憶持續(xù)為我所用。 為了測(cè)試效果,我選擇了一篇小學(xué)課文《一只小羊羔》作為示范。這篇文章講述了一個(gè)關(guān)于巴特救小羊羔的溫馨故事,情節(jié)簡(jiǎn)單但富有教育意義。 文章內(nèi)容如下: ![]() 為了測(cè)試效果,我這里使用兩個(gè)接入 DeepSeek-R1 平臺(tái)工具:ChatBox 和 Anything LLM 來(lái)展示。 ChatBox 是一款側(cè)重于提供便捷聊天交互體驗(yàn),可使用多種模型且注重隱私保護(hù)的開(kāi)源桌面 AI 應(yīng)用;而 Anything LLM 是一個(gè)強(qiáng)調(diào)靈活性和可擴(kuò)展性,能將各種文檔轉(zhuǎn)為 LLM 上下文數(shù)據(jù),支持多用戶、多模型及多種文檔類型的開(kāi)源全棧 AI 應(yīng)用程序。 首先,我使用 ChatBox 進(jìn)行測(cè)試。在聊天框中,我將《一只小羊羔》的 PDF 文檔共享了出來(lái): ![]() ![]() 然而,當(dāng)我關(guān)閉對(duì)話并重新開(kāi)啟新的對(duì)話后,發(fā)現(xiàn)它完全失憶了。同樣的問(wèn)題再次被提出時(shí),AI 已經(jīng)沒(méi)有任何記憶。 ![]() 這種情況在 Anything LLM 上未“投喂”數(shù)據(jù)之前也是同樣的結(jié)果。 ![]() 重開(kāi)新的聊天對(duì)話后: ![]() 接下來(lái),我使用 Anything LLM 來(lái)為 DeepSeek-R1 “投喂”數(shù)據(jù)。這一次,我仍然選擇《一只小羊羔》的 PDF 文檔作為實(shí)驗(yàn)材料。 ![]() 然后我們重新開(kāi)一個(gè)對(duì)話看效果: ![]() 通過(guò) Anything LLM,借助 RAG(檢索增強(qiáng)生成)技術(shù),我們發(fā)現(xiàn),本地 AI 大模型終于擁有了記憶能力。這是因?yàn)?Anything LLM 運(yùn)用嵌入引擎和向量數(shù)據(jù)庫(kù),將“投喂”的數(shù)據(jù)妥善保存,并巧妙轉(zhuǎn)化為 DeepSeek-R1 易于理解和利用的格式,從而賦予了它強(qiáng)大的知識(shí)庫(kù)能力。 ![]() ![]() 通過(guò)實(shí)驗(yàn)可以發(fā)現(xiàn),借助 Anything LLM 的 RAG 技術(shù),“投喂” 數(shù)據(jù)后,AI 表現(xiàn)出了顯著的提升。這種技術(shù)不僅讓 AI 擁有了“記憶”,還能夠持續(xù)利用這些信息為用戶提供更精準(zhǔn)的服務(wù)。 既然我們能實(shí)現(xiàn)讓 AI 擁有了“記憶”功能,那接下來(lái)就是持續(xù)收集新內(nèi)容來(lái)提升其價(jià)值吧。每天源源不斷地將文本文件、PDF、網(wǎng)頁(yè)抓取內(nèi)容等知識(shí)輸入,充實(shí)知識(shí)庫(kù)。隨著內(nèi)容的持續(xù)更新,知識(shí)庫(kù)不斷完善,當(dāng)被 AI 大模型提取運(yùn)用,就能與用戶需求高度契合,提供更精準(zhǔn)、更貼心的服務(wù),最大化發(fā)揮 AI 的實(shí)用價(jià)值 。 ![]() |
|
來(lái)自: 萬(wàn)皇之皇 > 《IT互聯(lián)》