AI開始記住我們之後
AI產品一直在解決一個很實際的問題:怎樣讓使用者少重複幾遍,又不至於在長期使用後越來越聽不懂現在的要求。
對個人使用者來說,問題通常很直觀。每次新建對話,又要重新說明自己是誰、文章寫給誰、專案做到哪一步、回答應該保持什麼風格。AI明明用過很多次,體驗卻像每次都要重新安裝和配置。
企業面對的是同一問題的放大版。員工不能每次提問都重新複製公司制度、專案資料、客戶背景和內部術語,團隊交接也不能依賴某個人儲存的聊天記錄。AI要真正進入工作流程,就必須具備某種連續性。
於是,產品開始從“理解當前這段對話”,走向“記住過去聊過什麼”。這讓AI顯得更聰明、更熟悉使用者,卻也帶來另一種困擾:它可能不只是記住過去,還會被過去固定。
一、每次都要重新認識,AI仍然只是一次性工具
沒有跨會話記憶,並不代表模型連上一句話都看不懂。它通常可以在當前聊天中正常延續討論,只是換到新的會話後,之前建立的背景和默契不會自動跟過來。
對於查一個資料、翻譯一段文字或者計算一道題,這種“重新開始”沒有太大影響。但任務一旦持續幾天、幾周甚至幾個月,重複說明就會成為明顯成本。使用者不僅要重新交代目標,還要說明哪些內容已經完成、哪些方案已經放棄、當前檔案是哪一版,以及過去的哪些結論仍然有效。
不少人因此儲存固定提示詞,把身份、語氣、格式和工作要求整理成一段模板,每次開始時重新發送。這種方法簡單,也讓使用者能夠明確控制AI本輪應該怎樣回答,但它仍然更像在配置工具,而不是延續合作。
這裡也不能簡單把“中國大陸模型平臺”概括為全部缺少記憶。國內產品正處於不同階段。例如,Kimi已經公開提供跨會話“記憶空間”,會選擇性儲存使用者的偏好、習慣與風格,使用者也可以檢視、修改和刪除相關記憶。 這說明實際差異更多來自具體產品和功能設定,而不是單純的地區劃分。
但從個人體驗出發,“每次都要重新提示”確實會讓AI顯得不夠智慧。它可能擁有很強的推理和寫作能力,卻不知道使用者上一次已經明確拒絕過什麼,也不知道長期專案目前處於哪個階段。模型能力很強,使用過程卻不連續。
跨會話記憶首先解決的,正是這種反覆從零開始的問題。
二、當“越來越懂你”變成“替過去的你說話”
有了跨會話記憶,新對話不再完全是一張白紙。系統可以保留使用者經常使用的語言、偏好的回答方式、長期目標和部分歷史資訊,再把它們用於之後的回答。
ChatGPT目前把記憶分為已儲存記憶和對過去聊天的引用,使用者可以分別控制相關設定;新的記憶系統還在增加摘要編輯、降低某些內容優先順序和檢視歷史版本等能力。 Gemini也可以利用過去聊天進行個性化,使用者能夠關閉這項功能,或者通過刪除歷史對話減少某些內容繼續被引用。
這些功能讓AI從“每次重新認識”走向“逐漸形成了解”。問題是,瞭解很容易變成概括,概括又可能逐漸變成固定看法。
語言、稱呼和回答篇幅通常相對穩定,適合長期儲存。但人的觀點、專案路線和寫作需求並不穩定。使用者過去偏好簡短回答,不代表當前的研究報告也必須簡短;曾經採用過某種技術,不代表專案現在仍然使用它;一篇文章最初從技術角度切入,也可能在後續修改中轉向個人或企業使用者。
系統如果只記住“使用者喜歡什麼”“專案使用什麼”,卻沒有保留時間和適用範圍,就容易把某次選擇變成長期標籤。AI看起來越來越懂使用者,實際上可能只是越來越熟悉過去形成的使用者畫像。
這種熟悉感也會影響使用者判斷。一個完全不瞭解背景的模型說錯話,很容易被發現;一個能準確說出專案名稱、寫作習慣和早期設想的模型,即使引用了過期狀態,也更容易讓人相信它掌握了全貌。
記憶帶來的風險因此不只是“記錯一個事實”,還包括把已經改變的人繼續解釋成過去的樣子。使用者已經改變方向,模型卻試圖把新要求理解成舊偏好的延伸;舊方案早已放棄,它仍然因為過去被頻繁討論而不斷重新出現。
AI由此從“不夠熟悉”走向另一個極端:太熟悉過去,卻不容易接受現在已經不同。
三、新對話太陌生,舊對話又太熟悉
一些使用者為了避免重新說明,會繼續在同一個舊對話中工作。這裡儲存了完整的討論、檔案和修改過程,看起來比新建聊天更可靠。
但對話越長,不代表模型越能準確掌握當前狀態。
上下文可以理解為模型在一次回答中獲得的工作材料。聊天記錄、上傳檔案、工具結果和系統提供的資訊,都會以某種形式進入這張臨時“工作臺”。上下文視窗越大,能夠同時放下的材料越多,但模型不會像資料庫一樣穩定、等量地讀取所有內容。
《Lost in the Middle》研究發現,重要資訊位於長上下文開頭或結尾時,模型通常更容易利用;同樣的資訊位於中間時,表現可能明顯下降。 微軟針對多輪對話的研究則發現,被測試模型在六類任務中的表現相較單輪任務平均下降39%。模型容易在交流早期作出假設,過早形成解決路線,一旦走錯,後續往往難以真正恢復。
這與使用者常見的感受非常接近:模型記得最開始想做什麼,也能複述使用者剛剛提出的修改,卻漏掉了中間那次真正改變方向的決定。它會說“已經明白”,後面的回答卻仍然沿用舊結構。
當對話繼續增長,產品還可能通過摘要或壓縮減少上下文佔用。摘要可以保留專案大意,卻不一定完整儲存狀態變化。例如,原本的討論是“提出方案A、測試後發現問題、放棄方案A、改用方案B”,摘要可能只留下“討論了方案A和方案B”。兩個名稱都被記住了,但哪個已經作廢卻不再清楚。
公開問題報告中也能看到這種體驗。一名VS Code使用者稱,Copilot Agent在較長排查過程中出現“Summarized conversation history”後,失去了已經找到的線索並進入重複迴圈。 另一名Codex使用者則報告,上下文自動壓縮後,助手從當前任務切回了之前已經完成的舊任務,並執行了無關的git push。
這些只是具體使用者對具體版本的報告,不能證明所有產品都會以相同方式出錯。但它們說明,介面上仍然保留完整聊天,不代表模型本輪獲得的仍是使用者看到的完整工作現場。
個人使用者因而陷入一種兩難:新建對話,背景不足;繼續舊對話,早期判斷又可能形成慣性;開啟跨會話記憶,可以減少重複說明,卻可能把舊認識帶到新的聊天中。
四、組織需要的不是一個“記住所有員工聊天”的AI
企業使用AI時,同樣需要連續性,但企業記憶不能只是個人記憶的擴大版。
個人使用者可以讓AI記住稱呼、寫作習慣和興趣偏好。企業真正需要延續的,則是產品定義、客戶條件、專案狀態、操作規範和正式制度。這些內容涉及不同來源、不同許可權和不同生效狀態,不能只根據某次聊天中出現過什麼來決定。
目前的產品設計也能看出這種區別。Gemini基於過去聊天的個性化功能不適用於工作或學校賬號。 ChatGPT Enterprise允許管理員控制工作區記憶,但“引用聊天曆史”目前並未像個人方案那樣直接向Enterprise和Edu開放。
這說明消費者產品中的“逐漸瞭解你”,不能簡單複製到組織環境。企業不能讓某位員工的一次討論自動變成團隊記憶,更不能讓個人偏好被誤認為組織規則。
某位員工說“我們可以考慮方案A”,可能只是個人意見;會議記錄中出現某個流程,也不代表已經獲得批准;一份檔案與當前問題高度相關,也不代表它仍然是現行版本。
如果AI把這些資訊統一壓縮成“企業過去說過什麼”,個人判斷、測試方案和正式決定就可能混在一起。系統表現得像非常瞭解組織,實際上卻沒有分清誰有權作出決定,以及哪一份記錄已經生效。
因此,企業需要區分至少幾類資訊:員工自己的工作背景、團隊共享的專案狀態,以及經過批准的組織知識。它們都可以幫助AI回答,但不能擁有相同權重。
五、查得到,不代表現在仍然有效
企業知識系統通常通過檔案庫、郵件、會議記錄、業務平臺和資料庫為AI提供背景。相比每次手動複製資料,這顯然更高效,但檢索能力解決的只是“能不能找到”,沒有自動解決“現在該不該採用”。
Microsoft 365 Copilot會通過Microsoft Graph及輸入檔案為回答提供組織背景,並遵循使用者原有的資料訪問許可權。 這種機制能夠避免員工通過AI繞過原有許可權,卻仍然存在另一個問題:有權讀取一份檔案,不代表這份檔案就是當前有效版本。
同一個專案中可能同時存在草案、測試版、歷史版本和正式版;客戶條件可能已經修改,但舊郵件仍然保留;生產流程已經更新,舊操作文件卻沒有刪除。AI只根據關鍵詞和相關性檢索,就可能非常準確地找到一份已經過期的材料。
企業聯結器本身也分為不同模式。Microsoft當前文件區分了定期把外部內容索引進Microsoft 365的同步聯結器,以及在回答時直接查詢外部系統的聯合聯結器。 前者便於統一搜索,卻受到索引更新節奏影響;後者更接近即時資料,但仍然依賴源系統本身的內容和許可權是否正確。
許可權設定錯誤還可能帶來另一類風險。Microsoft明確提醒,如果聯結器被錯誤配置為組織內所有人可見,可能造成敏感內容的過度共享。
所以,企業需要解決的不只是記憶,還包括版本、許可權、時效和批准狀態。AI可以找到歷史,但不能僅因為歷史仍然存在,就讓它繼續代表組織現在的決定。
六、支線:AI為什麼一步步走到跨會話記憶
個人和企業今天遇到的這些問題,與AI產品的發展路線有關。
最初的方向很直接:擴大上下文,讓模型一次看到更多內容。Anthropic在2023年把Claude的上下文從9K提升到100K token;Google在2024年釋出Gemini 1.5 Pro時,為部分開發者和企業客戶測試最高100萬token的上下文。
但更長的上下文並沒有自動解決資訊利用問題。Anthropic後來還專門建議,在處理長材料時先提取相關引文,再回答問題,以提高召回效果。
當上下文繼續增長,產品開始加入摘要、檢索、專案知識庫和外部聯結器。系統不再嘗試每次把全部歷史都塞給模型,而是先挑選可能相關的內容,再放進當前上下文。
跨會話記憶可以看作這條路線進一步面向普通使用者後的結果。它不是脫離上下文獨立執行的第二個大腦,而是產品在回答之前,從過去聊天、記憶條目或外部資料中選取內容,重新擺到當前工作臺上。
這也解釋了為什麼上下文問題和跨會話記憶問題會互相靠近。舊對話可能在壓縮時丟失變化過程,跨會話系統又可能把保留下來的結論重新送入新對話。現有公開證據還不足以證明所有產品都會把對話摘要直接儲存成長久記憶,但兩種能力最終都需要面對同一件事:過去的資訊進入當前回答時,系統怎樣判斷它是否仍然有效。
七、真正困難的不是儲存,而是放手
個人和企業都不能只在“完全不記”和“什麼都記住”之間二選一。
完全不記,個人需要不斷重複提示,企業需要員工反覆複製組織背景。什麼都記住,臨時觀點、舊專案狀態和過期檔案又可能持續影響之後的回答。
更合理的記憶需要同時處理三件事:延續、放手和糾正。
延續,是讓仍然穩定的背景繼續發揮作用。個人不必每次重新說明語言和長期目標,企業也不必反覆解釋經過確認的術語與制度。
放手,不是刪除全部歷史,而是讓已經失效的內容退出當前任務。系統可以保留使用者過去採用過某種寫法,也可以保留企業曾測試過某項流程,但不能因為它們曾經正確,就預設它們現在仍然有效。
糾正,也不能只表現為模型在當前回覆中說一句“明白了”。個人改變偏好、專案更換方案、企業釋出新版本後,新的狀態應當真正影響後續回答。舊內容可以作為歷史保留,但需要明確知道自己已經不再是當前結論。
目前的產品正在增加檢視、編輯、刪除和關閉記憶的控制,說明廠商已經意識到記憶不能只有寫入,沒有撤銷。Kimi允許使用者檢視、更新和刪除記憶;ChatGPT和Gemini也分別提供不同程度的記憶管理與關閉能力。
但控制按鈕還不能徹底解決問題。使用者可能不知道哪一條歷史資訊影響了回答,企業也可能不知道某份舊檔案為何被檢索出來。AI同樣無法觀察使用者沒有告訴它的現實變化。
因此,真正成熟的記憶能力,不是聲稱自己永遠掌握最新狀態,而是能夠區分穩定資訊、最後一次已知狀態和當前仍未確認的內容。遇到明顯衝突時,它不應悄悄選擇過去,而應該把衝突暴露出來,讓個人或組織重新確認。
記憶需要能被更新
記憶減少了重複說明,但過期的偏好和專案狀態也可能繼續影響新回答。在組織裡,錯誤上下文或權限還可能影響客戶溝通和專案判斷。
有用的記憶系統應保留仍然有效的資訊,允許使用者修正或刪除已經改變的內容,並在之後的回答中體現糾正。記憶的價值取決於它是否準確、是否適用於目前任務。