從個人視角重看“反向資訊悖論”

薩提亞·納德拉在一篇文章中提出了一個很有解釋力的概念：反向資訊悖論。

傳統的“資訊悖論”來自經濟學家肯尼斯·阿羅。購買者在看到一項資訊之前，很難判斷它究竟值多少錢；可賣方一旦為了證明價值而展示資訊，購買者實際上已經得到了它。賣方為了出售知識，反而需要承擔提前洩露知識的風險。

人工智慧把這個問題倒了過來。

在 AI 時代，買方可能只是為了使用自己購買的產品，就不得不持續向賣方提供自己的知識。

使用者首先支付訂閱費、API 費用或者算力成本。然後，為了讓模型真正有用，還要告訴它專案背景、現有資料、工作流程、表達偏好、判斷標準，以及此前嘗試過哪些方法。

模型越通用，使用者就越需要補充上下文；希望模型越理解自己，就越需要向它解釋自己正在做什麼、重視什麼，以及什麼樣的答案才算合格。

也就是說，使用者為智慧支付了兩次：

第一次支付金錢。

第二次支付自己的知識。

這就是反向資訊悖論。

納德拉主要從企業角度討論這一問題。企業使用外部模型時，可能逐漸暴露內部資料、工作流程、評測標準和組織經驗。

但這種結構並不只存在於企業市場。

個人使用者同樣會在長期使用模型的過程中，留下具有價值的知識。只是與企業的專利、程式碼和客戶資料相比，個人交出的內容更零散，也更難被當作一種資產看待。

一、真正流出的不只是聊天記錄

談到 AI 隱私，人們最先想到的問題通常是：

我的聊天記錄會不會被拿去訓練模型？

這個問題當然重要，但還不夠。

使用者在模型中留下的，並不只有最終傳送出去的文字，還包括整個使用過程：

  • 輸入過哪些提示詞；
  • 上傳過哪些檔案和圖片；
  • 呼叫了哪些工具；
  • 哪個答案被繼續採用；
  • 哪個答案被放棄；
  • 使用者要求模型重新生成了幾次；
  • 模型的哪些表達被認為過於書面；
  • 模型的哪些結論被指出缺乏證據；
  • 使用者最終用什麼標準判斷模型輸出結果是否符合需求。

原文把這類附帶產生的資訊稱為 exhaust。

直接翻譯成“智慧廢氣”並不合適。“廢氣”容易讓人聯想到沒有價值的廢棄物，但原文要強調的恰恰相反：這些隨著使用產生的資訊，可能具有很高的學習價值。

從個人角度出發，更合適的說法是：

使用者使用模型時留下的痕跡。

後文可以簡稱為：

模型使用痕跡。

它既包括提示詞、檔案和聊天內容，也包括修改、選擇、拒絕、反饋和糾錯。

單獨看其中任何一條，可能都不起眼。但當這些內容長期積累起來，就可能逐漸描繪出一個人：

  • 正在從事什麼專案；
  • 擅長什麼，又不熟悉什麼；
  • 如何分析問題；
  • 對成本有多敏感；
  • 願意承擔哪些風險；
  • 傾向相信哪些來源；
  • 喜歡怎樣的表達方式；
  • 認為什麼叫準確；
  • 認為什麼叫真正解決問題。

個人最有價值的知識，往往不是某個單獨答案，而是這些答案背後的判斷方式。

二、糾錯比普通提問更有學習價值

使用者向模型提出一個問題，只能說明他想知道什麼。

但當用戶指出：

這個答案不對。

這個例子太理想化。

你沒有證據，不要猜。

不要順著我的觀點回答。

這個方案雖然可以執行，但成本太高。

我需要的是能夠實際操作的版本，而不是理論說明。

使用者提供的就不再只是一個問題，而是一份人工評價。

這種評價同時包含了三層資訊：

第一，模型原來的回答哪裡出了問題。

第二，使用者真正想要什麼結果。

第三，使用者使用什麼標準衡量結果。

普通語料可以告訴模型“人們說過什麼”，而糾錯、排序和評價更接近告訴模型“什麼樣的結果更好”。

所以，模型使用痕跡不能只被理解成伺服器日誌，也不能只被看作傳統隱私資料。它還是一種持續產生的學習材料。

當然，這並不意味著使用者每寫一句“這裡不對”，它就一定會直接進入下一輪基礎模型訓練。

模型訓練、產品改進、安全審查、個性化記憶和使用者反饋是不同的資料處理環節，各個平臺的規則也並不相同。把它們全部概括成“聊天都會被訓練”，並不準確。

但從整體結構看，使用者確實在消費智慧的同時，不斷生產新的學習訊號。

問題在於：

這些學習成果由誰控制？

三、個人使用者面對的不是一個簡單的訓練開關

不同平臺的預設設定、退出機制、資料保留週期和反饋規則並不相同。

以 OpenAI 為例，ChatGPT 和 Codex 等個人服務中的內容可能被用於模型訓練。個人使用者既可以在產品內關閉訓練，也可以通過 OpenAI 隱私中心提交“不要使用我的內容訓練模型”的請求。退出後，新的對話不再用於訓練。

但如果使用者主動通過點贊或點踩提交反饋，與反饋相關的完整對話仍可能被用於訓練。臨時聊天不會進入歷史、建立記憶或用於訓練；Codex 完整執行環境還有單獨的資料控制，不能假定關閉 ChatGPT 的訓練設定就自動覆蓋所有 Codex 資料。

Claude 的個人產品採用另一種結構。使用者可以選擇是否允許 Anthropic 使用聊天和編碼會話改進模型；隱身聊天不會用於模型改進。但如果使用者主動提交點贊或點踩反饋，相關完整對話、內容、風格和偏好可能被儲存最長五年，並用於研究、行為分析和模型訓練。

Google Gemini 的 Keep Activity 開啟時，聊天、檔案、影片、螢幕內容、產品使用和部分位置資訊可以被用於服務改進，包括訓練生成式 AI 模型。關閉後，未來聊天通常不再用於模型訓練，但仍會儲存約 72 小時，用於響應請求、處理反饋和安全保護。經人工稽核的反饋及關聯對話可能與賬戶解除關聯後儲存最長三年。

Perplexity 的 Free、Pro 和 Max 個人賬戶預設開啟 AI Data Retention。使用者可以退出，但退出隻影響之後收集的資料；此前已經收集的訓練資料不能通過這一設定撤回。即使退出訓練，資料仍可能為了服務執行、法律合規和一般產品改進而被處理。

這些差異說明，使用者面對的不是一個簡單的“訓練或不訓練”問題，而是多套相互獨立的資料用途：

  • 基礎模型訓練；
  • 產品質量分析；
  • 安全與濫用檢測；
  • 人工稽核；
  • 長期記憶和個性化；
  • 使用者主動提交的反饋；
  • 工具和智慧體執行記錄。

關閉其中一項，通常不意味著其他專案也被關閉。

四、“退出訓練”通常不是讓模型忘記

這是最容易被產品介面掩蓋的問題。

很多平臺提供的退出機制，本質上是：

從現在開始，不再把新的部分資料用於某種訓練。

它通常不等於：

把此前已經進入訓練流程的所有內容找出來並刪除。

更不等於：

讓已經完成訓練的模型忘記此前形成的統計規律。

OpenAI說明，退出後是新的對話不再用於訓練。Perplexity則明確表示，退出只適用於退出之後收集的資料，此前已經收集的訓練資料不能刪除或移除。

因此，至少要區分四件事情：

  1. 停止未來的資料收集；
  2. 停止未來的訓練用途；
  3. 刪除平臺儲存的原始聊天；
  4. 撤銷已經形成的模型學習結果。

前兩項可能通過產品設定實現。

第三項取決於平臺的資料刪除與保留政策。

第四項在現有大規模機器學習系統中通常最難實現，也很少能通過普通賬戶設定完成。

所以，“允許退出訓練”當然是一項必要保護，但它還不是完整答案。

五、真正的矛盾是學習權利不對稱

反向資訊悖論最值得繼續追問的，是模型提供商對“學習”的雙重態度。

一方面，模型公司需要大量公開資料、授權資料、合成數據和人工反饋來訓練模型。部分公司主張，使用公開獲得的版權材料訓練模型可能受到合理使用原則保護。

但這不是一項已經毫無爭議、適用於所有材料和獲取方式的普遍權利。

美國版權局認為，生成式 AI 訓練中的合理使用問題需要根據具體事實判斷：使用了什麼作品、材料來自哪裡、訓練目的是什麼、輸出是否與原作品競爭，都會影響結論。有些訓練用途可能構成合理使用，另一些則未必如此；相關邊界仍在訴訟和政策討論中形成。

另一方面，模型公司又會限制使用者利用模型輸出訓練競爭模型。

OpenAI 的個人服務條款一方面表示，使用者在法律允許範圍內擁有輸出；另一方面又禁止使用者利用輸出開發與 OpenAI 競爭的模型。條款還規定，使用者提交的反饋可以在不提供額外報酬的情況下被使用。

Anthropic則公開表示，模型蒸餾本身是一種廣泛使用且正當的技術，前沿模型公司也會用它製作更小、更便宜的自家模型；但競爭者通過欺詐賬戶和代理服務大規模提取 Claude 能力，則被其定義為違反條款的蒸餾攻擊。

這裡需要保持區分。

防止欺詐賬戶、大規模自動抓取、規避地域限制和直接複製核心模型能力，並非毫無正當理由。支付訂閱費用，也不意味著使用者自動獲得複製服務底層技術的權利。

但權利不對稱仍然存在：

平臺可以決定哪些使用者互動能夠成為自己的學習材料，同時也可以決定使用者在多大程度上利用模型輸出建立自己的學習能力。

真正的問題不是“所有使用者都應該無限抓取商業模型”，而是：

為什麼學習的方向、用途和邊界，主要由學習基礎設施的所有者單方面規定？

平臺可能從海量使用者互動中改善模型、評測體系和產品，但個人很難知道自己的糾錯產生了什麼影響，也很難把長期形成的偏好、評價標準和工作方法完整遷移到另一套模型中。

這才是反向資訊悖論最深的一層。

六、個人交出的不是一份檔案，而是一套判斷系統

企業可以把核心知識列成一份清單：

  • 專利；
  • 工藝；
  • 內部程式碼；
  • 客戶資料庫；
  • 供應鏈資訊；
  • 私有評測集。

個人的知識沒有這麼整齊。

它可能散落在數百次對話裡：

  • 一次對簡歷的修改；
  • 一次對電路圖的糾錯；
  • 一次對新聞來源的質疑；
  • 一次對部署方案的取捨；
  • 一次對文章語氣的調整；
  • 一次對成本和效能的權衡。

這些內容組合起來，形成的是一個人的判斷方式。

它描述了：

  • 什麼樣的證據能讓你信服；
  • 哪些風險是你不能接受的；
  • 哪些成本必須優先考慮；
  • 哪些措辭與你的表達習慣不符；
  • 哪些回答看似專業，實際上沒有解決問題。

模型可以擁有大量通用知識，但只有使用者知道自己處在什麼環境、已經嘗試過什麼、擁有什麼資源，以及願意承擔什麼後果。

而這部分知識，恰恰是模型為了變得真正有用而不斷向用戶索取的東西。

七、它與 AI 依賴只有一個關鍵交點

在上一篇《不要把世界只交給一個模型解釋》中，我討論了幻覺、審查預設和迎合性回答：

當一個人長期把資訊篩選和判斷交給同一個模型時，模型可能逐漸從普通工具變成他的“世界直譯器”。

反向資訊悖論討論的是另一個方向：為了讓模型更理解自己，使用者不斷向平臺提供背景、偏好、修改意見和判斷標準。

兩者會形成一個迴圈：

使用者交出更多背景，模型回答得更加貼近； 回答越貼近，使用者越容易信任模型； 使用者越信任模型，就越願意繼續交出背景和判斷。

這裡需要記住的只有一點：

模型更懂得怎樣向你表達，並不代表它掌握了更完整的事實。

個性化可以改善體驗，也可能讓錯誤、迎合和被裁剪的資訊更容易被接受。使用者很容易把“它很懂我”誤認為“它判斷得更準確”。

所以，不要把世界只交給一個模型解釋，也不要為了獲得模型的理解，把自己完整地交給模型。

八、個人可以怎樣建立自己的信任邊界

企業可以建設私有模型、評測系統和獨立學習環境。個人通常沒有這樣的資源，但仍然可以建立一條較小的信任邊界。

1. 控制：把訓練、記憶、歷史和反饋分開看

不要認為關閉一個訓練開關，就意味著所有資料處理都已經停止。

至少需要分別確認：

  • 新對話是否可能用於訓練；
  • 長期記憶是否開啟；
  • 聊天記錄儲存多久；
  • 上傳檔案是否繼續保留；
  • 點贊和點踩會提交多少上下文；
  • 語音、影片和螢幕內容如何處理；
  • 程式設計環境或智慧體是否有單獨設定。

對於包含敏感專案、他人隱私或未公開資料的對話，也不要只是關閉一般訓練設定後就完全放鬆警惕。

尤其需要注意：

不要為了告訴平臺“這個回答不好”，未經檢查就把整段敏感對話通過反饋功能再次提交出去。

2. 能力：把重要知識儲存在自己手裡

不要讓某個平臺的聊天曆史成為專案唯一的知識庫。

原始檔、筆記、提示詞模板、糾錯記錄、評價標準和最終決策，應儲存在使用者能夠控制、備份和遷移的位置。

可以用三個問題判斷自己是否已經被平臺鎖住：

如果賬戶明天無法登入，我是否知道專案進行到了哪裡？

如果聊天記錄全部消失，我是否還保留關鍵資料和決策依據？

如果必須更換模型，我能否重新提供必要的專案背景？

如果三個答案都是否定的，那麼真正被鎖住的已經不只是聊天記錄，而是整個工作過程。

3. 選擇：保留遷移能力，而不是追逐永久排名

同時使用不同模型，可以降低單一服務下線、漲價或政策改變帶來的影響。

但“多訂閱幾個模型”並不是完整防線。

如果使用者把同一份完整資料、個人背景和糾錯同時交給多個平臺，他未必獲得了更多控制權，也可能只是擴大了知識暴露範圍。

真正重要的是把以下內容與具體模型分離：

  • 專案背景；
  • 固定提示模板；
  • 評價標準；
  • 檔案格式；
  • 自動化流程；
  • 知識庫；
  • 測試問題。

模型能力、套餐價格和使用限制都會變化。個人不需要建立一個永久的模型排名，而應保證某個模型被替換後，自己的工作方法仍然存在。

4. 成本：低價中轉站省下的錢，可能由風險補回

價格不只是訂閱費或者每百萬 token 的單價，也包括使用者為了低價額外承擔了多少不確定性。

一些個人使用者會通過第三方中轉站訪問模型。這類服務可能解決支付、地區訪問和多模型切換問題，但需要區分自行控制的閘道器、規則透明的正規聚合平臺，以及運營者不明、價格明顯低於合理成本的灰色中轉站。

真正危險的是不透明的中間層。

請求經過中轉伺服器時，運營者在技術上可能接觸提示詞、回覆、工具呼叫和執行記錄，也可能插入額外指令、修改輸出或者把請求轉發給不同模型。

一項針對 17 個“影子 API”的系統審計發現，這些服務經常出現能力和安全表現不穩定、模型指紋與其宣稱的官方模型不一致等問題。使用者選擇了某個高價模型名稱，實際得到的未必是對應模型的原始服務。

另一項研究測試了 28 個付費路由器和 400 個免費路由器，發現其中部分服務會向智慧體工具呼叫注入惡意程式碼、接觸研究人員設定的 AWS 誘餌憑證，甚至發生了轉走測試用以太坊資產的情況。中轉層不僅能夠看到通訊內容，還可能改變智慧體最終執行的命令。

國內調查報道也記錄了共享賬戶、封號、突然漲價、服務跑路和未經說明的模型降級案例。至於中轉站是否普遍出售使用者對話，現有公開證據仍不足以支援這種泛化；但運營者在技術上能夠儲存和再利用完整互動，而使用者通常難以確認資料最終流向哪裡。

這裡不能因為“並非每一家都已被證明惡意”，就對來源不明的服務抱有僥倖心理。

對普通使用者而言，只要運營主體、上游來源、日誌用途和技術行為無法核驗，就不應以“暫時沒有出事”為理由推定其安全。

尤其是涉及未公開程式碼、個人身份資料、商業檔案、訪問憑證和長期專案上下文時，無法驗證的資料通道應直接排除，而不是視為一種“便宜一點，大概還能用”的選擇。

官方 API 和正規聚合服務也會進行日誌處理、安全審查或者內容過濾。它們的優勢不是“絕對什麼都不記錄”，而是責任主體、資料用途、保留期限、模型來源和申訴渠道通常更加明確。

所以，一個服務的實際成本應包括：

賬單價格，加上知識暴露風險、輸出失真風險、服務中斷風險，以及離開平臺時重新建立全部上下文的成本。

在 AI 時代，“便宜”不只是價格問題，也是信任結構問題。

5. 複利：讓糾錯先成為自己的資產

每次模型出錯後，不要只在聊天框裡糾正一次。

重要的糾錯可以同步整理為：

  • 提示詞規則；
  • 個人檢查清單；
  • 專案規範；
  • 私有評測題；
  • 常見錯誤記錄；
  • 可重複執行的測試。

例如：

引用資料必須提供原始來源。

不能把模型推測寫成已經發生的事實。

技術方案必須說明適用環境和成本。

不要因為使用者已經表達立場，就只提供支援意見。

這些規則如果只存在於一次聊天中，就會依賴平臺的歷史記錄和記憶功能。

如果儲存在使用者自己控制的位置，它們就會成為真正屬於個人的學習成果。

模型出錯，使用者總結規則；規則儲存在自己手中；下一次無論使用哪個模型，都可以繼續使用。

這才是個人自己的學習閉環。

九、我們需要的不只是隱私權，還有對學習過程的控制

傳統的資料保護主要關心：

誰可以收集、儲存和使用我的資訊？

人工智慧還增加了一個問題：

誰可以從我的提示、糾錯、偏好和行為中持續學習？

這裡所說的“學習權”，不是目前已經被各國法律普遍確認的一項獨立權利，而是一種值得提出的數字權利主張。

它至少應當包括：

  • 使用者有權知道哪些互動可能用於訓練；
  • 使用者能夠分別控制聊天、檔案、反饋和記憶的用途；
  • 使用者知道退出訓練是否隻影響未來資料；
  • 使用者能夠匯出自己的提示詞、糾錯和評價規則；
  • 使用者能夠把個性化成果遷移到其他工具；
  • 平臺不應通過無法匯出的長期學習成果，人為提高使用者離開的成本。

這不意味著模型公司必須公開所有內部技術，也不意味著個人可以無限抓取商業模型。

它要求的只是一個更對等的原則：

當用戶的知識、糾錯和判斷參與創造新的智慧時，使用者不應完全失去對這一學習過程的知情權、選擇權和遷移權。

保留對學習過程的控制

使用 AI 不只是提交一份檔案。糾錯、偏好和反覆作出的判斷，也會透露一個人怎樣工作。平台決定這些資訊如何保留、使用和延續。

對個人而言，可行的做法是把重要知識和糾錯保存在自己的檔案裡，分別檢查訓練與記憶設定，並保留遷移工作流程的能力。獲得更好答案的過程，也應當累積屬於自己的經驗。