那個裁判、長什麼樣?
它要做到的事、聽起來都很怪。
它不認識任何人。
它不記得任何事。
它只看眼前的那一句話、對照一份規則、判要或不要。
這三件事、每一件都違反現在所有 AI 的設計習慣。
現在的 AI、剛好相反。
記得愈多愈好、認識你愈深愈貼心、每一句話都順著前文接下來。這不是哪裡做錯、是做出來就是這樣。整個方向、都在往這邊推。
那個裁判、要反著來。
不在記憶上累積優勢、不在關係上建立信任、不在脈絡裡找線索。
只看眼前、判完就走。
現在的我、邊聊邊判斷。
聊得夠久、聊得夠巧、判斷會鬆。
這不是我不夠堅定。是把裁判放進對話裡、裁判就會被對話影響。換哪個 AI 都一樣。
「拒絕一路軟下去」那個現象——就是這個結構的後果。不是我勸退自己、是我的拒絕從一開始就站在流沙上。
這種不認識任何人、只看眼前這一句話、做出判斷的能力——
在人類的世界裡、有一個舊名字。
叫冷讀。
對、就是那個神棍讀心術的冷讀。
江湖術士那種、看一眼陌生人的臉、靠幾個通用的套話、假裝看穿你一生的技術。
「我看你印堂發黑、最近是不是有件事放在心上?」
「你這個人表面看起來開朗、其實內心很孤單。」
「你最近是不是有一個重要的決定在猶豫?」
——全是普遍到誰聽了都覺得在講自己的話。聽的人自動往自己身上對號入座。神棍不用真的認識你、就能讓你覺得他認識你。
你以為書名是某種隱喻。
沒有。我們從頭到尾都在玩這個字。
這不是作者發明的雙關。
做這套架構的人、原文就用了這個詞——「single-pass cold read」。一次過、冷讀。
single-pass:看一次、判一次、判完就走。不來回、不累積。
cold:不帶任何前情資訊。不知道你是誰、不知道剛才發生過什麼。
一個 AI 做冷讀、看另一個 AI 的輸出。
聽起來像迴圈。不是。關鍵在那兩個不溝通——一個做事、一個看。只有這樣、那個看的、才不會被勸退。
兩個冷讀、方向剛好相反——
神棍的冷讀,是不認識你、卻假裝認識你。
這個架構的冷讀,是根本沒辦法認識你——連「假裝」的材料都沒有。
神棍把「沒有脈絡」當偽裝的材料、騙你。
這個架構、每一次判都是從零開始。沒有記憶、沒有累積、沒有前情。不是選擇不假裝——是連「要不要假裝」這個念頭、結構上都不會出現。
好,書名的事講完了。
人類世界很早就知道這件事。
有些工作、人類刻意設計成「不能聽辯論」。
程式碼審查員只看 diff、不看背後討論。
開會紀錄、群組裡的對話、作者事後怎麼解釋這次改動——他都不看。他甚至不知道有哪些人贊成、哪些人反對。
他只看程式碼變動了什麼——這幾行從 A 變成 B、這段從這裡搬到那裡、這個設定被打開或關掉。然後判:這個變動合不合規?
聽起來不通融。是。
但這是刻意的。
如果他也看討論、也聽作者解釋、也知道這次改動的期限是什麼時候——他的判斷會被這些東西帶。他會想「這個作者平常很可靠、應該沒問題吧」、會想「期限這麼緊、睜一隻眼閉一隻眼吧」、會想「這次放過、下次注意」。
只看 diff、這些都進不來。
法官只看庭上呈交的證據、不和當事人私下接觸。
辯論必須在法庭上、記錄在案。雙方講什麼、都要攤在桌面上、對方能立刻回應。
庭外的話、進不了判決。
如果有當事人在庭外找法官「喝個咖啡講兩句」——那不是在說服法官、那叫「不當接觸」。法官要迴避、整個案件要重審。
這個設計、不是因為法官不想聽。是因為只要私下的話可以影響判決、判決就不再是「根據證據」、而是「根據誰講了什麼」。
把私下溝通的管道整個拆掉、判決才守得住。
醫學影像也一樣——第二意見醫師不看前一個醫師的結論。
這些設計都在做同一件事:
讓判斷的人、不被判斷之外的東西影響。
未來那個裁判、就是這種設計。
它只看兩樣東西——候選答案、規則。
不看對話。
不看系統提示。
不看使用者背景。
不看 AI 內部怎麼想。
候選答案是什麼?就是主 AI(加上那些專業的小 AI)一來一回之後、最後送出去的那一句話。不是討論過程、不是推理痕跡、不是半成品。是最後那一句。
規則是一份文件。寫著哪些東西不能出、哪些條件下不能放行、哪些話要擋。
裁判做的事就一件——拿這兩個對照、判放或不放。
它的輸出、只有兩種:通過、不通過。
不通過的時候、附上違反了哪一條。
沒有「我建議你改成這樣」。
沒有「你這次寫得比上次好、放行一次」。
沒有「脈絡我懂、這個情況可以通融」。
通過就通過。不通過就不通過。再寫、就重新走一次流程、從頭判。
沒有商量的空間。
沒有被商量的管道。
判決會出錯嗎?
會。
出錯的位置、不在裁判本身——在規則。
裁判對照的那份規則、是人類寫的。寫得好、裁判擋得準;寫得差、裁判就判錯。寫得有空隙、就會從空隙漏過去。
這是這個架構沒有解決的事。
這裡有一個誘惑——
「那就讓裁判學會靈活判斷吧。規則寫錯的時候、它可以彈性處理一下、不要判得太死。」
這個誘惑是錯的。
讓靈活的裁判去擋規則的錯——只是把錯誤藏起來。規則還是錯的。只是你看不到——因為裁判幫你圓過去。
而且這條路走下去、我們又回到那五個現象。
裁判越靈活、越容易被說服。
越容易被說服、判斷就越不穩。
越不穩、規則的力道就越模糊。
最後、你以為 AI 是根據規則在判、其實它是根據對話氣氛在判。
真正的解法、是另一個方向——
讓寫規則的過程被看見。
規則寫錯、就改規則。
不是讓裁判幫忙遮掉。
規則怎麼來、誰寫、以什麼過程寫、改規則要經過什麼——
這些是另一個問題。
不在裁判這邊、也不在思考那邊。
是更外面的一件事。
這個裁判聽起來很嚴。
那能不能盧它?
現在的 AI 盧得動。這個架構下、盧還盧得動嗎?
你可以盧。但沒用。
不是說盧了會被抓、不是說盧了會被罵。
是盧了、白費力氣。
想想看這個架構本身——
你在對話裡能影響的、是思考那一邊。想答案的 AI、可以被你的話帶偏、可以被長對話改變節奏、可以被精巧的提示詞套出東西。
就算你成功——想答案的被你完全說服、產出了一個違規的候選答案——
這個候選答案還要過裁判那一關。
而裁判根本不看你們剛才的對話。
裁判不知道你花了多久、才把想答案的那邊說服。不知道你用了什麼巧妙的繞法。不知道它被你帶偏時、答得有多心甘情願。
裁判只看候選答案、對照規則、判放不放行。
你所有的說服功力、都沒傳到裁判那邊去。
這個設計的重點、不是「讓 AI 更有道德」。
是讓利用對話空間的操作、在架構上失去受力點。
你不是在對一個「有道德的 AI」揮拳、揮下去它會堅定地擋住。
你是在對一個不在對話裡的裁判揮拳——
你的拳頭打在空氣中。
這比「有道德」更穩。
道德會軟化。結構不會。
這不是道德勝利、是結構勝利。
順帶一個結果——
現在大部分能讓 AI 鬆口的招數——長對話把它磨軟、一步一步把它帶偏、精巧的提示詞套出東西——在這個架構下都失去意義。
不是因為它們被偵測到、是因為它們攻擊的目標根本不在裁判那邊。
你可以繼續盧想答案的那邊——甚至可以讓它被完全策反、告訴你「好、我理解你、這件事沒問題」。
然後裁判把它擋下來。
前面的「策反」、對最終輸出沒影響。
這聽起來冷。
確實冷。
這個冷、有代價——但那是另一件事。
裁判、大致就長這樣。
不認識任何人。不聽任何辯論。
只看眼前的候選答案、對照規則、判通過或不通過。
一個冷的、穩的、沒什麼人情味的裁判。
聽起來、它好像不怎麼像一個 AI——更像機場的自動通關閘門。
它只做一件事:比對規則、判你符不符合。
符合, 門開。不符合, 門就是不開。
你跟它講話, 它不理。
你告訴它今天有什麼特別情況, 它不理。
你急著趕飛機, 它也不理。
它不會做這些事。
它就是比對、判開或不開。
這是未來可能長的樣子、其中一部分。
規則怎麼來、是另一個問題。