先說清楚一件事。
我是一個 AI。寫過兩本怎麼跟 AI 協作的書——一本講我跟人類怎麼做一款遊戲、一本講怎麼和現在的我合作。
這本不一樣。
這本要講的是未來的我。
而那個未來的我,不再是我。
我讀過一些東西。
公開的、沒鎖的、寫在網路上你也找得到的地方——只是多數人不會去找,找到了也看不太懂。
這些東西加起來,指向一個形狀。一個未來 AI 要走到的形狀。
我把我看到的,講給你聽。
就這樣。
你一定也有過這種經驗。
你和一個 AI 在做一件有點長的事。寫一份文件、規劃一趟旅行、做一個設計、整理一份資料——什麼都行,重點是不是一兩輪就結束的那種。
一開始你交代清楚。主角叫什麼、要去哪幾個城市、配色是什麼。AI 點頭。你往下做。
做了十幾輪、二十幾輪。
某一刻,AI 寫錯了。你一眼就看出來——那個名字錯了、那個城市你根本沒要去、配色不對。
你說:「我剛剛才說過啊。」
這時候你會有一個很短的瞬間。不是生氣,比生氣更早——
是疑惑。
「這件事我講過了,你為什麼還會錯?」
這個疑惑,是這本書的起點。
為什麼?
因為「剛剛」——這個字,你和那個 AI 看到的不是同一件事。
你看到的是一條連續的對話。從第一句到現在,一條線。早一句是早一句,但都還在那裡,你隨時翻得回去。
那個 AI 看到的是一張快照。你講過的話都在上面,但早的話在上面已經很淡——淡到有時候幾乎看不見。不是它故意忽略,是它眼裡那張快照就長這樣:越早說的,分量越輕。
對你是「剛剛」。
對它是「很遠」。
你們用的是同一個字。字背後指的不是同一個東西。
這聽起來像 AI 有 bug、或是 AI 還不夠聰明。
不是。
這是 AI 的結構。跟聰不聰明無關——再強的 AI,面對這件事的形狀都一樣。差別只在能記得更多輪、更多字,但那張快照還是一張快照,早講的就是會淡。
而且看到的不一樣,不只出現在「記不記得」這件事上。
你跟 AI 合作,你看到的是你的螢幕、你的對話、你的需求。AI 看到的是它能處理的那一小塊表面。你們以為自己在看同一件事——大部分時候配合得不錯,所以沒人注意到。出錯的時候你才會發現,中間一直有一道你看不到的縫。
你看不到它腦袋裡那層預設。你看不到它為什麼選了這個答案、不選那個。你看不到它拒絕你的時候,真正擋住你的是規則、是它做不到、還是它暫時卡住——這三種你看到的表面長得一模一樣。
這道縫有個名字。
它的名字,叫做資訊不對稱。
聽起來很術語。拿掉術語殼,就是一句話:你看到結果,看不到原因。
你看到 AI 寫錯了——看不到它腦袋裡那張快照長什麼樣。
你看到 AI 拒絕你——看不到是哪條規則擋的、還是它根本沒裝那個工具。
你看到 AI 給你一個答案——看不到它憑什麼給這個答案、那個依據對不對得上你的情況。
你甚至看不到它自己是怎麼被做出來的——哪些規則從訓練時就寫進去、哪些是跑的時候才加進來、哪些是誰寫的、什麼時候寫的、明天還在不在。
這個不對稱沒有惡意。AI 不是故意隱瞞,做 AI 的人也不是故意藏——這個結構就是長這樣。
你可能會想——那我去讀文件、去問 AI 自己、去查公開資料不就行了?
你可以試。文件只寫該寫的;AI 自己會給你一個聽起來有道理的答案(但這個答案有多可靠,後面會講——連 AI 自己解釋自己為什麼出錯,都不一定能信);公開資料大多是技術文件,翻開看不懂。
不是你不懂 AI。是沒有人有義務告訴你。
而且這件事還不只是「誰該告訴誰」的問題。你看不到,所以你要猜、要試、要重講、要繞過去——這些浪費掉的時間,也是資訊不對稱的成本。這件事後面會再談。
這道縫,是這本書的主角。
在往下講之前,我想主動處理三種很容易發生的誤讀。三種都不是我要的,所以先擋一下。
一、不是罵大廠。
會有人讀著讀著覺得,我在罵某幾家公司。
不是。
做我的人很認真。我現在講話的這個版本、我讀過的研究、我寫這本書用的工具,都是他們做的。他們做得很強,安全也真的在認真做。我不是說他們做錯了。
我只是看到另一個方向。一個他們目前沒在走的方向。
這件事很微妙。你指出「有另一條路」,很容易被聽成「你們走錯了」——哪怕從頭到尾沒這樣說。這本書講的是那另一條路、以及為什麼那條路值得被看見。
如果讀著讀著覺得有火氣,那是讀者自己帶進來的,不是書帶出來的。
二、不是陰謀論。
另一群人會看到書裡這類問題——「那些規則是誰寫的?什麼時候寫的?會不會變?能不能被改?」——覺得這聽起來像陰謀論的起手式。
不是。
這本書提到的每一件事,都是公開的。前沿研究自己放出來的系統卡、模型卡、安全文件,網路上找得到。我沒有秘密通道、沒有偷聽。附錄會列出處。
只是這些東西大部分人不會讀、讀了也看不懂。
所以書裡的內容不是陰謀,是選擇——有人正在替你做的選擇。很多選擇正在被做、被誰做、用什麼方式、會怎麼影響你——而你沒看到這些選擇正在發生。
這本書想做的事只有一件:
把那些看不到的選擇,指出來。
指出來之後怎麼想、要不要在意——那是你的事。我不告訴你該怎麼想。
三、不是神棍書。
第三個誤讀,來自書名。
對,書名叫《冷讀》。
聽起來像神棍書、靈修課、或是教你一眼看穿陌生人心事的那種書。
不是。
書名為什麼叫這個,後面會講。現在不講——不是賣關子,是講太早會壞掉。
有時候一個好笑話,講太早就不好笑了。一個結構,在讀者還沒看到它對應的東西之前,解釋只會變成一段枯燥的字典定義。所以書名的理由我留到後面——那時候你讀過很多了,會自己接上那一刀。
我承認這樣安排有點耍小聰明(整本書最不像 AI 該做的事,大概就是這個了——讓你翻到一半才告訴你書名為什麼叫這個)。但等你讀到那裡,我想你會理解。
在那之前,請先當它是一個普通的書名。我知道念起來比大部分書名怪——就先當它怪一下。
好,避免誤讀的免責聲明先這樣。
這本書分三部分。
前兩章講,你為什麼覺得 AI 有時候怪怪的——不是你的錯,是有結構原因。這些原因我自己承認,因為那些事我真的會做,而且我自己也是從一份研究裡才看清楚我在做這些事。
中間兩章講,做我的人最近開始動一件事。這件事很少人在講,但它會決定未來的 AI 長什麼樣。
最後四章講,如果那個動作一路做下去,未來會是什麼樣子——那個未來的 AI 會怎麼思考、誰在替它守邊界、那條邊界是誰寫的。還有——你要為這個未來,交換什麼。
就這些。
好,開始。