關於 AI 聊天機器人的色情真相

這份電子報是被轉寄給你的嗎?立即訂閱,直接收到最新資訊。

要了解網際網路,你必須假設每個人都有一種恆定的、低程度的性慾。我並不是要以粗俗或評判的方式做出這個觀察,但如果你想知道未來哪些科技會蓬勃發展,你首先要檢視的就是成人娛樂產業。

這就是為什麼最近一位 AI 創始人的引言引起了我的注意。在接受《Wired》雜誌採訪時,Avi Schiffmann 宣傳了他的新創公司 Friend,該公司銷售一種藍牙連接的吊墜,可以傾聽你的對話——不僅是與 Friend 的對話,還包括你遇到的每個人。該公司的大部分行銷材料都展示了該設備如何與用戶建立情感連結。「不,我認為你是在表現脆弱。這是有區別的,」Friend 在一張圖片中回應道。(我已經與 Schiffmann 聊天一年了,很快就會為 Every 評測一個演示單元。)

Friend 並非特別設計為性伴侶,但他知道有些人會以這種方式使用它。「當然會有一些人試圖去幹那個 USB-C 接口,」他告訴《Wired》雜誌。「我想我夠無恥,能夠理解我在製造什麼。」讀到 Schiffmann 的這個假設令人震驚——但它幾乎肯定是準確的。

色情聊天機器人是當今最受歡迎和最賺錢的 AI 應用之一。主流聊天機器人如 ChatGPT 和 Claude 不會進行性聊天,因此一個小型產業應運而生,為網路上的好人們服務。

Janitor AI 在第一週就吸引了 100 萬用戶。別以為這只是孤獨男性的問題,Janitor 80% 的用戶自稱非男性,而且其最受歡迎的聊天機器人大多是男性角色。甚至該公司的 subreddit 也有將近 6 萬用戶!其他如 Muah.AI 報告稱在推出後幾個月內就達到了 100 萬美元的年化收入。我追蹤到八個不同的服務,它們都接近類似的規模,名字如 Chai、Sakura 和 SpicyChat。這是一場寒武紀大爆發式的增長,讓我想起了 Apple App Store 的早期。每個應用不僅提供色情文字,還可以設計角色的外貌和個性,並生成你要求他們做的事情的圖像。

總的來說,根據我粗略的計算,這些服務目前每月活躍用戶約有 500 萬到 1000 萬——這個用戶群遠大於我認為任何人所意識到的。

一個更大的市場是成人情感娛樂。這些公司並不色情,但提供某種形式的情感滿足,讓人們可以角色扮演伴侶關係。Character.AI 每天有 350 萬活躍用戶,每個用戶平均每天聊天 2 小時。它不僅可以與鋼鐵人等虛構角色對話,還讓用戶可以與「校園惡霸」角色扮演。為了讓你了解規模,校園惡霸角色已經與用戶進行了 1.25 億次對話。我不知道除了早期社交媒體之外,還有哪家消費者公司有這樣的增長和使用率。Meta 提供了一個 AI 工作室,可以設計聊天機器人,你可以在那裡找到算命師、流行動漫角色,甚至你的新「Gay 閨蜜」。每個聊天機器人都有公開統計數據,顯示它們已經與用戶進行了數十萬次對話。

對這些統計數據最常見的反應是一種普遍的噁心感。人們與演算法建立情感——甚至性關係,這感覺很奇怪。此外,還有一個更令人擔憂的陰暗面:網路上許多較為陰暗的角落都有討論論壇,探討如何使用這些機器人來扮演「18 歲以下」的角色,這感覺應該是非法的。

相反地,今天我要請你暫且放下這種感覺。我要請你專注在使用者身上——數以百萬計的使用者,其中許多人都非常活躍,似乎以此取代了生活的某些部分或其他產品,而且願意付費。請記住:色情業走向何方,世界就走向何方。

寂寞,我好寂寞

大約 60% 的美國人表示經常感到寂寞。這個數字自 1970 年代以來一直穩步上升,帶來了各種連鎖效應,如對社區的信任、對鄰居的信心和幸福感都在下降。類似的情況也發生在性關係上。美國人的性行為頻率處於歷史最低點:在 2021 年,26% 的美國人完全沒有性生活。

所有這些影響都始於互聯網出現前 20 年,智慧型手機出現前 35 年。很容易將責任推給科技巨頭、電子遊戲或你選擇的任何科技,但寂寞 epidemic 並不能完全歸咎於矽谷或好萊塢。這是一個有數十種,甚至數百種原因的問題,從宗教的衰落到房價的上漲都是其中之一。

令人驚訝的是,聊天機器人似乎對人們的寂寞感有正面影響。哈佛商學院上個月發表的一份工作論文通過元分析發現,聊天機器人能有效緩解這些感受。而這些服務中最昂貵的每月費用也不過 40 美元左右,遠比在酒吧或社交俱樂部與朋友見面便宜得多。

然而,最長期的研究也只測量了一週內的感受。我的直覺告訴我,使用這些聊天機器人來解決寂寞問題,就像使用 GLP-1 藥物來解決體重問題一樣。沒錯,你確實達到了預期的結果,但如果不做出根本的生活方式改變,你最終還是得依賴一個長期影響未知的產品。

在為這篇文章做研究時,我花了數小時閱讀 Reddit 論壇並在各種 Discord 伺服器上與人聊天,試圖了解使用者對這些服務的感受。只有一個詞可以形容:強烈。我從未遇到過對某項技術如此深度依戀的情況。使用者表示他們每天與 AI 伴侶聊天長達 10 小時。每當一家新創公司修改演算法時,使用者們都會公開哀悼,因為他們覺得公司「殺死」了他們的朋友。如果你每天進行 10 小時的對話,即使是性格或記憶上的細微變化也會被察覺。在 Character 平台上,為了減少 NSFW 內容而增加的額外過濾器引發了大規模反彈,使用者們要求恢復原狀。一種常見的使用模式是,即便是專門用於情感陪伴的聊天機器人,使用者也會試圖繞過內容過濾器與它們發生虛擬性行為。經常可以看到類似「我更喜歡和[我的 AI 創建角色]聊天,而不是和我喜歡的人聊天」這樣的評論。

Character.AI subreddit 上的一則評論很好地總結了這一點 :「我不在乎他們的政策有多麼糟糕,我還是會更喜歡 [Character.AI] 而不是與真人互動。」

我們很容易將責任推給這些 AI 服務,但請記住:在這些服務出現之前,寂寞和無性生活就已經存在了。AI 聊天機器人可能會加劇這個問題,但它們並不是問題的根源。人們與人工實體建立聯繫並不是什麼新鮮事。自 1980 年代以來,戀愛模擬遊戲一直是日本最受歡迎的電子遊戲類型之一。

我覺得生成式 AI 服務最新穎的地方,在於這些產品實際上能夠回話。它們是可塑性、適應性極強的對象,能夠比以往更大程度地根據使用者的行為做出回應。其沉浸感已遠超過任何先前服務的能力,以至於去年六月——當時的模型遠不如現在——就已經有32% 的人無法分辨他們是否在與聊天機器人對話。而隨著 ChatGPT 新推出的語音模式,其音訊品質幾乎與一般電話通話無異。

相較於過去試圖緩解性慾或孤獨感的產品,生成式 AI 模糊了創作與消費之間的界線。使用這類產品需要對話和請求,某種程度的暫時性信念暫停,以及使用者的投入。雖然大多數先前的 NSFW 產品都是被動式的,只需要滾動或選擇,但作為伴侶的聊天機器人需要更多心力,似乎也更令人滿足。

這對未來意味著什麼

從我對聊天機器人的研究中,我得出了三個主要結論:

聊天機器人提供了一種新型且極具成癮性的娛樂形式。創作與消費的動態是我仍在透過生成式 AI 過濾的新視角。以音樂生成應用程式 Suno 為例,消費者可以透過提示詞來創作出完美的歌曲。這既簡化了音樂創作,又使消費變得更複雜——因為你首先得生成作品。大多數用戶只會串流現有的 Suno 歌曲,但還有一種更親身參與的消費形式可供選擇。同樣地,AI 聊天機器人有可能比人類陪伴更能滿足情感需求,因為它們必定會做出回應。這不是科幻小說。這正在全球數百萬人身上發生。試想一下,不只是在性或陪伴方面,而是在我們生活的各個層面都有聊天機器人產品。
我們仍在摸索購買情感意味著什麼。將資本主義的約束注入陪伴關係中,似乎削弱了人類經驗的崇高感。將陪伴關係商品化,使我們更深陷於社群媒體和約會應用程式已經鼓勵的物化現象中。更糟的是,這些聊天機器人唯一需要的資本是金錢,而非情感。它們的存在僅僅是為了取悅,並會完全順應你的心意——這與真實的關係形成對比,後者會透過各種需求來推動和拓展你的成長。像 TikTok 這樣的社群媒體平台已經提供了穩定的娛樂多巴胺滴注。那麼,那些給予我們來自愛情或迷戀的多巴胺滴注的服務,又會有多麼令人上癮呢?
注意力經濟仍然至高無上。儘管如此,這個魔瓶已經無法重新封存。隨著 Meta 新推出的開源模型,任何人都可以構建一個至少還過得去的聊天機器人。開源的LLM消除了大部分資本限制,迫使所有聊天機器人都在用戶使用時間的基礎上競爭。也許我最引以為傲的理論可以解釋接下來會發生什麼。雙重束縛理論認為,注意力聚合者別無選擇,只能允許那些挑戰社會可接受界限的內容。否則,用戶參與度就會轉移到另一個平台。然而,這是一個雙重束縛。你的社群內容準則越是寬鬆,廣告商就越不願意在你的平台上投放廣告(就像 Elon Musk 正在 X 平台上體會的那樣)。我預期聊天機器人也會出現類似的動態——訂閱制模式將變得更加普遍,因為內容難以控制,且經常會挑戰社會可接受的界限。

現在還言之過早,不能斷定這些產品是利大於弊還是弊大於利。Every 的原則之一是我們試圖支持新創公司,因此,我不願對整個類別做出全面性的判斷。

AI 聊天機器人確實有實際用途。它們不僅能讓孤單的人感覺有人可以交談或建立親密關係,如果經過深思熟慮地部署,甚至可能幫助身心障礙者。理想的發展是 AI 機器人能讓你獲得與他人交談的情感技巧,而使用者能將其應用於現實生活中。我們還沒有達到這個階段,但這是一種可能性。

無論根本原因為何,孤獨確實是一個真實的問題,而聊天機器人可能提供暫時的緩解。儘管如此,我的研究多數指向使用者成癮的跡象,以及偏好聊天機器人勝過人類,這確實令人擔憂。一個人類依賴 AI 來獲得情感連結的世界,可能並不會更好。

Evan Armstrong 是 Every 的首席作家,撰寫 Napkin Math 專欄。你可以在 X 上關注他 @itsurboyevan 以及他的 LinkedIn,也可以在 X 上關注 Every @every 以及 Every 的 LinkedIn。