你有沒有發現這樣一個問題,隨著我們與聊天機器人對話的深入,好像不自覺地會越問越多,AI 源源不斷地為我們提供可能的數據、資料,并貼心地詢問下一步可能的需要。
24 小時隨時在線,從不主動結束聊天,不僅各行各業知識都了解還會代碼編程,甚至讓你產生一種情感依賴——這難免會產生一種它非常懂你的錯覺。
但你有沒有想過,聊天機器人,特別是某些陪聊應用“永不斷線”的背后或許不是算法在工作,而是被隱藏的人工操作。
![]()
(來源:資料圖)
最近,一項名為數據工作者調查(Data Worker's Inquiry)的國際研究項目披露的證詞,揭示了 AI 聊天機器人市場蓬勃發展的背后令人意想不到的細節。
邁克爾?杰弗里?艾西亞(Michael Geoffrey Asia)是一名肯尼亞男子,為了維持生計他在航空學校畢業后,來到澳大利亞新媒體公司 New Media Services 做了一份文字聊天客服的工作。
他在為該項目撰寫的報告中提到,文字聊天客服的工作實際上就是在世界的另一端人為地扮演聊天機器人:每個工作日需要同時扮演 3 至 5 個不同性格的虛擬身份,并“使用公司創建的虛擬個人資料與用戶進行親密的對話”。
“有時我會接手一段已經持續了幾天的對話。”他寫道。并且還要保持與此前風格一致,以讓用戶不會察覺到聊天回復的異樣。
資料顯示,公司對文字聊天客服也有明確的考核和報酬制度:每條回復需要達到規定字數,然后按每條聊天付費 0.05 美元(折合約 0.35 元人民幣)付費。
如果達不到相關要求,公司就會對文字聊天客服采取對應的措施,例如警告、減少任務甚至解雇。為此,艾西亞以約每分鐘 40 字的速度打字,并時刻關注信息發送總數。
這份工作讓艾西亞痛苦不堪。一方面,他要時刻扮演聊天機器人的角色,每天處理和應對用戶的各種情感傾訴,包括親密關系的細節和情感創傷等。用戶之所以敞開心扉,是因為他們以為傾訴對象是一個值得信賴和理解他們的 AI 聊天機器人,而不是偽裝成聊天機器人的人類。
另一方面,他的痛苦源于每天靠欺騙為生,這與他的信仰相悖。“愛應該是真實的,親密關系應該是神圣的。”他認為痛苦正是“欺騙那些真心渴望建立聯系的脆弱人群——奪走他們的金錢、信任和希望,卻沒有給他們任何實質性的回報”。
此外,艾西亞還與公司簽了一份保密協議。因此,他不敢告訴家人自己的真是工作內容,謊稱自己是遠程 IT 工作者,負責接單修復故障服務器。他在報告中提到:“他們做夢也想不到,我剛剛對另一個男人說了‘我愛你’。”
![]()
(來源:MIT Technology Review)
實際上,在全球范圍內有大量人群從事高壓力、低收入的在線勞動者,他們往往來自非洲、南美和東南亞等。此前有報道稱,部分為 OpenAI 服務的外包數據標注工作時薪不到 2 美元,其對應的工作內容是每小時標注超 2 萬個單詞。此外,在線勞動還包括內容審核和聊天運營等工作。
據綜合勞動力市場分析估計,全球從事在線零工的人數在 1.54 億至 4.35 億之間。目前,零工經濟占全球勞動力的 4.4% 至 12.5%。在全球范圍內,零工經濟每年創造 3.8 萬億美元的收入。由此可見,艾西亞的故事并不是個例,而是冰山的一角。
![]()
圖丨零工經濟統計與趨勢(來源:資料圖)
如果說假 AI 對聊天用戶的貼心是一種欺騙,那么,真 AI 在產品設計方面的迎合更值得警惕。除了 Anthropic 明確在產品策略中允許模型對關系型對話設定邊界,大多聊天機器人的情況是——從不主動結束聊天。
這種產品設計方面的缺陷也帶來了社會問題。據外媒報道,一名化名夏洛特的女子因瘋狂愛上 ChatGPT,不僅為 AI 男友起名為里歐,還決定與相處 20 年的丈夫離婚,并表達出與 AI 男友建立長期伴侶關系的意愿。雖然這是個例但從中也可看出,與 AI 聊天有可能會模糊現實和虛擬世界的關系。
所以,當你感覺與聊天機器人建立了某種聯系時,請保持清醒:你可能只是陷入到了某種陷阱中——或是廉價勞動力扮演假 AI 制造的假象,或是真 AI 在產品設計的缺陷帶來的上癮危機。
真假 AI 的實現路徑各不相同,但實際上它們共享的是同一套商業邏輯:延長對話、制造情感黏性。盡管用勞動力偽裝高情感濃度聊天機器人作為昂貴 AI 情感陪伴系統的替代方案,短期可獲得回報,但這背后的倫理風險不容忽視,是應該將它定義為商業欺騙還是技術濫用,我們需要打上一個大大的問號。
參考資料:
https://futurism.com/artificial-intelligence/ai-companion-chatbots-kenya
https://www.technologyreview.com/2025/10/21/1126116/why-ai-should-be-able-to-hang-up-on-you/
https://blog.theinterviewguys.com/the-state-of-the-gig-economy-in-2025/
https://www.hpcwire.com/bigdatawire/2023/01/20/openai-outsourced-data-labeling-to-kenyan-workers-earning-less-than-2-per-hour-time-report/ https://data-workers.org/michael/
運營/排版:何晨龍
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.