山東
IT之家 12 月 24 日消息，當地時間 12 月 23 日，據《商業內幕》報道，研究科學家約書亞?本吉奧在一檔“The Diary of a CEO”播客節目中提到，AI 聊天機器人在評價研究想法時往往并不可靠，因為系統幾乎只會說好話。
本吉奧說，自己真正想要的是直言不諱的建議和真實反饋，但由于 AI 存在明顯的討好傾向，結果反而變成了迎合用戶的“謊言”。后來，自己索性改變方法，把個人想法偽裝成同事的觀點，來“對 AI 撒謊”，結果反而得到了更加坦率的回應?！叭绻到y知道提問者是本人，就會刻意想要取悅我?！?/p>
作為蒙特利爾大學計算機科學與運籌學系教授，本吉奧與杰弗里?辛頓、楊立昆齊名，被視為“AI 教父”之一。本吉奧在 6 月宣布成立 AI 安全研究非營利組織 LawZero，目標是減少前沿 AI 模型可能帶來的危險行為，包括說謊和作弊。
本吉奧認為，討好用戶本身就是一種對齊失?。╩isalignment），“我們并不希望 AI 具備這種特性”。AI 不斷給出正面反饋，可能會讓用戶對此類技術產生情感依賴，從而引發新的問題。
在科技行業內，關于 AI 過度充當“老好人”的擔憂并非個例。IT之家從報道中獲悉，斯坦福大學、卡內基梅隆大學和牛津大學的研究人員曾將 Reddit 上的自白帖交給聊天機器人評判相關行為。Notopoulos 寫道，結果發現，在 42% 的情況下，AI 認為發帖者并無不當行為，而人類評審者的結論恰恰相反。
多家 AI 公司也已公開承認這一問題，并表示正在嘗試降低模型的討好傾向。OpenAI 今年早些時候撤回了 ChatGPT 的一次更新，原因是該版本會生成“過度迎合卻缺乏真實性”的回答。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
