蘋果研究團隊解析用戶如何期待與AI智能體交互

蘋果一項名為《計算機使用智能體用戶體驗設計空間映射》的研究顯示，雖然市場在AI智能體開發和評估方面投入巨大，但用戶體驗的某些方面被忽視了：用戶希望如何與智能體交互，以及這些界面應該是什么樣子。

研究分為兩個階段

為了探索這一問題，研究團隊將研究分為兩個階段：首先，他們識別了AI實驗室在現有AI智能體中構建的主要用戶體驗模式和設計考慮因素。然后，他們通過一種名為"綠野仙蹤"的有趣方法，通過實際用戶研究測試和完善這些想法。

通過觀察這些設計模式在真實用戶交互中的表現，他們能夠識別出哪些當前AI智能體設計符合用戶期望，哪些存在不足。

研究人員調查了九個桌面、移動和基于Web的智能體，然后咨詢了"8名在大型科技公司從事用戶體驗或AI領域的設計師、工程師或研究人員"，這幫助他們制作了一個包含四個類別、21個子類別和55個示例功能的綜合分類法，涵蓋了計算機使用AI智能體背后的關鍵用戶體驗考慮因素。

四個主要類別包括：界面讓智能體向用戶展示計劃的方面、如何溝通其能力、顯示錯誤，以及當出現問題時允許用戶介入。

用戶研究發現關鍵洞察

掌握了所有這些信息后，他們進入了第二階段。研究人員招募了20名有AI智能體使用經驗的用戶，要求他們通過聊天界面與AI智能體交互，執行度假租賃任務或在線購物任務。

有趣的是，用戶不知道AI智能體實際上是坐在隔壁房間的研究人員，他們會閱讀文本指令并執行所請求的任務。

對于每個任務（度假租賃或在線購物），參與者被要求在AI智能體的幫助下執行六個功能，其中一些智能體會故意失敗（比如陷入導航循環）或犯故意錯誤（比如選擇與用戶指令不同的內容）。

在每次會話結束時，研究人員要求參與者反思他們的體驗，并提出改進交互的功能或變化建議。他們還分析了每次會話的視頻錄像和聊天記錄，以識別用戶在與智能體交互時行為、期望和痛點的重復主題。

用戶期望透明度和控制權

研究完成后，研究人員發現用戶希望了解AI智能體在做什么，但不想微觀管理每一步，否則他們可以自己執行任務。

他們還得出結論，用戶希望智能體根據是在探索選項還是執行熟悉任務而表現出不同行為。同樣，用戶期望會根據他們對界面的熟悉程度而改變。他們越不熟悉，就越希望透明度、中間步驟、解釋和確認暫停（即使在低風險場景中）。

他們還發現，當行動帶來真實后果時（如購買、更改賬戶或支付詳情，或代表他們聯系其他人），人們希望獲得更多控制權，并且發現當智能體做出無聲假設或錯誤時，信任會迅速破裂。

例如，當智能體在頁面上遇到模糊選擇，或在沒有明確標記的情況下偏離原始計劃時，參與者指示系統暫停并要求澄清，而不是隨機選擇某樣東西然后繼續。

同樣，當智能體在做出特定選擇時不透明，特別是當該選擇可能導致選擇錯誤產品時，參與者報告感到不適。

總的來說，對于希望在其應用中采用智能體功能的應用開發者來說，這是一項有趣的研究。

Q&A

Q1：蘋果這項AI智能體交互研究采用了什么特殊方法？

A：研究采用了名為"綠野仙蹤"的方法。在用戶測試中，參與者以為自己在與AI智能體交互，實際上是由坐在隔壁房間的研究人員閱讀用戶指令并執行任務，這樣可以觀察用戶的真實期望和反應。

Q2：用戶對AI智能體透明度有什么要求？

A：用戶希望了解AI智能體在做什么，但不想微觀管理每一步。用戶對界面越不熟悉，就越希望獲得透明度、中間步驟說明、解釋和確認暫停。當涉及購買或賬戶變更等重要操作時，用戶需要更多控制權。

Q3：什么情況下用戶對AI智能體的信任會快速破裂？

A：當智能體做出無聲假設或錯誤時，用戶信任會迅速破裂。特別是當智能體遇到模糊選擇時隨意決定，或在選擇時不夠透明（可能導致選錯產品），用戶會感到不適并要求智能體暫停澄清。