美國FTC加強監管為AI熱潮降溫

人工智能的發展速度之快，熱度之高使得其監管也越來越重要。美國聯邦貿易委員會（FTC）剛剛作出迄今為止最激進的舉措之一，該機構對包括谷歌、Meta和OpenAI在內的七家主要科技公司展開了正式調查，要求詳細記錄他們的人工智能工具是如何開發、營銷和部署的。

FTC希望深入了解這些系統是如何工作的，用戶被告知了什么，以及哪些風險被忽視了——尤其是在涉及未成年人的情況下。模仿對話和情感的聊天機器人現在正處于顯微鏡下。他們背后的主張也是如此。一些公司將他們的人工智能推廣為法律助理、商業教練，甚至是朋友——同時悄悄收集用戶數據，經常跳過關鍵的安全措施。

根據FTC的命令，該機構正在尋求內部文件，以顯示人工智能角色是如何創建的，如何審查輸出，以及當交互進入敏感或有害領域時是否會警告用戶。

調查人員還想了解這些平臺是如何將參與交互溝通的，尤其是關于情感，而不僅僅是效用，還有依賴問題。這些公司不僅要解釋他們的聊天機器人是如何反應的，還要解釋他們采取了哪些措施來衡量心理影響或防止過度反應。

這不是FTC第一次打擊可疑的人工智能。早在2024年，該機構就推出了“人工智能合規行動”，這是一項針對依賴人工智能炒作來銷售虛假服務公司的協調執法行動。

像DoNotPay這樣的公司因營銷“機器人律師”而受到懲罰，該律師承諾在沒有任何經過驗證的專業知識的情況下提供法律支持。其他人，包括Rytr和一組電子商務初創公司，被指控使用人工智能工具生成虛假評論或誘使消費者參與很少實現的收入計劃。

這項工作主要集中在欺詐、虛假承諾和旨在誤導的工具上。現在的不同之處在于規模和利害關系。最新的打擊行動將注意力轉移到了主流參與者身上，他們塑造了數百萬人每天與人工智能互動的方式。這不再僅僅是欺詐產品。該機構現在正在詢問，科技界最知名的公司是否正在建立情感反應系統，以吸引用戶、收集個人數據和模擬信任——所有這些都沒有足夠的監督或保障，尤其是當這些用戶是兒童或青少年時。

對于處于調查中心的公司來說，其影響可能是嚴重的。如果FTC推進更嚴格的規則或執法行動，它可能會迫使人工智能產品的構建和營銷方式發生大規模變化。這意味著新的審查流程、修訂的訓練協議，以及對如何從用戶（尤其是年輕用戶）收集數據的潛在限制。

科技巨頭以前也面臨過這種監管逆風。歐洲《通用數據保護條例》生效后，Meta的年度合規成本超過了10億美元。

不僅僅是FTC感到不安。全國各地的立法者和倡導團體也開始敲響警鐘。在加利福尼亞州，立法者正在推動新的提案，以限制人工智能聊天機器人與兒童互動的方式，并要求全面加強護欄。

就在本周二，OpenAI剛剛宣布將推出專為18歲以下用戶定制的ChatGPT體驗功能，并配備家長控制功能。

在華盛頓，參議院正準備研究這些系統如何影響人們的心理和情感健康。像Common Sense Media這樣的組織呼吁基于年齡的限制，并警告說，為反映同理心而構建的機器人正在進入市場，而沒有太多真正的監督。FTC可能已經邁出了第一步，但勢頭遠遠不止于此。

這不會是FTC的最后一次調查，也不會是最后一次警告。我們知道人工智能不會消失，事實上，它正在更深入地融入我們的日常生活和政府流程。現在真正的考驗是，在監管機構決定限制之前，該行業是否能夠負責任地構建和實施人工智能。

與 Ai 時代前沿合作，將大門向更多普通用戶敞開！無論你是對新技術充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。