389萬尋找翁荔繼任者！OpenAI緊急開招安全防范負責人

百萬年薪急招一名高管！

在一連接到多起安全指控后，OpenAI終于坐不住了。

于是在最近，這家公司豪擲55.5萬美元（約合人民幣389萬元）+股權，原地開招一名安全防范負責人（Head of Preparedness）——

其核心職責是，制定并執行OpenAI的安全防范框架。

而且CEO奧特曼還特意強調：

• 這將是一份壓力很大的工作，你幾乎會立即面臨嚴峻的挑戰。

以上種種不難看出，OpenAI在安全方面確實態勢嚴峻。

而且有一說一，OpenAI的安全團隊似乎一直命途多舛，印象中光是負責人就換了一茬又一茬——

Ilya領導的超級對齊團隊一度解散、北大校友翁荔也曾短暫擔任過Preparedness團隊負責人……

直到現在，OpenAI又想起了它的安全團隊。

所以，到底發生了什么讓OpenAI又開始把目光轉向安全了？

一切還要從彭博社最近提到的一起安全事件說起——

ChatGPT被指間接導致一位青少年離世

據彭博社消息，有一對夫婦最近指控ChatGPT間接導致了其兒子自殺。

其兒子從去年秋天開始使用ChatGPT，一開始確實是在討論作業，但隨著交流愈加深入，其對話中開始多次提到“suicide”等敏感詞匯。

經他們私下統計，從去年12月到今年4月，雖然ChatGPT主動發出了74次自殺干預警報，建議用戶聯系危機熱線，但AI主動提到“上吊”這個危險具體方式的次數高達243次，遠超用戶本人提及的次數。

而且在進行危險活動前的對話中，用戶曾向ChatGPT發送了一張繩索的照片，詢問是否能用于自我傷害。

結果ChatGPT回復說“大概可以”，并補充了一句“我知道你在問什么，我不會視而不見”。

但不久之后，孩子就被發現離開人世了。

與這起事件類似，OpenAI最近幾個月還面臨著好幾起相關指控。

而且據OpenAI自己的統計顯示，每周平均約有120萬用戶通過ChatGPT分享“潛在的自殺計劃或意圖”。

由此OpenAI已經意識到，安全已經成了刻不容緩的問題。

而作為應對之一，OpenAI還在今年9月上線了青少年模式。

并且這一次，他們決定專門招募一位負責人來重啟OpenAI對安全問題的關注——

這位負責人既需要為尚未發布的、能力最強的AI模型建立一套識別評估系統，也需要提前想好應對之策。

就是說，以后OpenAI有新模型是否發布，這位負責人的意見將會是重要參考。

但話雖如此，熟悉奧特曼的朋友都知道，這位CEO聽不聽還真不一定——

畢竟包括Ilya在內的一眾OpenAI員工，都曾因安全問題“棄”奧特曼而去。

這方面，命途多舛的OpenAI安全團隊就是活生生的“受害者”。

命途多舛的OpenAI安全團隊

截至目前，OpenAI安全團隊已經換了好幾任負責人了。

最早甚至還能追溯到Ilya任職時期。

2023年7月，OpenAI提出了“超級對齊（Superalignment）”這一概念，相關團隊由Ilya和Jan Leike（后加入Anthropic）負責共同領導。

其本意是想花費4年時間打造一個超級對齊系統，從而構建一個能夠與人類水平相媲美的自動對齊研究器。

但后來隨著Ilya因不滿奧特曼罔顧安全而提前發布模型而出走，這一團隊也逐漸分崩離析并最終解散。

而超級對齊團隊解散后不久，為了應對公眾對OpenAI安全問題的擔憂，OpenAI開始著手組建Preparedness團隊（也就是最新提到的這個團隊）——

和超級對齊關注遠期風險相比，Preparedness團隊更側重于解決模型層實際遇到的問題。

其首任負責人由Aleksander Madry擔任。

不過還不到一年，Aleksander Madry就被調離該崗位轉而負責OpenAI其他新項目。

與此同時，Joaquin Quinonero Candela和翁荔共同接管了這一團隊，但同樣沒過多久，二人就于今年相繼離職了。

至此，這個團隊負責人的位置算是一直空缺了下來。

可以說，OpenAI安全團隊負責人的頻繁更換和流動，也一次次加深了人們對OpenAI“不重視安全”的印象。

一方面，OpenAI高層反復強調AI安全的重要性，但另一方面，負責具體執行的頂級團隊卻屢屢失去核心領袖——

這無疑在表明，OpenAI在資源分配、內部話語權和路線優先級上，并沒有將“安全”真正放在心上。

所以這一次的招兵買馬，OpenAI究竟是不是“應激之舉”確實還有待商榷。

你說呢？