Shutterstock CTO分享AI規(guī)模化部署經(jīng)驗(yàn)：避免供應(yīng)商泛濫的策略

對(duì)于CIO和CTO來(lái)說(shuō)，開啟技術(shù)棧中每一項(xiàng)可用的AI功能雖然很誘人，但這種做法可能導(dǎo)致供應(yīng)商泛濫和治理挑戰(zhàn)。

在本期IT領(lǐng)導(dǎo)者快速訪談欄目中，Shutterstock公司CTO兼CISO Courtney Totten解釋了為什么她的團(tuán)隊(duì)花費(fèi)數(shù)月時(shí)間評(píng)估AI工具、建立治理模型并在部署這些技術(shù)前創(chuàng)建防護(hù)機(jī)制。她的團(tuán)隊(duì)還著重實(shí)施"培訓(xùn)培訓(xùn)師"策略，在整個(gè)組織內(nèi)推廣AI知識(shí)。

Totten負(fù)責(zé)監(jiān)督Shutterstock的網(wǎng)絡(luò)、云運(yùn)營(yíng)、安全、工程和AI基礎(chǔ)設(shè)施，在IT和網(wǎng)絡(luò)安全行業(yè)擁有超過(guò)20年經(jīng)驗(yàn)。她曾在通用電氣、湯森路透、博思艾倫和通用動(dòng)力等公司擔(dān)任領(lǐng)導(dǎo)職務(wù)。

關(guān)鍵決策的影響

在過(guò)去一年中，我們有意識(shí)地決定對(duì)AI采取主動(dòng)而非被動(dòng)的態(tài)度。雖然我們花了六個(gè)月時(shí)間評(píng)估兩個(gè)AI工具，但一旦完成評(píng)估并創(chuàng)建了治理模型和防護(hù)框架，我們就能夠在10個(gè)月內(nèi)成功部署8個(gè)工具。

現(xiàn)在的重點(diǎn)是將這些工具交到團(tuán)隊(duì)成員手中，聽取使用案例反饋——不是來(lái)自技術(shù)人員，而是來(lái)自業(yè)務(wù)用戶。我們看到他們能夠通過(guò)這些工具提高效率，并且對(duì)這些工具在適當(dāng)防護(hù)措施下的輔助作用建立了信心。

其中一些工具我們已經(jīng)在使用，但沒有開啟AI功能。例如，我們使用Slack，但沒有啟用AI功能。在完成安全審查和評(píng)估后，我們才開啟了這些功能。

聽起來(lái)雖然簡(jiǎn)單，但筆記和摘要功能對(duì)我們來(lái)說(shuō)非常重要——我們每天都使用Slack。這是一個(gè)很好的例子，展示了我們?nèi)绾瓮ㄟ^(guò)開啟功能來(lái)簡(jiǎn)化用戶的工作。

我們還利用ChatGPT來(lái)幫助用戶。一個(gè)簡(jiǎn)單的應(yīng)用是創(chuàng)建問答文檔。我們有一個(gè)團(tuán)隊(duì)感覺他們整天都在回答關(guān)于流程的問題。我們需要?jiǎng)?chuàng)建一個(gè)系統(tǒng)，能夠處理數(shù)百頁(yè)的流程文檔，簡(jiǎn)化對(duì)用戶請(qǐng)求的響應(yīng)，讓員工能夠更好地服務(wù)客戶。這是另一個(gè)很好的例子，展示了我們?nèi)绾蜗罅渴謩?dòng)管理工作，減輕團(tuán)隊(duì)負(fù)擔(dān)。

經(jīng)驗(yàn)教訓(xùn)

成本控制是一個(gè)重大挑戰(zhàn)——隨著云計(jì)算和AI的指數(shù)級(jí)增長(zhǎng)，成本可能失控。我們?cè)缙诰鸵庾R(shí)到這個(gè)問題，并在合適的時(shí)機(jī)進(jìn)行了調(diào)整。我們創(chuàng)建了一個(gè)專門團(tuán)隊(duì)，包括云架構(gòu)團(tuán)隊(duì)成員，負(fù)責(zé)監(jiān)控我們與云服務(wù)商和AI供應(yīng)商的所有成本。

現(xiàn)在我有一個(gè)云FinOps和治理團(tuán)隊(duì)，不僅監(jiān)控成本，還推動(dòng)優(yōu)化。此外，我們創(chuàng)建了一個(gè)面向所有團(tuán)隊(duì)的競(jìng)賽，要求大家"幫助我們識(shí)別降低成本的機(jī)會(huì)，我們有獎(jiǎng)勵(lì)"。這是一個(gè)季度挑戰(zhàn)，幫助每個(gè)人意識(shí)到這些技術(shù)會(huì)產(chǎn)生成本。我們?nèi)绾蜗鳒p成本，為其他想做的酷炫項(xiàng)目騰出空間？這為我的工程團(tuán)隊(duì)和所有團(tuán)隊(duì)培養(yǎng)了財(cái)務(wù)紀(jì)律意識(shí)。

人才投資策略

如果有機(jī)會(huì)幫助團(tuán)隊(duì)做更多工作來(lái)放大我們的成果，那就是我投資的地方。我經(jīng)常說(shuō)，資源整合能力是一項(xiàng)非常重要的技能。

我們需要確保員工有深度，能夠善于整合資源并完成任務(wù)。我如何投資培訓(xùn)員工？如何讓他們更好地了解可用的不同工具以及可以利用的資源？我們非常重視每年的培訓(xùn)目標(biāo)，因此我們利用合作伙伴提供的免費(fèi)培訓(xùn)。

我們與AWS、Google和OpenAI等建立了強(qiáng)大的云合作伙伴關(guān)系，通過(guò)協(xié)議獲得大量培訓(xùn)機(jī)會(huì)。他們?cè)趶脑朴?jì)算到AI的整個(gè)過(guò)程中都給予了幫助。

同時(shí)，確保我們?cè)诿總€(gè)職位上都深化AI人才儲(chǔ)備。AI在幾年內(nèi)，也許一年內(nèi)，將出現(xiàn)在我們每個(gè)團(tuán)隊(duì)中，這非常令人興奮。我真正覺得這是我們都需要具備和練習(xí)的技能。確保我們有合適的人才來(lái)推動(dòng)成果對(duì)我來(lái)說(shuō)至關(guān)重要。

外部發(fā)展趨勢(shì)

變化每天都在發(fā)生——AI模型每天都在變化，每次我們看到新模型，它都比上一個(gè)更好。讓團(tuán)隊(duì)準(zhǔn)備好評(píng)估和部署新模型對(duì)我們來(lái)說(shuō)很重要。

例如，OpenAI最近推出的Codex就是一個(gè)很好的用例。我的團(tuán)隊(duì)能夠使用它，他們能夠產(chǎn)出的成果讓自己都感到驚訝，這非常有趣。

我們創(chuàng)建了"培訓(xùn)培訓(xùn)師"的指導(dǎo)項(xiàng)目。我的團(tuán)隊(duì)中有幾個(gè)這方面的專家，他們負(fù)責(zé)培訓(xùn)8個(gè)人的團(tuán)隊(duì)，制定標(biāo)準(zhǔn)和防護(hù)措施。現(xiàn)在這8個(gè)人每人再培訓(xùn)2-3個(gè)人。這樣將推廣到每個(gè)人，讓大家都有相同類型的培訓(xùn)經(jīng)驗(yàn)。每天都會(huì)聽到新工具的消息。

我們的許多供應(yīng)商也在思考如何保持相關(guān)性并融入AI。我們真的需要所有這些其他工具嗎？始終監(jiān)控供應(yīng)商格局以查看我們是否開始開發(fā)太多功能相同的工具非常重要。你不希望出現(xiàn)供應(yīng)商泛濫。

觀念轉(zhuǎn)變

我最近讀到Martin Fowler網(wǎng)站上的一篇文章《軟件工程循環(huán)中的人類和智能體》。這篇文章探討了工程師如何參與并成為我們正在經(jīng)歷的這種變化的一部分。他強(qiáng)調(diào)了工程師可以在整個(gè)工程循環(huán)中定位自己的三種不同方式。

第一種方式是跳出循環(huán)——讓智能體做它們需要做的事情——編碼并期望祈禱能順利工作。第二種是參與循環(huán)——查看每一段手動(dòng)代碼并幾乎進(jìn)行微觀管理，這會(huì)很累人。

第三種是專注于整個(gè)工程循環(huán)本身并關(guān)注輸出。確保你知道智能體如何工作，確保它在做需要做的事情，然后監(jiān)控以確保輸出正在產(chǎn)生。因?yàn)闅w根結(jié)底，輸出才是我們關(guān)心的。

這關(guān)乎回到標(biāo)準(zhǔn)、流程和防護(hù)措施——只要你有這三樣?xùn)|西，你就可以專注于輸出，而不是過(guò)度參與或過(guò)于放手。那篇文章真的引起了我的共鳴，因?yàn)樽鳛轭I(lǐng)導(dǎo)者，我有責(zé)任幫助每個(gè)人了解他們?nèi)绾螀⑴c其中。我想給每個(gè)人機(jī)會(huì)，利用我們擁有的工具產(chǎn)出最佳成果。

Q&A

Q1：Shutterstock團(tuán)隊(duì)如何避免AI工具部署中的供應(yīng)商泛濫問題？

A：Shutterstock團(tuán)隊(duì)花費(fèi)6個(gè)月時(shí)間評(píng)估AI工具，建立治理模型和防護(hù)框架后，在10個(gè)月內(nèi)成功部署8個(gè)工具。他們通過(guò)監(jiān)控供應(yīng)商格局，避免開發(fā)功能相同的重復(fù)工具，并建立專門的云FinOps團(tuán)隊(duì)來(lái)控制成本和治理。

Q2：Shutterstock如何控制AI和云計(jì)算的成本增長(zhǎng)？

A：他們創(chuàng)建了專門的云FinOps和治理團(tuán)隊(duì)來(lái)監(jiān)控和優(yōu)化成本，還建立了季度成本削減競(jìng)賽，鼓勵(lì)所有團(tuán)隊(duì)識(shí)別降低成本的機(jī)會(huì)并提供獎(jiǎng)勵(lì)，培養(yǎng)了整個(gè)團(tuán)隊(duì)的財(cái)務(wù)紀(jì)律意識(shí)。

Q3：Shutterstock采用什么策略來(lái)培養(yǎng)員工的AI技能？

A：他們實(shí)施"培訓(xùn)培訓(xùn)師"策略，讓AI專家培訓(xùn)8個(gè)人的團(tuán)隊(duì)，然后這些人再各自培訓(xùn)2-3個(gè)人，逐步推廣AI知識(shí)。同時(shí)利用AWS、Google、OpenAI等合作伙伴提供的免費(fèi)培訓(xùn)資源來(lái)提升團(tuán)隊(duì)技能。