?Amazon Bedrock整體重磅升級

亞馬遜云科技剛剛宣布推出多項Amazon Bedrock的重磅升級，幫助客戶規模化構建生成式AI應用，并快速創造商業價值。

一年前，亞馬遜向世界推出了 Amazon Bedrock——一種全新的方式來構建生成式 AI 應用程序。最廣泛的優選一方和三方基礎模型（FMs），讓Amazon Bedrock成為公認的構建生成式 AI 應用程序的最快捷和最簡單的方式。

一年之中，Amazon Bedrock正呈現出爆炸式的增長，收獲了1萬家客戶的青睞。今天，Amazon Bedrock 又一次發布重磅升級 ：一、將自定義模型導入Amazon Bedrock；二、上線更多基礎模型(llama 3, Titan等）；三、提供模型評估功能和Amazon Bedrock代理（Agent）功能；四、提供360度全方位的安全防護。共12項重磅升級，為客戶在開發高級生成式AI應用程序時提供無與倫比的靈活性、選擇和安全性。

自定義模型導入：推出Custom Model Import功能

12項發布中最讓人興奮的新功能，借助全新的Amazon Bedrock專有模型導入功能，企業現在能夠將自己的定制模型導入到Amazon Bedrock中，以完全托管的API形式進行訪問，這種方式為構建生成式AI應用程序帶來前所未有的體驗。只需點擊幾下，客戶即可將他們使用Amazon SageMaker 或其他工具開發的模型集成到 Amazon Bedrock平臺上。模型通過自動化驗證流程后，客戶便可像訪問平臺上其他模型一樣，訪問自己的定制模型，同時享受到Amazon Bedrock所具備的所有優勢：無縫的可擴展性、強大的應用保護能力、遵循負責任AI原則、利用檢索增強生成（RAG）擴充模型知識庫、輕松創建完成多步任務的代理（Agents）、微調以持續訓練和優化模型、無需管理底層基礎設施。這意味著企業能夠通過同一API訪問Amazon Bedrock的模型與自己的模型。Amazon Bedrock專有模型導入功能現已推出預覽版并支持三種最受歡迎的開放模型架構：Flan-T5、Llama和Mistral，并計劃未來支持更多模型。

優選模型選擇增至29個：新增Llama 3, Command R, Titan系列。MetaLlama 3基礎模型已正式可用，Cohere的Command R和Command R+模型也即將推出。Llama 3專為開發者、研究人員和企業設計，旨在支持他們構建、試驗并擴展生成式AI項目。Llama 3特別擅長執行文本摘要和分類、情感分析、語言翻譯及代碼生成等任務。而Cohere的Command R和Command R+模型，擅長構建支持10種語言、具備先進RAG功能的企業級生成式AI應用。

Amazon Titan模型是由亞馬遜云科技在大規模數據集上預訓練而成，一直不斷地拓展Amazon Titan系列，一方面Titan可以靈活的適用于多種應用場景設計，另一方面Titan的性價比極高。Amazon Titan Text Embeddings V2針對使用RAG的應用場景進行了優化，適合于信息檢索、問答聊天機器人和個性化推薦等任務。但運行這些操作可能會消耗大量計算和存儲資源，新版Amazon Titan Text Embeddings V2模型，通過為客戶提供靈活的嵌入（embeddings）功能，極大的降低了存儲和計算成本，存儲需求降低至原來的四分之一。同時在RAG應用場景中保持97%的準確性，表現優于其他領先模型。

生成專業級別圖像：Amazon Titan Image Generator正式可用。Amazon Titan Image Generator為廣告、電子商務、媒體和娛樂等行業客戶提供了生成專業級別圖像的功能，或對現有圖像進行增強和編輯，不僅憑自然語言提示即可實現，而且是一種低成本的方式。Amazon Titan Image Generator還為其生成的所有圖像設計了隱形水印，以幫助識別AI生成的圖像，減少虛假信息的傳播。同時，Amazon Titan Image Generator還可以檢查圖片中是否存在水印，并幫助客戶確認圖片是否由其生成。

模型評估功能，簡化模型選擇 ：Model Evaluation正式可用。Amazon Bedrock提供了最廣泛的業內領先的模型選擇，滿足企業在價格、性能或能力方面的各種需求，并允許企業獨占或與其他企業共享模型，然而沒有一個模型能夠使用所有場景。構建生成式AI應用程序的關鍵一步是找到合適的模型，而選擇特定應用場景的最佳模型則需要客戶在準確性和性能之間達成微妙的平衡。現在，企業還需要花費大量時間分析每個新模型如何滿足他們的應用場景，這阻礙了他們向用戶提供生成式AI體驗的速度。模型評估功能是企業快速分析和比較Amazon Bedrock上模型的最快方式，讓評估模型的時間從幾個星期縮短到幾個小時，從而促使客戶更快地推出新的應用程序并改善用戶體驗。客戶可以立即開始評估，通過選擇預定義的評估標準（例如準確性和魯棒性）并上傳自有數據集/提示詞庫，或者從內置的、公開可用的資源中進行選擇。對于主觀標準或需要細致判斷的內容，Amazon Bedrock使客戶能夠輕松將人工審核融入工作流程中，以根據特定應用場景的指標（如相關性、風格和品牌聲音）對模型進行評估。一旦設置完成，Amazon Bedrock將運行評估并生成報告，使客戶能夠輕松了解模型在關鍵指標上的表現，并迅速選擇最適合其應用場景的模型。

安全地進行創新：Guardrails for Amazon Bedrock正式可用。企業需要以安全、可信和負責任的方式實施生成式AI。許多模型使用內置控制來過濾不良和有害內容，但大多數客戶希望進一步定制自己的生成式AI應用，以確保生成結果更安全，在符合公司政策的同時遵循負責任的AI原則。Amazon Bedrock的Guardrails功能在基礎模型的原生能力之上提供了行業領先的安全保護，能夠幫助客戶阻止高達85%的有害內容。Guardrails是唯一一項由頂級云服務商提供的解決方案，它允許客戶在單一服務中同時擁有內置和定制的防護機制，并可與Amazon Bedrock中的所有大語言模型（LLMs）以及經過微調的模型一起使用。要創建一個Guardrail，客戶只需提供一個自然語言描述來定義不予顯示的內容即可。此外，客戶還可以設置閾值以過濾帶有仇恨侮辱、黃色暴力、攻擊性等內容，并移除任何個人信息和敏感信息。Amazon Bedrock Guardrails使客戶能夠快速且安全地進行創新。

來自不同行業的企業選擇Amazon Bedrock作為他們生成式AI戰略的核心基礎，從注重成長的初創公司到注重安全的政府機構。例如：

紐約證券交易所（NYSE）利用Amazon Bedrock處理眾多監管文件，并將復雜的法規內容轉化為易于理解的語言。

歐洲最大的航空公司瑞安航空正在通過Amazon Bedrock，幫助機組人員實時查詢特定國家法規的相關信息，或從數量龐大的手冊中快速提取關鍵摘要，提升旅行者的體驗。

專注于為社區醫療機構提供電子健康記錄解決方案的技術供應商Netsmart，在Amazon Bedrock上構建的生成式AI自動化工具，減輕醫護工作者在臨床文檔管理上的工作負擔，將個人健康記錄的管理時間減少了50%，加速患者報銷申請。

Rufus是一款以生成式AI為核心的專業購物助手，基于亞馬遜電商龐大的產品目錄、用戶評價、社區問答進行訓練。Rufus能夠解答客戶的購物疑問、進行產品比較并推薦。

電通是全球領先的綜合營銷和技術服務提供商之一。在過去的三個月里，電通利用Amazon Titan Image Generator模型，通過自然語言創造了大量逼真的專業級圖像，用于產品推廣和生成品牌標識。

數以萬計的客戶正在使用Amazon Bedrock構建和部署生成式AI應用程序，包括阿迪達斯（Adidas）、ADP、Aha!、橋水基金（Bridgewater Associates）、精品酒店集團、科萊恩公司（Clariant）、美國達美航空公司（Delta）、電通、福克斯電影公司、GoDaddy、Hugging Face 、Infor、Intuit、通力電梯、KT、律商聯訊（LexisNexis Legal & Professional）、孤獨星球（Lonely Planet）、Netsmart、紐約證券交易所、輝瑞、美國男子職業高爾夫球巡回賽（PGA TOUR）、Perplexity AI、Ricoh USA、Rocket Mortgage、瑞安航空、Salesforce、西門子、湯森路透集團（Thomson Reuters）、豐田、Tui、美國聯合航空公司（United Airlines）等。