聚焦當(dāng)下：Chaterm致力于打造20年經(jīng)驗(yàn)的SRE副駕駛

隨著AI在應(yīng)用端的快速落地，AI Agent的角色也越來(lái)越多樣化，除了客服、營(yíng)銷(xiāo)、內(nèi)容創(chuàng)作等根據(jù)技能劃分的基礎(chǔ)工作角色外，更加垂直、專業(yè)度更高、甚至更需要經(jīng)驗(yàn)的應(yīng)用場(chǎng)景也在出現(xiàn)，合合信息推出的Chaterm就瞄向了運(yùn)維專家方向。

Chaterm核心能力一覽

作為一個(gè)運(yùn)維人員，如果遇到一個(gè)連自己都描述不清楚的服務(wù)器問(wèn)題，只說(shuō)“服務(wù)器好像卡了”，Chaterm能幫助找到問(wèn)題嗎？答案是“可以”， Chaterm產(chǎn)品負(fù)責(zé)人Water表示，Chaterm被定位為具有“20年經(jīng)驗(yàn)的運(yùn)維專家”，這正是Chaterm最擅長(zhǎng)的。在實(shí)際工作中，不少用戶僅僅是描述一下大致的問(wèn)題現(xiàn)象，Chaterm就能夠以用戶意料不到的方式解決一些疑難的集群?jiǎn)栴}。

大數(shù)據(jù)架構(gòu)師Chris，使用Chaterm快速發(fā)現(xiàn)Hadoop集群中某臺(tái)節(jié)點(diǎn)的故障根因

AI的普及正在創(chuàng)造出傳統(tǒng)運(yùn)維工具無(wú)法管理的復(fù)雜性，而這些問(wèn)題的解決也要依靠新一代AI的力量，近日，Chaterm產(chǎn)品負(fù)責(zé)人Water向《巴倫中文網(wǎng)》分享了目前運(yùn)維工作的新痛點(diǎn)以及Chaterm帶來(lái)的解決方案和實(shí)踐反饋。

• 拋開(kāi)“錘子和釘子”的工具化思維，直接解決真實(shí)問(wèn)題

AI發(fā)展帶來(lái)的基礎(chǔ)設(shè)施規(guī)模持續(xù)增長(zhǎng)，LLM的訓(xùn)練和推理都帶來(lái)了對(duì)海量GPU集群、高性能網(wǎng)絡(luò)和存儲(chǔ)的爆發(fā)式需求。這不僅是服務(wù)器數(shù)量的增長(zhǎng)，更是基礎(chǔ)設(shè)施異構(gòu)性復(fù)雜度的成倍增加。對(duì)于運(yùn)維工程師來(lái)說(shuō)，現(xiàn)在不僅要管CPU，更要管GPU、NPU，以及CUDA和各種訓(xùn)練推理平臺(tái)，RMDA網(wǎng)絡(luò)更是將監(jiān)控和排障的粒度降低到了毫秒級(jí)，這些“新物種”的監(jiān)控、調(diào)度和故障定位，其難度和傳統(tǒng)在線服務(wù)不可同日而語(yǔ)。

實(shí)際運(yùn)維工作中，在微服務(wù)和K8s體系下，一個(gè)請(qǐng)求可能橫跨幾十個(gè)服務(wù)。故障不再是一個(gè)點(diǎn)，而是一個(gè)面甚至一個(gè)體。運(yùn)維人員在排查故障時(shí)，必須在網(wǎng)絡(luò)、存儲(chǔ)、應(yīng)用、權(quán)限、中間件等多個(gè)領(lǐng)域之間反復(fù)跳躍，這使得根因分析和故障定位的難度也越來(lái)越高。Water表示，由于人類(lèi)的排查思路是線性的，而AI Agent則可以多維度并行分析，在數(shù)秒內(nèi)即完成人類(lèi)運(yùn)維人員需要數(shù)小時(shí)才能實(shí)現(xiàn)的關(guān)聯(lián)分析，這對(duì)于縮短MTTR（平均故障解決時(shí)間）是革命性的。

Chaterm 在云原生CNCF LandScape中的定位是Automation & Configuration tools

對(duì)于B端客戶來(lái)說(shuō)，Chaterm則在成本優(yōu)化方面具有明顯的價(jià)值，即降本。Water舉例稱，狹義的Agent想要解決根因定位的問(wèn)題，首先面臨的挑戰(zhàn)就是如何落地，現(xiàn)代企業(yè)的數(shù)字化水平往往已經(jīng)比較高，而Agent想要能工作，首先要解決的就是如何跟現(xiàn)有的系統(tǒng)進(jìn)行對(duì)接和落地，toB端的交付成本甚至?xí)h(yuǎn)遠(yuǎn)超出Agent開(kāi)發(fā)的成本，所以目前這個(gè)階段，能夠?yàn)橛脩籼峁┮粋€(gè)開(kāi)箱即用，馬上就能產(chǎn)生效果的產(chǎn)品就顯得尤為重要。

Chaterm的目標(biāo)就是成為管理這些復(fù)雜AI基礎(chǔ)設(shè)施的智能層，作為Chaterm開(kāi)發(fā)方，合合信息本身就具備豐富的toB業(yè)務(wù)積累，這些對(duì)于業(yè)務(wù)實(shí)踐的理解讓Chaterm在開(kāi)發(fā)時(shí)能夠拋開(kāi)“錘子和釘子”的工具化思維，而是直接面向客戶的具體問(wèn)題，去解決如何利用現(xiàn)有工具解決“畫(huà)框上墻”的真實(shí)需求。Water表示，客戶反饋顯示，Chaterm無(wú)論是在降低故障的MTTR，還是優(yōu)化效率降低成本，以及提升業(yè)務(wù)安全性上都有一些比較好的落地案例，其中有一些案例完全是用戶自己的創(chuàng)新性用法，解決了一些疑難問(wèn)題。

網(wǎng)絡(luò)博主“AI范兒”表示，使用Chaterm僅需幾句提示詞就可以高效查殺黑客攻擊

Chaterm已經(jīng)開(kāi)源，來(lái)進(jìn)一步提升覆蓋問(wèn)題的豐富度和技術(shù)更新的敏感度，目前，Github star數(shù)量已經(jīng)超過(guò)1.8K，F(xiàn)ork達(dá)到160+，代碼提交次數(shù)達(dá)超2700次。

• 深度融合亞馬遜云科技，持續(xù)積累Chaterm競(jìng)爭(zhēng)勢(shì)能

Chaterm能夠準(zhǔn)確定位用戶痛點(diǎn)、并且高效匹配和迭代功能，除了合合信息本身對(duì)運(yùn)維市場(chǎng)的深度積累之外，也同亞馬遜云科技在資源和技術(shù)上的賦能密不可分，某種程度上Chaterm是在亞馬遜云科技的生態(tài)上成長(zhǎng)起來(lái)的應(yīng)用，亞馬遜云科技上的大量企業(yè)也成為了Chaterm在發(fā)展過(guò)程中重要的客戶群體，尤其是Chaterm瞄準(zhǔn)的云原生領(lǐng)域，大量的K8S、微服務(wù)和復(fù)雜應(yīng)用都構(gòu)建在亞馬遜云科技之上。

Water表示，在產(chǎn)品開(kāi)發(fā)過(guò)程中，合合信息和亞馬遜云科技在分工上天然具有默契的互補(bǔ)性，合合信息主要負(fù)責(zé)產(chǎn)品設(shè)計(jì)和代碼開(kāi)發(fā)相關(guān)的工作，亞馬遜云科技則通過(guò)Bedrock，提供穩(wěn)定的AI Model底座，同時(shí)亞馬遜云科技也會(huì)負(fù)責(zé)大量比如LLM judge and evaluation，Prompt Routing and Prompt caching guidence 等相關(guān)的工作。

合合信息還是Amazon Advanced級(jí)合作伙伴，亞馬遜云科技提供了許多支持來(lái)加速產(chǎn)品研發(fā)和迭代，這些支持主要包括：

（1）優(yōu)先技術(shù)接入，當(dāng)亞馬遜云科技推出一項(xiàng)新的服務(wù)時(shí)，合合信息有機(jī)會(huì)在它正式General Availability之前就進(jìn)入Private Beta或Preview階段，這意味著Chaterm可以“搶先一步”學(xué)會(huì)操控這些新服務(wù)。當(dāng)其他產(chǎn)品還在研究新服務(wù)的文檔時(shí)，Chaterm已經(jīng)可以幫用戶在新服務(wù)上執(zhí)行任務(wù)了。

（2）更深度的技術(shù)支持。Advanced級(jí)別合作伙伴讓Chaterm可以擁有專屬的Partner SA（解決方案架構(gòu)師）和技術(shù)支持通道。可以直接與亞馬遜云科技的內(nèi)部服務(wù)團(tuán)隊(duì)對(duì)話，這種“Pro-to-Pro”的溝通，讓Chaterm在攻克技術(shù)難題時(shí)，能節(jié)省數(shù)周甚至數(shù)月的時(shí)間，加速迭代速度。

（3）技術(shù)之外，亞馬遜云科技還為Chaterm提供了強(qiáng)大的GTM（Go-To-Market）支持，包括亞馬遜云科技 Marketplace上架、聯(lián)合營(yíng)銷(xiāo)活動(dòng)、技術(shù)研討會(huì)等，幫助Chaterm能更快地觸達(dá)和服務(wù)于亞馬遜云科技龐大的客戶群。

Chaterm使用亞馬遜云科技的EKS，KMS，Bedrock等托管服務(wù)構(gòu)建安全可靠的AI服務(wù)端

OpenAI將AGI劃分為五級(jí)模型，分別是Chatbots（聊天機(jī)器人）→Reasoners（邏輯推理者）→Agents（解決方案輸出者）→Innovators（創(chuàng)新者）→Organizers（組織者），如果套用這個(gè)分類(lèi)的話認(rèn)為，Water認(rèn)為目前AGI正處于2.5的階段，并且AGI的發(fā)展就像自動(dòng)駕駛一樣，要在2.5待很久。

Water表示，AI未來(lái)的發(fā)展會(huì)超越人們的想象，Chaterm的目標(biāo)更多會(huì)聚焦在當(dāng)下，把Agent做好，為下一個(gè)階段的發(fā)展積蓄能量。Chaterm的側(cè)重點(diǎn)也非常明確，主要包括云與基礎(chǔ)設(shè)施、云原生K8S、FINOPS成本優(yōu)化、安全合規(guī)等等?？梢园袰haterm理解為一個(gè)技能樹(shù)系統(tǒng)，正圍繞運(yùn)維領(lǐng)域最高頻、最痛的場(chǎng)景，不斷地“點(diǎn)亮”新的技能點(diǎn)，使它在專業(yè)領(lǐng)域的理解力遠(yuǎn)超通用Chatbot。

對(duì)于百花齊放的AI應(yīng)用來(lái)說(shuō)，運(yùn)維之所以是一個(gè)值得關(guān)注的方向，除了AI快速發(fā)展帶來(lái)的新挑戰(zhàn)和較高技術(shù)密集度之外，運(yùn)維對(duì)于經(jīng)驗(yàn)的要求也很高，Chaterm的一個(gè)重要護(hù)城河也在于將長(zhǎng)期的處于孤島狀態(tài)下的非標(biāo)知識(shí)沉淀成了可復(fù)用的實(shí)踐能力，通過(guò)MCP和RAG，學(xué)習(xí)和檢索運(yùn)維專家的排錯(cuò)SOP、最佳實(shí)踐、祖?zhèn)髂_本，這相當(dāng)于把20年專家的經(jīng)驗(yàn)賦能給了團(tuán)隊(duì)里的每一個(gè)人，實(shí)現(xiàn)整個(gè)團(tuán)隊(duì)能力的躍升。

AI強(qiáng)大的學(xué)習(xí)能力，讓AI Agent在標(biāo)準(zhǔn)化知識(shí)之外，能夠更加迅速地掌握更多基于實(shí)踐的非標(biāo)化經(jīng)驗(yàn)，這對(duì)于處理更加復(fù)雜、龐大、多變的物理世界需求具有更大的實(shí)操意義，Water表示，Chaterm要去客戶所在的、問(wèn)題最集中的地方，Chaterm已經(jīng)開(kāi)發(fā)出了一些安全控制和管理的插件，以及企業(yè)知識(shí)庫(kù)等，這些能力后續(xù)可能會(huì)以Enterprise版本的方式推出。（作者｜車(chē)銘德，編輯｜胡珈萌）