SAS新研究強調可信任人工智能勢在必行

SAS是數據和人工智能領域的全球領導者，它公布了一項新的研究，探討了人工智能的使用、影響和可信度。SAS委托的《IDC數據和人工智慧影響報告：信任勢在必行》發(fā)現，IT和商業(yè)領袖對生成式人工智能（GenAI）的信任度高于其他任何形式的人工智能。

探索人工智能使用和采用的全球研究還發(fā)現，只有40%的人通過治理、可解釋性和道德保障來投資使人工智能系統值得信賴，盡管優(yōu)先考慮值得信賴人工智能項目的投資回報率翻一番的可能性高出60%。那些對值得信賴的人工智能系統投資最少的人中，認為GenAI（如ChatGPT）比傳統人工智能（如機器學習）更值得信賴的比例高出200%，盡管后者是最成熟、最可靠和最可解釋的人工智能形式。

IDC人工智能和自動化實踐研究總監(jiān)Kathy Lange表示：“我們的研究表明了一個矛盾：具有類人互動和社交熟悉度的人工智能形式似乎能獲得最大的信任，而不管實際的可靠性或準確性如何。”“作為人工智能提供商、專業(yè)人士和個人用戶，我們必須要問：GenAI是值得信賴的，但它總是值得信賴的嗎？領導者是否對這項新興技術應用了必要的防護措施和人工智能治理實踐？”

該研究基于對北美、拉丁美洲、歐洲、中東和非洲以及亞太地區(qū)2375名受訪者的全球調查。參與者包括IT專業(yè)人員和業(yè)務線領導者的平衡組合，從技術和業(yè)務職能兩個方面提供觀點。

新興人工智能技術贏得最多信任

總體而言，該研究發(fā)現，與更成熟的人工智能形式相比，最值得信賴的人工智能部署是新興技術，如GenAI和代理AI。近一半的受訪者（48%）表示對GenAI“完全信任”，而三分之一的受訪者（33%）表示對代理AI也是如此。最不可信的人工智能形式是傳統人工智能——不到五分之一（18%）的人表示完全信任。

盡管受訪者對GenAI和代理AI表示高度信任，但他們也表達了擔憂，包括數據隱私（62%）、透明度和可解釋性（57%）以及道德使用（56%）。

與此同時，量子人工智能正在迅速獲得信心，盡管執(zhí)行大多數用例的技術尚未完全實現。近三分之一的全球決策者表示他們熟悉量子人工智能，26%的人表示完全信任這項技術，盡管現實世界的量子人工智能應用仍處于早期階段。

滯后的AI護欄削弱了AI的影響力和投資回報率

該研究顯示，人工智能的使用率迅速上升，尤其是GenAI，它在可見性和應用程序方面迅速超越了傳統人工智能（81%對66%）。這引發(fā)了新的風險和道德問題。

在所有地區(qū)，IDC的研究人員發(fā)現，組織對人工智能的信任程度與該技術的真實可信度之間存在不一致。根據這項研究，雖然近十分之八（78%）的組織聲稱完全信任人工智能，但只有40%的組織投資通過人工智能治理、可解釋性和道德保障使系統明顯值得信賴。

該研究還表明，在實施人工智能項目時，實施值得信賴的人工智能措施的優(yōu)先級較低。在受訪者的三大組織優(yōu)先事項中，只有2%的人選擇制定人工智能治理框架，不到10%的人表示制定了負責任的人工智能政策。然而，降低值得信賴的人工智能措施的優(yōu)先級可能會阻礙這些組織在未來充分實現其人工智能投資回報。

研究人員將受訪者分為值得信賴的人工智能領導者和值得信賴的AI追隨者。領導者在實踐、技術和治理框架上投入最多，以使他們的人工智能系統值得信賴，并且似乎正在收獲回報。同樣值得信賴的人工智能領導者報告其人工智能項目投資回報率翻倍或更高的可能性是1.6倍。

缺乏強大的數據基礎和治理阻礙了人工智能的發(fā)展

隨著人工智能系統變得更加自主，并深入集成到關鍵流程中，數據基礎也變得更加重要。數據的質量、多樣性和治理直接影響人工智能的結果，因此智能數據策略對于實現收益（如投資回報率、生產率提高）和降低風險至關重要。

該研究確定了阻礙人工智能實施成功的三大障礙：數據基礎設施薄弱、治理不善和缺乏人工智能技能。近一半（49%）的組織認為，數據基礎不是集中式或非優(yōu)化的云數據環(huán)境是主要障礙。緊隨其后的是缺乏足夠的數據治理流程（44%）和組織內缺乏熟練的專家（41%）。

受訪者報告稱，管理人工智能實施中使用的數據的首要問題是難以訪問相關數據源（58%）。其他主要問題包括數據隱私和合規(guī)問題（49%）以及數據質量（46%）。

SAS首席技術官Bryan Harris表示：“為了社會、企業(yè)和員工的利益，信任人工智能勢在必行。”“為了實現這一目標，人工智能行業(yè)必須提高實施的成功率，人類必須嚴格審查人工智能的結果，領導層必須用人工智能賦予員工權力。”

與 Ai 時代前沿合作，將大門向更多普通用戶敞開！無論你是對新技術充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。歡迎掃碼加入我們！