確保公共部門人工智能安全：安全和負責任采用的關鍵優先事項

人工智能（AI）正迅速融入公共部門的運營中。在2024年，美國聯邦機構就報告了1700多個人工智能用例，是前一年的兩倍多。其中一半集中在管理敏感國家任務的部門，如醫療保健、退伍軍人服務和國土安全，因此在政府中保護人工智能系統的需求既緊迫又復雜。然而AI應用的成功依賴于端到端的方法來應對風險，保持合規性，并構建既可解釋又有彈性的系統。

優先考慮信任和責任

在公共部門保護人工智能的基本挑戰之一是應對不斷變化的監管和治理格局。即使在沒有任何全面的人工智能立法的情況下，現有的數據保護法和特定行業的規則已經告知了必須如何管理人工智能。各機構必須確保其人工智能系統符合負責任和道德使用的標準，包括與隱私、透明度、偏見和監督有關的標準。

監管機構不區分人為錯誤或算法錯誤；對影響的判斷是一樣的，不合規的潛在成本，尤其是在規模上，可能是巨大的。在此背景下，透明度和可解釋性至關重要。特別是在高風險場景中，人工智能模型的行為和建議可能會產生生死攸關的影響；因此，準確理解這些模型如何以及為什么做出決策至關重要。

因此，負責任的人工智能治理必須植根于一個多學科框架，該框架在整個人工智能生命周期中納入了道德標準、法律合規性、人類監督和可持續性。系統的設計必須使用工具和流程，使開發人員、操作員和監督機構能夠跟蹤決策并識別模型行為。自動化輸出背后的邏輯必須清晰且可審查；否則，公共部門的IT團隊發現，在發生故障時，幾乎不可能審計人工智能驅動的決策、評估公平性或追究系統的責任。

在整個AI生命周期中保護數據

數據是所有人工智能模型的基礎，其在存儲、傳輸和使用的每個階段的安全性至關重要。這對公共機構來說尤其重要，因為它們經常處理從公民記錄到國家情報等高度敏感的數據。保護這些數據需要分層防御，以應對傳統的網絡安全威脅和人工智能特有的新興風險。

在存儲級別，必須保護數據集免受未經授權的訪問和篡改。當數據傳輸時，無論是通過地面網絡還是衛星通信，都必須使用現代的、最好是量子級的標準進行加密。一旦數據被使用，建立安全的計算環境可以幫助防止內存級攻擊，內存級攻擊通過完全在進程或系統的運行內存中操作來繞過傳統的安全措施。在人工智能時代，所有這些保護層變得更加重要，因為人工智能系統往往比傳統計算機程序在組織中的數據集之間建立更多的連接。

雖然人工智能正在推動更復雜的威脅，例如使用深度偽造和其他合成內容的社會工程攻擊，但好消息是，人工智能還可以為行為分析和異常檢測等更先進的保護提供動力，這些保護在應對此類風險方面發揮作用。與此同時，基本的網絡衛生實踐，如強有力的訪問控制、多因素身份驗證和定期審計，對公共部門的網絡安全仍然至關重要。

通過智能規劃確保運營效率

除了透明度和網絡保護之外，保護公共部門的人工智能還涉及保持基本的運營完整性和效率，這意味著管理成本。開發和運行復雜的人工智能模型所需的資源包括能源密集型計算、大型數據集和專業人才。這些先進的要求可能會使緊張的政府預算捉襟見肘，但明智的規劃可以幫助管理成本。

例如，機構之間用于欺詐檢測或其他共同挑戰的互操作平臺可以防止重復，并促進更有效地利用資源來解決困擾政府許多領域的共同問題。另一種方法是使用檢索增強生成（RAG）、數據壓縮算法和其他先進技術，在保持人工智能平臺高精度的同時使用較小的模型。這可以減少對大型、資源密集型系統的依賴，并支持與預算和政策限制相一致的更精確、特定于任務的應用程序。

在基礎設施層面，機構應考慮云平臺，通過提供可擴展的計算和存儲、增強的安全功能和簡化的管理，為昂貴的本地系統提供替代方案。智能勞動力規劃是安全且具有成本效益的公共部門人工智能的補充。這包括自動化重復性任務，使員工能夠承擔更具戰略性的責任，并通過有針對性的培訓計劃建立內部專業知識，以減少對外部顧問的依賴，更好地管理內部項目。

隨著公共部門人工智能在規模和影響力上的持續增長，今天做出的選擇將在未來幾年塑造這些系統的安全性、信任度和有效性。各機構必須了解人工智能如何與其獨特的業務環境和風險相交，并且必須積極協調各團隊，以確保與戰略目標和安全要求保持一致。最終，在這些環境中保護人工智能需要一種主動的端到端方法，在整個人工智能生命周期中嵌入安全性、隱私性、公平性和效率。

與 Ai 時代前沿合作，將大門向更多普通用戶敞開！無論你是對新技術充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。