利用 AI 的網路安全新時代：針對 2024 年的預測
多年以來，人工智慧 (AI) 一直是網路安全領域的必備項目，但是大型語言模型 (LLM) 的廣泛採用讓 2023 年成為尤其令人興奮的一年。事實上，LLM 已經開始改變網路安全性的整個形勢。然而，它也帶來前所未有的挑戰。
一方面，LLM 讓處理大量資訊變得容易，並讓每個人都可以利用 AI。它們可以為管理弱點、防止攻擊、處理警示和回應事件提供可觀的效率、情報以及可擴充性。
另一方面，攻擊者還可以利用 LLM 來提高攻擊效率、利用 LLM 導入的其他弱點，而濫用 LLM 可能會造成更多網路安全問題，例如由於 AI 的普遍使用而導致不經意的數據洩露。
LLM 的部署需要一種全新的網路安全思考方式。一種更具動態性、互動性且客製化的方法。在硬體產品時代，硬體只有在被下一個新版本的硬體取代時才會改變。到了雲端時代，可以更新軟體並收集和分析客戶數據以改進下一版本的軟體，但前提是發佈新版本或修補程式。
而在現今的 AI 新時代，客戶使用的模型擁有自己的智慧，可以持續學習，並且根據客戶的使用情況進行變更 — 為客戶提供更好的服務，或者偏向錯誤的方向。因此，我們不僅需要在設計中建立安全性，以確保我們建立安全的模型並防止訓練數據遭到污染，並且要在部署後持續評估和監控 LLM 系統的安全性、保全性和道德性。
最重要的是，我們需要在安全系統中內建情報 (例如對兒童灌輸正確的道德標準，而不僅是規範其行為)，以便他們能夠適應並做出正確且可靠的判斷，而不會輕易地因錯誤資訊而偏離軌道。
LLM 為網路安全性帶來什麼，是好是壞？我將分享我們在過去一年中學到的知識，以及我對 2024 年的預測。
回顧 2023 年
一年前 (LLM 時代之前)，在我撰寫《網路安全性中機器學習的未來》時，我指出 AI 在網路安全領域面臨的三個獨特挑戰：準確性、數據短缺和缺乏基本事實，以及三個常見但在網路安全領域更為嚴峻的 AI 挑戰：可解釋性、人才短缺和 AI 安全性。
現在經過一年的大量探索之後，我們發現 LLM 在這六個領域中的數據短缺、缺乏基本事實、可解釋性和人才短缺等四個領域可以提供很大的幫助。而準確性和 AI 安全性等另外兩個領域也都極其關鍵，但是仍然非常具有挑戰性。
我總結在網路安全性中使用 LLM 時的兩大優勢：
1.數據
標記數據
使用 LLM 協助我們克服沒有足夠「標記數據」的挑戰。
高品質的標記數據對於讓 AI 模型和預測更加準確和適當網路安全使用案例是必要的。然而，這些數據難以取得。例如，很難發現能讓我們了解攻擊數據的惡意軟體樣本。遭到入侵的企業並不熱衷於分享這些資訊。
LLM 有助於收集初始數據並根據現有的真實數據來彙整數據，對其進行擴展以產生有關攻擊來源、途徑、方法和意圖的新數據，然後使用該資訊來建立新的偵測，而不會將我們限制在現場數據。
基本事實
正如我一年前在文章中提到的，我們未必能夠掌握網路安全性的基本事實。我們可以使用 LLM 並透過發現我們的偵測與多個惡意軟體數據庫中的差距、降低漏報率和頻繁地重新訓練模型來顯著改善基本事實。
2.工具
LLM 適合讓網路安全操作變得更容易、更易於使用且更為可採取行動。到目前為止，LLM 對於網路安全性的最大影響是安全作業中心 (SOC)。
例如，LLM 的 SOC 自動化背後的關鍵功能是函數調用，這有助於將自然語言指令轉換為可以直接操作 SOC 的 API 呼叫。LLM 還可以協助安全分析師更聰明且更快速地處理警示和事件回應。LLM 讓我們能夠透過直接從使用者取得自然語言命令來整合複雜的網路安全工具。
可解釋性
過往的機器學習模型表現良好，但是無法回答「為什麼？」的問題憑藉準確且有信心地解釋原因的方式，LLM 具備改變現狀的潛力，而這將從根本上改變威脅偵測和風險評估。
LLM 快速分析大量資訊的功能有助於關聯來自不同工具的數據：事件、日誌、惡意軟體系列名稱、來自一般弱點和暴露 (CVE) 的資訊，以及內部和外部數據庫。這不僅有助於找到警示或事件的根本原因，還可以大幅縮短事件管理的平均解決時間 (MTTR)。
人才短缺
網路安全產業的失業率為負。我們沒有足夠的專家，而人類也無法因應大量的警示。由於 LLM 的優勢：快速統整並消化大量資訊、了解自然語言的命令、將其分解為必要的步驟，以及找到正確的工具來執行任務，LLM 大幅降低安全分析師的工作量。
從取得領域知識和數據到剖析新樣本和惡意軟體，LLM 可以幫助我們更快且更有效地加速建構新的偵測工具，讓我們能夠自動完成從識別和分析新惡意軟體到找出惡意行動者的工作。
我們還需要為 AI 基礎結構建立正確的工具，讓每個人不必成為網路安全專家或 AI 專家，也能在網路安全性方面透過利用 AI 而受益。
針對 2024 年的三大預測
當談到 AI 在網路安全性中的日益增長時，很明顯我們正處於一個新時代的開始，通常稱為「曲棍球棒」式成長的早期階段。我們對能夠改善安全狀況的 LLM 了解的越多，我們就越有可能在充分利用 AI 方面領先於潮流 (以及我們的對手)。
雖然我認為在網路安全領域有很多方面已經成熟，可以討論更頻繁地使用 AI 作為對抗複雜度和擴大攻擊途徑的利器，但有三件事值得注意：
1.模型
AI 模型將在建立根基於網路安全需求的深入領域知識方面取得巨大進展。
就在去年，人們對改進通用 LLM 模型給予許多的關心。研究人員努力讓模型變得更聰明、更快速且更便宜。然而，這些通用模型可以提供的功能與網路安全性的需求之間存在巨大差距。
具體來說，我們的產業不一定需要一個巨大的模型來回答「如何製作菠菜班尼迪克蛋」或「誰發現了美洲」等各種問題。相反的，網路安全性需要高度準確的模型，而且具有網路安全威脅、流程等方面的深入領域知識。
在網路安全性中，準確性至關重要。例如，我們每天在 Palo Alto Networks 處理來自世界各地 SOC 超過 75 TB 的數據。即使 0.01% 的錯誤偵測判斷也可能是災難性的。我們需要具有豐富安全背景和知識的高精度 AI，以提供著重於客戶安全需求的客製化服務。換句話說，這些模型需要執行更少的特定任務，但是具備更高的精確度。
工程師在建立具有更多垂直產業和特定領域知識的模型方面取得巨大的進展，而我相信以網路安全性為中心的 LLM 將於 2024 年興起。
2.使用案例
網路安全領域將會出現 LLM 的變革性使用案例。這將讓 LLM 對於網路安全性變得不可或缺。
在 2023 年，每個人都對 LLM 的驚人功能感到非常興奮。人們開始使用這項利器來對應所有情況。
但是到了 2024 年，我們將了解到並非每個使用案例都適合 LLM。我們將擁有真正的支援 LLM 的網路安全產品，適用於與 LLM 優勢非常相符的特定任務。這將真正為客戶提高效率、改善生產力、增強可用性、解決現實問題並降低成本。
想像一下，您能夠閱讀數以千計的安全問題手冊，包括像是設定端點安全設備、疑難排解效能問題、為新使用者提供適當的安全憑證和權限，以及按廠商細分安全架構設計等內容。
LLM 以可擴充且快速的方式消費、摘要、分析和產生正確資訊的能力將改變安全作業中心，並徹底改變部署安全專業人員的方式、地點和時間。
3.AI 安全性與保障
除了利用 AI 達到網路安全性之外，如何在不損害 AI 模型智慧的情況下建立安全的 AI 和安全的 AI 使用也是一個重要的主題。在這個方向上已經有很多討論和出色的研究。到了 2024 年，真正的解決方案將得到部署，儘管這些解決方案可能是初步的，但其將是朝著正確方向邁出的一大步。此外，還需要建立智慧評估架構，以動態評估 AI 系統的安全性與保障。
請記住，LLM 也可能由惡意行動者所利用。例如，駭客可以使用 LLM 輕鬆產生大量且更高品質的網路釣魚電子郵件。他們也可以利用 LLM 來建立全新的惡意軟體。但該產業在使用 LLM 方面正在採取更為協作和策略性的行動，協助我們取得領先並持續領先攻擊者。
2023 年 10 月 30 日，美國總統 Joseph Biden 發佈一項行政命令，內容涵蓋負責任且適當地使用 AI 技術、產品和工具。該命令的目的涉及 AI 廠商採取一切必要措施以確保其解決方案用於正確的應用而非惡意目的。
AI 安全性與保障代表著一種真正的威脅，我們必須嚴肅看待這一威脅，並且假設駭客已經在設計部署以對抗我們的防禦。AI 模型已被廣泛使用，此一單純事實導致攻擊範圍和威脅途徑大幅擴展。
這是一個非常動態的領域。AI 模型每天都在進步。即使部署 AI 解決方案之後，模型也會不斷演進，永不停歇。因此非常需要持續地評估、監控、保護和改進。
而愈來愈多的攻擊也將使用 AI。作為一個產業，我們必須把開發安全的 AI 架構當作首要任務。這需要一個當代極具挑戰性和前瞻性的目標，其中涉及廠商、企業、學術機構、政策制定者、監管機構，也就是整個技術生態系統的通力合作。毫無疑問的，這將是一項艱鉅的任務，但我相信大家都意識到這項任務的意義有多麼重大。
結論：好戲還在後頭
在某種程度上，ChatGPT 等通用 AI 模型的成功已經讓我們在網路安全性方面被寵壞了。我們都希望能夠建立、測試、部署並持續改進我們的 LLM，讓其更以網路安全性為中心，但我們卻被提醒，網路安全性是應用 AI 的一個非常獨特、專業且棘手的領域。我們需要正確處理數據、工具、模型和使用案例等四個關鍵方面才能讓其發揮作用。
好消息是我們可以接觸到許多聰明且堅定的人們，他們有遠見，能夠了解為什麼我們必須發展更精確的系統，將功能、情報、易用性以及最重要的網路安全相關性結合起來。
我很幸運能夠在這個領域工作很長一段時間，我對於 Palo Alto Networks 內部以及我們周圍產業的同事每天所取得的進步總是感到興奮和欣慰。
回到作為預言家的棘手部分，我們很難斷定未來的發展。但我確實知道這兩件事：
- 2024 年將是 AI 在網路安全領域應用突飛猛進的一年。
- 但跟潛力無限的未來相比，2024 年仍將顯得相形失色。
May Wang 博士是 Palo Alto Networks 的 IoT 安全技術長。