為什麼資訊安全長需要全面採用 AI

我不是第一個這麼說的人，但是這句話值得一再強調：人工智慧 (AI) 改變網路安全性的遊戲規則。如果我們信任並且能夠善加利用 AI，那麼其對於我們的網路安全團隊來說將能成為具備先進技術的合作夥伴。如果我們不能全面採用 AI，攻擊者就會將其利用作為武器來將我們一舉擊潰。

在網路安全領域中，AI 就像是一把雙面刃。目前，優勢似乎站在網路罪犯這邊。他們使用 AI 來加速和擴大攻擊面，讓許多策略、技術和程序 (TTP) 更加有效。

例如，詐騙者可使用像是 ChatGPT 這樣的現成工具，讓公司電子郵件入侵 (BEC) 和網路釣魚攻擊更具針對性且逼真。專業層級較低的潛在罪犯則會使用 AI 發動比他們自己的裝置複雜得多的攻擊。我們現在所看到的只不過是冰山一角。

儘管 AI 已經存在很長一段時間，但其在網路安全領域仍處於相對初始階段。別忘了，ChatGPT 是從 2022 年 11 月起才開始使用。隨著應用程式堆疊的發展，大部分的 AI 學習將也將圍繞著它而展開。駭客廣泛使用 AI 來利用軟體程式碼展開入侵也只是時間問題。

AI 能對您做些什麼

網路罪犯一直在尋找創新和新型的攻擊方法。這是一個簡單的商業模式：不管怎樣都有效。他們對於 AI 的使用已發揮成效，並且渴望能更廣泛地運用。

有鑑於這些挑戰，許多資訊安全長已經對 AI 可能帶來的衝擊有所警惕，而不是關注 AI 可能為他們帶來的好處。一家總部位於倫敦的網路安全顧問公司最近對 250 名資訊安全長進行一項調查。80% 的受訪者表示，他們認為 AI 是對其企業最重大的網路威脅，而高達 81% 的受訪者認為 AI 的風險超過優勢。¹

這種想法雖然可以了解，卻也過於短視。我們無法控制網路罪犯使用的工具和技術。他們對於 AI 的使用將呈等比級數增加 — 特別是如果我們不針對 AI 生成和 AI 式攻擊建立強而有力的防禦措施，後果將更為嚴重。如果我們只依靠人力來防禦 AI 式攻擊，那麼我們就像是單手綁在背後進行戰鬥一樣。

我們又該如何建立這些防禦？在我看來，唯一的辦法就是以 AI 對抗 AI。

AI 能為您做些什麼

現實情況是 AI 可以比人類更快速且更準確地完成特定工作。它重複執行速度的比任何人都還快速；編寫程式碼所需的時間也比人類更少。如果使用得當，一個 AI 可以完成 10 個人的工作。隨著時間的推移，AI 的能力只會變得更強。

在現今的環境中，我們會使用 AI 來接收警示、監控並對威脅做出回應。或許在明年，我們就能使用 AI 來監控警示並獨立採取行動。

為什麼？因為人類的速度不夠快速，無法跟上威脅情勢的腳步。我們必須允許 AI 在適當的限制下完成它的任務。為了讓 AI 能夠獨立行動，我們必須定義它的權利和責任。或許最重要的是，我們必須相信其能夠完成其工作，就像我們信任網路安全團隊的成員一樣。

團隊的另一名成員

一旦使用 AI 的方法不正確，它就不能發揮用處，甚至會降低組織的安全性。身為資訊安全長，我認為我們最重要的責任之一就是創造和培養我們的組織文化。如果我們將 AI 視為必要工具，我們的團隊就更有可能接受它。

我建議用一種有趣的方式來思考 AI — 將其視為網路安全團隊的另一名員工、同事，擁有很大的自主權，並且能夠全面、準確、快速地執行重要任務。

資訊安全長和我們的團隊必須願意信任 AI 可以執行許多會使人力陷入困境的例行性任務。這代表著隨著技術的不斷發展，我們應仔細評估 AI 現在以及未來能夠有效完成的任務。它在哪些方面可以補充我們的人力、哪些方面可以接管人類的工作，以及在哪些方面使用它更具成效？哪些任務可能容易受到人為錯誤的影響，而 AI 可以更快、更有效地執行這些任務且風險更小？

我們還必須確保能夠負責任地使用 AI。這代表著我們應謹慎地制定稽核程序以揭露錯誤行為。對於處於高度管制市場的公司來說，就如同在 Better 一樣，使用 AI 時必須採取額外的預防措施。對於金融或醫療保健等領域的其他公司也是如此。不過對於 AI 的使用仍有一些細微差別。例如，在我們的領域，我們會更關切潛在的歧視。而在醫療保健領域，醫療誤診可能會造成災難性後果。

是跟上這股潮流的時候了

我在本文提出的想法甚至是提出的警告，都是與在進行判斷時應考慮的因素有關，像是要如何在我們的網絡安全團隊的武器庫中最有效地使用 AI 作為主動、預防性，並且在許多情況下作為防禦性的工具。關鍵在於我們應思考如何使用 AI，而不是是否要使用 AI。

幸運的是，身為資訊安全長，我們並不孤單。我們擁有一個相互支援和共享知識的社群。我們在供應商社群中擁有堅實且創新的合作夥伴，他們具備充足的資源和動力來投資 AI 驅動的解決方案以協助我們所有人。

我們也看到 AI 已充分運用於即時威脅情報和回應、自動事件回應、行為分析、安全資訊和事件管理 (SIEM)、詐欺偵測等領域。

展望未來，我可以預期在程式碼修補和程式碼生成中使用 AI 的巨大機會、自動識別惡意程式碼並修復弱點，比我們團隊中的任何人都能更快速且更準確地完成這些任務。擺脫這些任務的人們將有更多時間來建立可以創造營收的功能。

使用 AI 來加強我們的防禦將會有一個學習曲線，就像網路罪犯利用我們的弱點也會有一個學習曲線一樣。我們不能讓攻擊者在曲線上拉大領先我們的差距。否則，他們將會使用 AI 來戰勝我們。

現在，資訊長和我們的團隊應該採用 AI，體認到 AI 就是網路安全領域的遊戲規則改變者，並建立一個能夠安全地採用和信任 AI 的文化。

Better 是數位科技利用的先驅者，讓購屋變得更簡單、更快速且更方便。

1.Chris Middleton，「Why 80% of CISOs see AI as the biggest threat to their business」，Diginomica，2023 年 10 月 11 日。