Check Point《AI安全報告》：嚴防AI驅動網絡犯罪 採用AI相應防禦策略
網絡安全供應商Check Point軟件技術有限公司發佈《AI安全報告》，深入拆解網絡犯罪分子如何以AI技術作為武器，並為網絡安全從業者提供一系列防禦建議與實踐策略。Check Point亞太區及日本資訊安全總監Jayant Dave表示：「網絡犯罪分子迅速採用AI技術，並以前所未有的速度重塑網絡安全威脅環境。」
《AI 安全報告》列出的關鍵威脅
隨着AI在各行各業的應用越見普及，網絡犯罪分子正利用生成式AI和大型語言模型 (LLM) 大規模地偽造身份，破壞公眾對數碼身份的信任。報告指出，這些威脅變化背後的核心是AI高度模仿和操控數碼身份的能力，因而模糊了真實與虛假之間的界線。以下是導致信任瓦解的四個核心領域：
- AI加強身份冒充及社交工程攻擊：犯罪者利用AI生成像真度極高的釣魚郵件、虛假音訊和深度偽造影片。近期更有犯罪者利用AI合成語音冒充義大利國防部部長的事件，充分說明在網絡世界裏無論是聲音、面容還是文字內容都有機會被偽造。
- 大型語言模型 (LLM) 數據下毒與虛假訊息傳播：黑客透過操控AI訓練數據，引導其輸出有偏差的內容。其中一宗涉及俄羅斯虛假信息網絡組織「Pravda」的相關案例顯示，AI聊天機械人有多達33%的回答內容為虛假敘事，突顯保護AI系統數據真實的重要。
- AI生成惡意軟件與數據探勘：網絡犯罪分子利用AI技術生成並改良惡意代碼、將DDoS攻擊流程自動化，並竄改被盜數據。一些組織如「Gabbers Shop」，更會透過AI提升數據轉售價值與目標精準度。
- AI模型的武器化與劫持：從被盜的大型語言模型帳號到暗網定製的FraudGPT、WormGPT等暗黑模型，網絡罪犯正繞過原有的安全機制，將 AI 用作黑客攻擊與詐騙的商業工具。
打造AI感知能力的網絡安全框架
Check Point指出，網絡安全人員應假設犯罪分子已普遍將AI融入攻擊手段。為應對挑戰，機構應採用具備AI感知能力的網絡安全框架，包括：
- AI輔助偵測與威脅狩獵：利用AI識別由AI生成的攻擊內容，例如偽造郵件、深度合成影片等。
- 強化身份驗證機制：加強身份驗證，採取超越傳統的安全策略，實施多重身份驗證，以應對文字、音訊和影片中AI驅動的身份冒充，警惕數碼身份不一定可信。
- 結合AI情景感知的威脅情報：為網絡安全團隊配備具AI感知能力的分析工具，加強團隊對新型攻擊手段的識別與回應能力。
Jayant Dave補充：「在AI驅動的時代，網絡安全團隊必須結合AI和防禦系統，同步對抗網絡犯罪分子。此報告不但揭示了AI帶來的新型安全挑戰，更就建構安全、負責任的AI環境提供有效建議。」
同時，AI的普及加深了穿梭於現今高度連結世界所需的靈活度。單靠基於雲端的解決方案已然不足，因此，Check Point鼓勵機構採用混合式網狀架構。一個多元、適應力強的框架讓機構更靈活地在所需的時間和環境準確地保障網絡安全。比起將所有流量引至雲端，混合式網狀架構讓機構能夠斷定不同場景的最佳檢查點。他們既可在適當的時候利用雲端的強大效能，亦能同時保護本地環境流量，以確保最佳的效能、成本效益，以及最為重要的強大保障。
Check Point大中華區技術總監侯嘉俊表示，生成式AI面世只是兩年，該公司仍在建立生成式AI防護體系。他強調，Check Point在GPU、CPU、數據及雲層面均有相應AI防護方案，還不斷投入資源做研發，提升AI時代的數碼防護能力。
