隨著人工智慧（AI）進化，資安領域也跟著引領一場巨大變革，AI 可協助企業組織以高速擊敗網路攻擊、解決資安人才短缺問題，並推動資安的創新和效率；攻擊威脅者也可利用 AI 提升攻擊效率及範圍。微軟發布第六期《Cyber Signals》研究報告，揭示攻擊威脅者如何運用 AI提升攻擊效率並進行身份欺詐，Microsoft 與 OpenAI 及 MITRE 合作，透過 AI 的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證，保護自身免受這類網路威脅攻擊侵害。
因應網路攻擊者利用 AI 提高攻擊效率 微軟提四大應對建議
網絡犯罪分子和國家支持的攻擊行為者正在尋求利用AI（包括LLMs）來提高攻擊的速度及範圍，並利用可以進一步實現其目標和攻擊及技術的平台。儘管攻擊威脅行為者的動機和複雜程度各有不同，但在佈署攻擊時，他們的共同任務包括偵察、編碼和協助學習及使用人類和機器語言。微軟採用了多種方法來保護自身免受這類網絡攻擊威脅的侵害，包括人工智慧的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證等。
針對企業組織，微軟也提出四大建議應對網路威脅：
1. 限制 AI 存取的範圍並持續評估應用的合適與合規性。
2. 防範指令提示造成的風險：企業應實施嚴格的輸入驗證和清理，以降低指令產生的風險。
3. 要求整個 AI 供應鏈保持透明度：企業應評估 AI 可與組織數據接觸的所有領域，包括透過第三方合作夥伴和供應商，並透過零信任和數據治理計劃來降低風險。
4. 明確與員工溝通企業的 AI 使用和風險政策。
此外，生成式 AI 可以高速幫助資安防禦者保護其組織，AI在資訊安全的作用是推動多面向的創新並提高防禦效率，從強化攻擊威脅的偵測到簡化資安事件回應，AI的能力正在重塑資安。LLMs在資安的應用證明了AI的潛力，這些模型可以分析大量數據，揭示網路攻擊威脅的模式和趨勢，為攻擊威脅情報提供有價值的背景資訊。使用Microsoft Copilot for Security的用戶在所有任務上的準確性提高了44%、速度提升了26%，皆突顯了將AI整合到資安防禦中的重要性與效益。
AI賦予我們適應並防禦不斷變化的威脅，能夠即時偵測異常、快速回應以阻絕風險，並根據組織的需求量身定制防禦策略。此外，AI還有助於解決全球400萬名資安專業人才的缺口，並幫助防禦者提高防禦的速度與效率。
AI帶來新的能力，也帶來了新的風險。AI不僅是一個工具，而是資安領域的典範轉移。它使我們能夠抵禦複雜的網路攻擊威脅，並適應動態的攻擊威脅環境。完整報告請參考 Cyber Signals 網站及第六期《Cyber Signals》研究報告，並可從部落格文章中閱讀更多內容。欲進一步了解網路犯罪經濟以及企業如何保護自己，請參考微軟安全部落格。
