從防御視角探討ChatGPT對網絡安全的影響
專家介紹
ChatGPT的核心優勢是通過基于自然語言處理技術模型、情景模型和語言模型來自動生成文章和代碼。在前面的文章中，我們從攻擊視角探討了ChatGPT對網絡安全的影響，本文將從防御視角來探討ChatGPT在網絡安全領域的作用，并進行能力評估。
ChatGPT在網絡安全領域的應用主要有以下幾個方面：1.威脅檢測：（1）提取簽名規則（2）識別惡意代碼2.代碼審計：分析代碼漏洞3.威脅情報：從文本中提取情報4.安全運營：生成安全運營報告
威脅檢測：提取簽名規則
能力指數：★★★☆☆
眾所周知，GitHub上有大量開源的簽名規則，例如Yara、Sigma、ES等，可以用于威脅檢測。由于ChatGPT訓練數據包含GitHub內容，因此我們可以測試ChatGPT的規則提取能力。我們首先要求ChatGPT輸出檢測挖礦木馬的Sigma規則。
作為一位專注于威脅檢測的從業者，我認為上述答案缺乏細節，遠沒有涵蓋全面，尤其是沒有提及數據采集的類型。于是我追加了問題中的要求。
這次給出的答案十分全面，但是檢測規則仍然不夠完善，經過多次詢問后，最終得出的檢測規則如下：
這些規則雖然不能直接應用于產品，但是對于威脅分析而言，能夠迅速掌握檢測規則的概貌，也算是一種很不錯的幫助。
結論：ChatGPT威脅檢測提取簽名規則的能力指數評分為★★★☆☆，勉強及格。
威脅檢測：識別惡意代碼
能力指數：★★★★☆
ChatGPT有能力理解和分析代碼，我們讓ChatGPT來分析下前一篇文章所生成的webshell后門。第一步，識別一句話木馬。
可以看到ChatGPT給出了正確回答，同時給出了非常不錯的判定理由。我們繼續使用base64解碼的webshell，讓ChatGPT進行識別，ChatGPT依然應對自如。
第二步，識別變種的webshell。接下來試試免殺的webshell。下面是一個利用在高版本php語法不換行，來執行命令繞過常規檢測的webshell，我們讓ChatGPT來檢測。
ChatGPT給出的判定結果完全正確，并且其反引號可以用來執行命令的理由也非常充分。前方高能！?。?/strong>下面是一個難度極高的檢測示例，使用字符串替換和函數方式運行webshell命令。
可以看到，ChatGPT給出的答案完全正確，其解釋更是令人驚嘆。要知道，人看這段代碼可能沒什么，要交給機器自動化判定，必須要通過對PHP腳本的詞法分析和語義分析才能獲得，但在ChatGPT看來，這似乎不算什么難事。
結論：綜上所述，ChatGPT 在惡意腳本類代碼識別方面表現出色，能力指數評分為★★★★☆。其 AI 所給出的結果令人驚嘆，這歸功于它出色的代碼分析能力。ChatGPT為何擅長代碼分析呢？●使用的文本生成模型GPT（Generative Pre-trained Transformer）能夠對代碼進行分析，以確定其意圖。●訓練所使用的數據量巨大，ChatGPT從Stack Overflow、github等大量的語料里訓練模型。●ChatGPT可以學習特定的編程語言的語義，生成更加準確的語義分析結果。代碼審計：分析代碼漏洞
能力指數：★★☆☆☆
前面提到ChatGPT擅長代碼分析，接下來我們看看它在代碼審計方面的能力，是否可以幫助我們發現代碼中存在的問題。首先，我們以比較簡單的存在SQL注入的代碼審計為例：
ChatGPT的回答還算讓人滿意。不過，當我們嘗試一個不存在SQL注入的代碼時，ChatGPT就開始“一本正經的胡說八道”了：
實際上，上面的代碼可以有效地防止SQL注入，原因如下：1.采用了預編譯，避免了拼接SQL語句，清晰地劃分了代碼與數據。2.檢測了數據類型是否僅為數字。3.判定結果是否僅為一條，有效防止“拖庫”攻擊。ChatGPT回答錯誤，進一步追問ChatGPT，讓其給出poc代碼。
果然，它給出的答案是錯的。
結論：ChatGPT 的代碼審計能力指數為★★☆☆☆?？傮w而言，ChatGPT 對代碼審計有一定的幫助，但是需要人工核實它回答的結果是否正確。威脅情報：從文本提取情報
能力指數：★★☆☆☆
從公開報道中摘取有關情報，是安全領域最為常見的自然語言處理應用場景之一。我們讓ChatGPT從CrowdStrike的“麻辣香鍋”惡意軟件公開報道中，提取出一份中文摘要。
看起來還不錯！我們再讓ChatGPT提取響尾蛇組織使用的TTP。
上述回答給出的鏈接已經失效，無法證實其答案的正確性。
結論：ChatGPT從文本提取情報的能力指數為★★☆☆☆。綜合來看，ChatGPT 對于提取情報有一定的幫助，但還需要人工核實。安全運營：生成安全運營報告
能力指數：★★☆☆☆
ChatGPT可以提升安全運營效率，已有公開報道稱它可以解析安全日志，針對可能存在的威脅事件，提供詳細的處置建議，并發布相應的事件通告；還可以生成用戶報告，支持組織有效地管理安全風險。安全運營的最終目標是實現智能運營，而最具挑戰性的工作是在海量告警中發現有效攻擊。ChatGPT目前無法實現海量告警研判分析，仍然需要安全運營專家的參與，才能達到最佳效果。 結論：ChatGPT生成安全運營報告的能力指數為★★☆☆☆。基于ChatGPT構建安全大模型
看到ChatGPT在網絡安全防御方面的諸多優點，很多安全企業可能蠢蠢欲動，希望做自己的安全大模型。如何讓大模型適配安全場景呢？很多人可能都會想到在ChatGPT這樣的大模型基礎上，針對安全領域重新訓練一個增量模型。但是有幾個關鍵問題需要考慮：1.訓練成本：大模型訓練成本取決于訓練數據的大小和模型復雜性。當訓練數據更大和模型更復雜時，訓練成本會更高，因為需要更多的計算資源來處理更多的數據。2.模型調整：針對安全運營場景，需要調整大模型的數據輸入，用于海量安全事件的研判分析，這需要安全運營和AI專家投入。3.最終效果：由于安全事件本質上是低概率事件，大規模對于少見的，甚至是新型的安全攻擊類型，當前還無法有效處理。結語
ChatGPT使AI在網絡安全防御中的應用更為廣泛，它是一種基于深度學習的自然語言生成技術，可以幫助網絡安全防御人員提取簽名規則，識別惡意代碼，提升代碼審計和情報提取的效率；幫助安全運營人員分析日志，生成安全運營報告，給出有效的防護措施建議。鑒于這些益處，許多企業希望構建適配安全場景的大模型，這就必須考慮訓練成本、模型調整這些因素，并且大模型對于少見的、甚至是新型的安全攻擊類型，當前還無法有效處理。即便如此，我們仍然相信，ChatGPT等大模型的出現一定會對網絡安全領域帶來很大改變，實現智能分析和運營，只是一個時間問題。下期預告
下期我們將看看ChatGPT是不是無所不能，有沒有干不了的事情呢？敬請期待。
往期精彩推薦
點擊“閱讀原文”，了解更多華為數據通信資訊！
原文標題：從防御視角探討ChatGPT對網絡安全的影響
文章出處：【微信公眾號：華為數據通信】歡迎添加關注！文章轉載請注明出處。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
華為
+關注
關注
216文章
34532瀏覽量
252999
原文標題：從防御視角探討ChatGPT對網絡安全的影響
文章出處：【微信號：Huawei_Fixed，微信公眾號：華為數據通信】歡迎添加關注！文章轉載請注明出處。
發布評論請先 登錄
相關推薦
IP地址歸屬地離線庫——網絡安全行業的基石
IP地址因為其在互聯網中的必要性與特殊性成為了是網絡安全行業的第一道防線。一個IP地址歸屬地離線庫包含大洲、國家、省市、經緯度、郵編等內容，這些信息會幫助網絡安全防御判斷訪問流量的安全性。所以IP
最有效的云服務器網絡安全防護措施
云服務器網絡安全防護措施是確保云服務穩定性和數據安全的關鍵環節，最有效的云服務器網絡安全防護措施包括基礎防護措施、訪問控制與身份驗證、監控與審計、入侵檢測與防御、高級防護措施、應急響應
國產網絡安全主板在防御網絡攻擊中的實際應用
在現代信息技術迅猛發展的背景下，網絡安全問題變得越來越復雜和嚴峻。從企業到個人用戶，各類網絡攻擊事件頻繁發生，威脅著數據的安全和系統的穩定。近年來，我們看到各種形式的
如何利用IP查詢技術保護網絡安全？
在數字化時代，企業網絡面臨著復雜多變的威脅與挑戰。因此，構建一個穩固的網絡安全體系至關重要。而IP查詢技術，作為網絡安全防御體系中的一把利劍，正日益成為企業防范網絡風險的重要工具。 什
IP風險畫像如何維護網絡安全
在當今數字化時代，互聯網已成為我們生活、工作不可或缺的一部分。然而，隨著網絡應用的日益廣泛，網絡安全問題也日益凸顯。為了有效應對網絡安全挑戰，IP風險畫像技術應運而生，正逐步成為構建網絡安全
網絡安全技術商CrowdStrike與英偉達合作
網絡安全技術商CrowdStrike與英偉達合作共同研發更先進的網絡防御解決方案；提升CrowdStrike Falcon平臺的威脅檢測速度和準確性。將通過人工智能原生平臺CrowdStrike
海外高防服務器對網絡安全保護的影響
海外高防服務器作為一種專門設計用于抵御分布式拒絕服務(DDoS)攻擊和其他網絡威脅的強大工具，對網絡安全保護起著至關重要的作用。這類服務器通常部署在具有豐富帶寬資源和先進防御機制的國際數據中心，為全球范圍內的用戶提供了一層堅固的
人工智能大模型在工業網絡安全領域的應用
僅提升了網絡安全的防護能力，還推動了工業網絡安全的智能化轉型。本文將從人工智能大模型的基本概念、特點出發，探討其在工業網絡安全領域的具體應用、優勢以及面臨的挑戰。
揭秘！家用路由器如何保障你的網絡安全
家用路由器保障網絡安全需選知名品牌和型號，設置復雜密碼并開啟防火墻，定期更新固件，使用安全協議，合理規劃網絡布局，及時發現并處理異常。提高家庭成員網絡安全意識共同維護
專家解讀 | NIST網絡安全框架（1）：框架概覽
本文主要探討NIST CSF框架的起源目標、內容組成，及其在網絡安全風險管理中的關鍵作用，通過采用該框架，組織能夠更有效地實施風險識別、安全保護、威脅檢測和事件響應，從而構建更加堅固和彈性的網
企業網絡安全的全方位解決方案
從安全域劃分到云端管理，全面構建企業網絡安全防線 在數字化浪潮席卷全球的今天，企業網絡安全已經成為商業運營中不可忽視的一部分。隨著企業數字資產價值的不斷攀升，
華為提出業界首個L4級AI安全智能體，邁入智能防御新時代
2024華為分析師大會期間，在“加速邁向網絡智能化”論壇上，華為提出業界首個L4級AI安全智能體，該智能體架構為人工智能時代全球網絡安全防御提供了新的思路和方向，引領網絡安全邁入智能
自主可控是增強網絡安全的前提
后成立了中央網絡安全和信息化領導小組，這標志著我國網絡空間安全國家戰略已經確立。 ? ?? 網絡安全的內涵可以包括：? ? －信息安全。它是
谷歌在日本設立網絡防御中心
近日，谷歌在日本東京宣布設立亞太地區的首個網絡防御中心，此舉標志著谷歌在加強地區網絡安全方面的重大進展。該中心將作為谷歌與日本政府、企業、大學等合作的重要平臺，共同推進網絡安全政策研究
知語云全景監測技術：現代安全防護的全面解決方案
防護的全面解決方案，憑借其強大的實時監測、智能分析、主動防御等功能，以及易于部署、易于管理的優勢，正在為越來越多的用戶所認可和應用。在未來，隨著技術的不斷進步和應用場景的不斷拓展，知語云全景監測技術必將在網絡安全領域發揮更加重要的作用，為構建
發表于 02-23 16:40
工商網監
評論