人工智慧安全嗎？這無疑是目前科技界最熱門的話題，也引發了廣泛的討論。
在2025年2月於巴黎舉行的全球高峰會上，世界各國領導人對人工智慧安全議題的看法不一。例如，法國總統馬克宏呼籲加強監管，以推動人工智慧的發展；而美國副總統萬斯則表示，「促進人工智慧成長的政策」應優先於安全問題。
儘管合法企業、政府機構和個人都在探索如何負責任且安全地使用人工智慧，但另一個威脅依然存在：網路犯罪分子利用人工智慧來增強其惡意活動的威力，使其更加成功。
人工智慧網路犯罪正在改變整個數位安全格局，因此，每個人都必須了解相關風險以及必要的安全措施。本指南將探討不同類型的人工智慧網路攻擊，分析這些攻擊對安全的影響，並介紹您可以採取哪些措施來加強防禦。
利用人工智慧成功進行駭客攻擊的案例
人工智慧生成的惡意軟體和其他犯罪活動的風險遠非紙上談兵——這些攻擊已經發生，並在全球造成人員傷亡。以下僅列舉眾多案例中的三個：
冒充：Guido Crosetto
2025年初，詐騙分子利用人工智慧語音技術冒充義大利國防部長圭多·克羅塞托。他們隨後聯繫義大利的富裕企業家，謊稱需要提供資金援助，以幫助解救在中東被綁架的義大利記者。至少有一位商人上當受騙，將錢匯入了一個後來被證實為詐欺帳戶的帳戶。
惡意軟體：DeepSeek ClickFix騙局
一個網路犯罪集團建立了一個驗證網頁，模仿了中國新型人工智慧DeepSeek。用戶完成他們以為是驗證碼驗證的操作後，實際上會安裝Vidar Stealer和Lumma Stealer惡意軟體。這些惡意軟體可用於竊取敏感資訊，包括登入資訊和銀行詳細信息，最終導致網路銀行詐騙。
用戶失誤：三星ChatGPT洩漏事件
雖然這並非人工智慧病毒或惡意軟體攻擊，但這起備受矚目的事件凸顯了人們可能在不知不覺中為人工智慧攻擊敞開大門。2023年春季，韓國科技巨頭三星的員工使用ChatGPT查看部分原始碼，卻未意識到這些資料會保留用於進一步訓練人工智慧模型。這實際上將三星一些高度敏感的智慧財產權暴露在公共領域，任何人都可以使用。
人工智慧網路攻擊的類型
目前已有多種方式利用人工智慧進行惡意活動，既可直接使用，也可輔助其他犯罪活動：
社會工程學
社會工程攻擊是指犯罪者試圖影響人類行為，誘使用戶自願交出資訊或資產。這些資訊或資產可能包括敏感的個人資料、銀行帳戶資訊、金錢或加密貨幣，甚至是某些裝置和資料庫的存取權限。人工智慧在這類攻擊中發揮了重要作用，它能幫助網路犯罪分子識別目標、創建逼真的角色和訊息，並製作音訊和視訊錄影，從而增強詐騙的可信度。
網路釣魚攻擊
網路釣魚攻擊依賴使用者誤以為收到的資訊、連結和電子郵件附件是真實的，並點擊其中隱藏的惡意軟體。過去，良好的用戶教育有助於降低此類攻擊的成功率，但如今人工智慧正被用於使網路釣魚攻擊更具迷惑性。它可以應用於即時通信，例如 WhatsApp 訊息或社交媒體通信，甚至可以用於偽造的客服聊天機器人，讓客戶誤以為自己正在與真正的客服人員分享帳戶資訊。
人工智慧勒索軟體
大大擴展了勒索軟體攻擊的技術能力。這包括目標研究，例如評估系統中最有可能被利用的漏洞，以及調整勒索軟體檔案使其能夠逃避網路安全解決方案檢測的能力。
對抗性人工智慧與惡意GPT
許多網路犯罪分子透過輸入不準確的數據或篡改人工智慧模型的設定來扭曲其輸出結果。這些不準確之處可能導致危險的偏差，或產生符合駭客目標的指令。同時，惡意人工智慧工具的使用也在增加，這些工具沒有任何安全措施來防止偏見和濫用； GhostGPT就是一個近期出現的例子，它是一個未經審查的聊天機器人，可用於創建人工智慧惡意軟體。
深度偽造技術
你可能認為深度偽造技術只會威脅到公眾人物，因為他們的臉部和聲音會被放置在虛構的、有損形象的位置，但實際上，它對每個人都構成威脅。深度偽造技術可以透過視訊、語音或兩者結合的方式冒充任何人。這些技術可能被用來欺騙安全和驗證程序，從而獲取敏感資訊甚至銀行帳戶。
以暴制暴：人工智慧驅動的網路犯罪對安全意味著什麼？
對抗人工智慧網路威脅的最佳工具就是人工智慧本身。但這並不意味著標準的安全解決方案無法阻止人工智慧支援的攻擊：它們仍然能夠抵禦多種惡意軟體和駭客攻擊。然而，將人工智慧融入安全體係可以為多種安全方法增添新的維度，例如：
事件回應
人工智慧可用於自動化事件回應活動。例如，卡巴斯基事件回應系統可以阻止惡意活動，與人工回應系統警報相比，受影響的系統能夠更快地被隔離。大幅縮短回應和解決時間可以最大限度地減少任何攻擊的影響，最終限制中斷規模、成本和資料遺失。
威脅偵測和主動威脅搜尋
由於威脅層出不窮，安全團隊很難跟上所有威脅的步伐並調查每個警報。人工智慧可以提供幫助，它可以詳細分析用戶行為和網路流量，更快發現潛在威脅，並過濾掉浪費安全團隊寶貴時間的誤報。人工智慧還可以使威脅偵測更具主動性，在網路攻擊發生之前就將其攔截。
惡意軟體分析
人工智慧產生的洞察可以幫助安全團隊更深入地了解不同類型的惡意軟體在實踐中的運作方式。能夠自動化此分析意味著安全團隊可以更快地獲得這些洞察，並就其防禦措施的設計和部署做出更明智的決策。
漏洞掃描
人工智慧工具可以評估系統和基礎設施，找出最大的漏洞所在，從而使安全團隊能夠更好地分配時間和資源，並優先修復這些漏洞。這些資訊對於改進修補程式和更新管理至關重要，確保優先安裝最緊迫的升級。
身分和存取管理 (IAM)
人工智慧極大地增強了身分和存取管理的功能，它能夠識別來自不同位置的異常用戶活動模式，從訪問嘗試到打字速度和滑鼠移動速度，無所不包。這些異常情況可以即時標記，以阻止任何潛在的未經授權的訪問，和/或產生額外的驗證層以確認合法使用。
道德駭客
道德駭客和滲透測試是發現漏洞並主動修復漏洞的關鍵工具。然而，由於工作量龐大，這項工作可能既緩慢又耗時。人工智慧可以透過兩種重要方式減輕這些任務的管理負擔：自動化那些拖慢團隊速度的簡單重複性任務，以及分析結果以提供可操作的見解。
風險評估
人工智慧在道德駭客領域的優勢同樣可以應用於風險評估和威脅優先排序（根據危險程度）。這項工作雖然重要，但也可能十分繁瑣耗時，因此利用人工智慧加速流程、處理重複性工作並提供更深入的洞察將大有裨益。
如何防範人工智慧網路攻擊
除了上述基於人工智慧的安全功能外，還有許多方法可以最大限度地降低人工智慧駭客攻擊成功的幾率。從我們的專家角度來看，最佳方案是將人員、計畫和技術結合起來：
制定事件回應計畫
對事件的反應速度越快，就能越快減輕影響，並確保損失不會擴散太廣。就像消防演習一樣，您應該清楚知道在發生安全事件時該怎麼做。您的計劃應涵蓋準備（即預防和應對措施）、偵測和分析（確認攻擊的性質和嚴重程度）、遏制和根除攻擊（系統隔離、修復和修補）以及防止事件再次發生的復原策略。
了解更多關於如何使用卡巴斯基事件回應解決方案建立有效策略的資訊。
使用最強大的安全平台
確保您擁有最全面的安全防護措施，以抵禦現有威脅和基於人工智慧網路犯罪的新型攻擊。例如，卡巴斯基高級版提供即時防毒保護，可立即採取行動阻止攻擊；它還包含身分保護功能，可進一步保護敏感的個人資料。
定期評估安全狀況
由於人工智慧和網路犯罪都在快速發展，您今天採取的安全措施可能在 12 個月後（甚至可能更短時間內）就不足以應對。這意味著應定期對安全狀況進行審計和審查；人工智慧可以透過即時分析使用者活動並發現與上一個審計週期相比的任何異常活動來支援這項工作。
保持使用者和員工的安全意識
網路釣魚攻擊的持續成功——無論是否使用人工智慧——都凸顯了良好的安全性始於用戶這一事實。現在是時候讓用戶意識到人工智慧駭客攻擊及相關攻擊的風險了，尤其要讓他們了解人工智慧生成的文字、音訊和視訊的逼真程度。這可以提醒使用者保持高度警惕，除非 100% 確定安全，否則不要進行任何活動。了解卡巴斯基網路安全培訓如何幫助您的團隊防範人工智慧驅動的攻擊。
相關文章：
相關產品：
