人工智慧已不再是空想，而是成為一項顛覆性的技術，它正在改變我們的工作方式、創新方式以及資訊互動方式。然而，這項正在革新商業生產力的潛力，也正在改變網路安全威脅格局。近幾個月來，專家警告稱，人工智慧不僅讓網路犯罪分子的工作變得更加輕鬆，而且還成倍增強了他們發動速度更快、成本更低、更難檢測的攻擊的能力。
最新數據證實了這一趨勢。根據Check Point Research的最新報告，7月全球每個組織機構平均每週遭受的網路攻擊數量達到2.336次，比去年同期增加16%。在西班牙，企業平均每週遭受2.068次攻擊，比2015年增加1%。儘管西班牙的成長速度低於全球平均水平，但其組織機構面臨的壓力仍然巨大，尤其是在教育、政府以及消費品和服務等行業。
人工智慧驅動的網路攻擊數量創歷史新高
Check Point Research發布的一份報告分析了全球網路攻擊活動，報告顯示，教育產業仍然是網路攻擊的主要目標，平均每個機構每周遭受4.848次攻擊，比去年增長了14%。其次是政府機構，遭受3.044次攻擊（成長11%），電信業（2.927次，成長6%），能源和公用事業（2.759次，成長20%），以及旅館、旅遊和休閒產業（2.614次，成長28%）。從百分比來看，商業服務業佔報告受害者總數的32,5%，其次是工業製造業（14,4%）和消費品及服務業（13,4%）。
正如研究人員指出的那樣，這些數據反映出網路風險正從多個方面同時累積。攻擊數量不僅在增加，而且攻擊入口也在多樣化。電子郵件仍是主要攻擊途徑之一：在分析的電子郵件中，每128封就有一封被歸類為網路釣魚郵件，另有20%屬於垃圾郵件或灰色郵件等風險類別。非洲的網路釣魚郵件發生率最高（每106封郵件就有一封），其次是北美（每117封郵件就有一封）。
勒索軟體，成長最快的威脅
在所有分析的威脅中，勒索軟體的成長尤其顯著。據報道，7 月勒索軟體攻擊事件達到 964 起，比 6 月成長 49%，比 2015 年 7 月增加 87%。這一成長使勒索軟體成為犯罪集團最有利可圖的手段之一，其影響遠不止於暫時的中斷：它還會造成直接的經濟損失、敏感資訊外洩和聲譽損害。因此，針對嚴重故障制定恢復策略以減輕這些影響至關重要。
按產業劃分，商業服務業受影響最大，佔事件總數的32,5%，其次是製造業（14,4%）及消費品及服務業（13,4%）。從地理來看，北美佔通報案件總數的45%，歐洲則位居第二，佔28%。最活躍的犯罪團夥包括“紳士幫”和“麒麟幫”，這兩個團夥分別佔該時期報告襲擊事件總數的14%。
生成式人工智慧：新的風險前沿
該報告還重點關注了企業廣泛使用生成式人工智慧工具所帶來的風險。每36條向人工智慧平台發出的提示或查詢中，就有一條被歸類為高風險，因為它有可能洩漏敏感資訊。此外，使用這些工具的組織中有88%報告了被認為高風險的活動，22%的訊息包含潛在的機密資訊。
個人資料是最易受攻擊的類別，在70%的受訪組織中都有涉及，其次是財務資料和網路及IT基礎設施，各佔68%。這現象反映出一個日益嚴峻的挑戰：如何在不損害關鍵資產的前提下充分發揮人工智慧的潛力。在許多情況下，風險源自於員工在未充分了解安全隱患的情況下，將文件、報告或客戶資料輸入人工智慧助理。
OpenAI發出警告：必須加強防禦
同時，OpenAI發布了一份報告，警告人工智慧正在加速網路攻擊，並建議企業和組織採取緊急措施加強防禦。 ChatGPT背後的公司指出，能夠輔助程式設計師和自動化任務的模型同樣可以用來發現漏洞、串聯安全缺陷，並加速攻擊——而這些攻擊在不久前還需要專門的團隊和大量時間才能完成。
OpenAI建議改善傳統的安全控制措施，並加速漏洞的偵測和修復速度。其建議包括強化最小權限原則、縱深防禦、網路隔離、系統更新和持續監控。 OpenAI也建議將人工智慧本身作為一種防禦工具，利用人工智慧代理分析程式碼、配置和文檔，在風險被利用之前識別出來。不過，該公司強調自動化應該分階段實施，高影響力的決策仍應由人工監督。
西班牙做好準備：CCN呼籲自我評估
在國家層面，國家密碼中心（CCN）敦促所有納入國家安全框架（ENS）的實體，特別是公共行政部門，在9月15日前完成一份新的自我評估表，以評估其應對人工智慧攻擊性使用所引發威脅的準備情況。該機構警告說，這些威脅並非假設，而是公共行政部門及其技術提供者當前營運環境中真實存在的一部分。
該表格可在INÉS平台上取得，涵蓋社交工程、生成式人工智慧工具的內部使用、身分和憑證保護、事件偵測和回應、文件和通訊完整性、供應商依賴性以及員工培訓等領域。 CCN強調，自我評估旨在確定實際的準備水平，而非聲明正式的合規立場，評估結果應納入ENS的改進和審計計畫。
真實案例：台灣遭受的襲擊
同時，台灣政府報告了一起前所未有的安全漏洞事件，該事件歸咎於人工智慧輔助的網路攻擊。據數位事務署（MDA）稱，此次攻擊至少入侵了85個政府用戶帳戶，竊取了超過2.500份人事檔案，隨後又蔓延至核安局和七家能源企業。協助偵測這次攻擊的以色列公司Dream指出，攻擊者利用開源人工智慧代理創建了一個能夠協同運作的自主駭客工具，如同一個網路攻擊團隊。
這個案例展現了人工智慧輔助攻擊者實現目標的速度之快，儘管專家指出，這一切背後仍然有人在操控。有人決定攻擊目標、設定目標並下達指令。雖然並非完全自主，但自動化能力確實大幅減少了發動複雜攻擊所需的時間和資源。
簡而言之，人工智慧正在重塑網路安全格局。那些安全流程緩慢且主要依賴人工操作的組織，在面對能夠以機器速度運作的攻擊者時，可能會處於劣勢。而那些將傳統最佳實踐、自動化、人工智慧和人工監督結合的組織，將佔優勢。未來的競爭將不再是人與機器之間的較量，而是能夠將人工智慧與健全的風險管理策略結合的組織，與那些僅採用人工智慧而沒有相應策略的組織之間的較量。網路安全是每個人的責任，現在就應該採取行動。
