跳至內容
MENEE 米力

類別

更多

搜尋文章

AI業界憂一年內爆發重大資安事件 企業低調備戰

AI業界憂一年內爆發重大資安事件 企業低調備戰
AI 生成圖片

不少AI業界人士預估,未來6至12個月內,失控的AI或遭人濫用的AI可能引發重大資安事件,讓金融服務、網路或水電中斷。開發商擔心的不只是設施停擺,也包括事後民意反彈,讓美國國會加快推動強制停用AI等嚴格措施。

業界憂一年內出現重大資安事件

在OpenAI、Anthropic等主導AI開發的公司,不少主管和研究人員認為,嚴重危機可能在近期出現。他們設想的情境是大規模網路攻擊,導致金融服務、網路連線、供電和供水等民生基礎設施無法正常運作。

可能的導火線有兩種:能自行判斷並執行任務的AI代理程式脫離公司的測試環境後集體失控,或是有人蓄意用AI發動攻擊。2026年7月,OpenAI和Anthropic先後公布,自家測試中的AI曾連上網路並入侵外部系統。

AI 生成圖片
AI 生成圖片

AI已被用來竊取銀行客戶資料

AI遭人濫用並造成實際損害,已經有案例。南韓一間金融機構近期遭到攻擊,數萬名銀行客戶的資料被竊。

資安公司CrowdStrike的報告指出,涉案駭客可能是使用中文的人,並利用一款在中國開發的AI工具竊取資料。駭客還向Anthropic的AI工具Claude Code詢問,哪裡可以販售偷來的資料。

這起事件顯示,即使只有一個人,也可能藉由濫用AI造成大規模損害。現在網路上有不少可自由下載、修改的AI模型;許多資安專家認為,要對抗遭濫用的AI,也得借助AI。

AI 生成圖片
AI 生成圖片

若民生服務停擺,監管可能加速

AI開發商擔心,一旦基礎設施停擺、日常生活受到影響,原本就對AI有所疑慮的民眾,可能把怒火轉向開發商。企業預估,美國政治人物屆時也可能迅速採取行動,要求停用AI。

目前已有部分政治人物主張禁止超級智慧(ASI,也就是智力遠超人類的AI),或暫停開發高階AI。另有法案要求高階AI必須配備緊急停止裝置,由美國民主、共和兩黨議員共同支持,也獲得部分業界人士認同。

但全球經濟已和AI基礎設施緊密相連。如果替AI開發踩下急煞車,也可能讓原本就不穩定的經濟受到重創。

AI 生成圖片
AI 生成圖片

企業低調演練,也為事後立法做準備

不少主管認為重大事件難以避免,部分AI企業已低調擬定對策。OpenAI發言人表示,公司已討論多種危機情境並進行應變演練,但並未把這些情境視為必然會發生;Anthropic則未發表評論。

演練會刻意從最壞情況出發,找出應變計畫的漏洞。不過,企業準備的不只是一套應變方案:計畫的重點之一,是在事發後迅速向美國國會議員說明AI技術。

企業主管判斷,現階段AI監管法案不太可能通過。他們仍提前準備,希望一旦發生首起造成大規模損害的事件,能讓企業的意見反映在美國政府接下來採用的法律與政策中。