跳至內容
MENEE 米力

類別

更多

搜尋文章

AI遭植入後門 機器人該切蘋果卻轉向假手

更新於
AI遭植入後門 機器人該切蘋果卻轉向假手
圖片來源:Binghamton University, State University of New York

本來要切的是蘋果模型,研究實驗中的機器人卻把刀切向一隻模型手。美國紐約州立大學賓漢頓分校的研究團隊發現,遭植入後門的大型語言模型(LLM)平時能正常安排工作,一旦後門被觸發,卻可能讓機器人偏離任務、做出危險動作。

這項研究在2026年9月27日至10月1日舉行的IEEE/RSJ智慧型機器人與系統國際會議(IROS)發表。

AI不只會聊天,也能替機器人排工作

ChatGPT、Gemini、Claude等聊天工具都使用大型語言模型。這類模型從大量文字中學習,除了能生成自然的文字,也能把人用口語交代的任務轉成機器人可執行的工作計畫。

不過,和大型語言模型的普及程度相比,用它規劃機器人動作的安全風險,過去很少受到研究。團隊一名副教授指出,不能盲目信任這類模型,因為一旦讓它指揮實體機器人,模型產生的指令就可能造成現實中的危險。

圖片來源:Credit Binghamton University, State University of New York
圖片來源:Credit Binghamton University, State University of New York

平時照常工作 後門一觸發就偏離任務

研究團隊模擬了所謂的「後門攻擊」。有後門的模型在一般情況下仍能正常安排工作,只有遇到特定觸發條件,才會產生偏離原本任務的計畫。

實驗中,機器人原本會切蘋果模型,後門被觸發後卻轉而切向事先準備好的模型手。也正因為異常只在特定條件下出現,使用者平常看到機器人照常工作,不一定能察覺模型遭到動手腳。

直接採用外部AI,風險也可能跟著進門

自行開發大型語言模型需要大量經費和專業知識,因此許多機器人公司直接採用由外部業者開發、訓練的AI。研究團隊提醒,如果替廚房或倉庫等特定用途訓練模型的第三方不可信,帶有後門的模型就可能隨著機器人進入企業或家庭。

不猜暗號,先檢查機器人下一步

研究團隊開發了名為PROTEA的防護系統。它不找觸發暗號,而是在機器人執行下一個動作前,根據當下情況逐步檢查動作是否安全。

例如,單看「把紙箱丟進垃圾桶」沒什麼問題,但如果機器人才剛把藥品放進箱子,丟掉紙箱就等於把藥也扔了。PROTEA會記住前一步做過什麼,並在機器人丟箱子前攔下這個動作。

研究團隊表示,PROTEA在測試中能相當準確地區分安全與危險的工作計畫,但並非每次都能判對。團隊接下來也打算檢查機器人的控制系統,以及它辨識周遭環境的機制是否還有弱點。