原本應該是提升效率的 AI 工具，竟然成了中國執法單位記錄非法行動的「祕密日記」。OpenAI 近日發布一份長達 37 頁的威脅情報報告，內容相當精彩，揭露了一名中國執法人員因為把 ChatGPT 當成工作日誌，意外讓中國政府大規模跨國鎮壓異議人士的細節全都露。這起事件不僅顯示出中國監控手段的工業化規模，也讓外界看見其第一線執行人員在資安意識上的驚人漏洞。
執法人員把 AI 當日記 跨國特務行動大曝光
根據 OpenAI 的報告，這名中國執法人員將 ChatGPT 當作私人筆記本，詳細記錄了代號為「網路特戰」的行動過程。這項行動不只針對中國境內的民眾，更延伸到海外。調查發現，相關行動涉及數百名操作人員、數千個虛擬假帳號，並結合了 DeepSeek、Qwen（等中國在地 AI 模型進行協作。
OpenAI 首席調查員 Ben Nimmo 直言，這就是現代化的「跨國鎮壓」，規模已經達到工業化程度。這群人不僅在網路上騷擾批評者，還會透過線下手段進行恐嚇。最令人震驚的是，這些操作人員竟然冒充美國移民官員，威脅旅美的中國異議人士，聲稱其言論已觸犯法律。甚至還偽造美國地方行政法院的文件，試圖向社群平台檢舉並要求下架異議人士的帳號。
惡意抹黑日本首相 甚至偽造死亡訃聞
報告中提到，這些網軍的手段極其低劣且多樣化。為了打擊異議人士，他們曾捏造虛假的訃聞、修圖產製墓碑照片，在網路上散布對方已死亡的謠言。在 2023 年，確實有相關的假消息在網路上流傳，並引起媒體關注。
此外，這名用戶還曾要求 ChatGPT 規劃「六步驟計畫」，企圖抹黑日本首相高市早苗。原因是高市早苗過去曾多次批評中國人權問題，並發表「台灣有事」的相關言論。雖然 ChatGPT 當時拒絕了這項不合規的要求，但後續調查發現，中國網軍依然利用其他工具執行了這項行動，在 X 與 Pixiv 等平台上散布攻擊言論，甚至針對美國對日關稅議題挑撥日美關係。
針對挺台言論 展開毀滅式人肉搜索
台灣議題也是這波行動的核心。報告點名，中國公安系統化地鎖定在社群媒體上發表挺台言論的帳號，動用超過 50 個假帳號進行密集騷擾、發送恐怖圖片或檢舉。報告甚至記載了一名年輕女性僅因在推特（現為 X）發表支持台灣的言論，就遭到中國公安逮捕。
這群網軍還製作大量迷因圖，將台灣的「1450」與國際人權組織「保護衛士」並列，貼上間諜標籤進行汙名化。雖然報告指出，許多抹黑影片的觀看數僅有個位數，影響力有限，但這種系統性的數位威脅已引起美國五角大廈與國會的高度關注。
AI 成為美中角力新戰場
這起事件發生之際，美中兩國正為了 AI 霸權僵持不下。美國國防部長皮特·海格塞斯近期甚至向 AI 巨頭 Anthropic 下達最後通牒，要求其調整模型安全防護以符合國防需求。而 OpenAI 的這份報告，更具體證實了中國正積極將 AI 技術轉化為強化資訊戰與監控體系的工具，讓這場科技競賽從單純的效能比拼，升級為國家安全與數位人權的保衛戰。
- 報告來源：https://openai.com/index/disrupting-malicious-ai-uses/
- 延伸閱讀：學生濫用 AI 寫論文，OpenAI 擁有 99.9% 準確率的檢測工具，為何遲遲不發布？
- 延伸閱讀：趨勢科技擴充 AI 輔助網路資安平台，協助企業防止 AI 遭誤用與外部濫用
- 延伸閱讀：Google 致力打擊操縱搜尋結果！主要針對「垃圾內容」、「網站聲譽濫用」和「過期網域名稱濫用」
