OpenAI透露，已封禁一組ChatGPT帳戶，這些帳戶可能由俄語系駭客與兩個中國駭客組織所營運，用於協助惡意軟體開發、社群媒體自動化以及研究美國衛星通訊技術等。在其威脅情報報告中表示：「該俄語系駭客使用OpenAI的模型協助開發和改進Windows惡意軟體，跨多種語言調試程式碼，並建立其命令與控制的基礎設施。該駭客展示對Windows內部機制的了解，並展現一些操作安全行為」。

據OpenAI稱，該駭客使用臨時電子郵件帳戶註冊ChatGPT，並使用每個創建的帳戶進行一次對話，對其惡意軟體進行一次漸進式改進。隨後，便丟棄該帳戶，轉而使用下一個帳戶。OpenAI鎮補充道，這類利用帳戶網路微調程式碼的做法凸顯有心人事對營運安全 (Open Platform for Security, OPSEC) 的關注。駭客隨後透過公開的程式碼庫分發這款由人工智慧輔助而成的惡意軟體，該程式碼庫冒充名為Crosshair X的合法電玩遊戲十字準線覆蓋工具。最終下載該軟體木馬版本的使用者系統會被惡意軟體載入程式感染，該載入程式會從外部伺服器檢索並執行其他有效載荷。

該惡意軟體旨在透過使用ShellExecuteW重新啟動來提升權限，並嘗試透過使用PowerShell以程式設計方式將自身從Windows Defender中排除、抑制控制台視窗以及插入定時延遲來逃避偵測。ScopeCreep採用的其他策略包括使用Base64編碼來混淆有效載荷、使用DLL側載技術以及使用SOCKS5代理來隱藏其來源IP位址。最終目標是收集儲存在Web瀏覽器中的憑證、Tokens、Cookie，並將其洩漏給駭客。當新的受害者受到攻擊時，它還能夠向駭客營運的 Telegram頻道發送警報。

OpenAI指出，駭客要求其模型偵錯與HTTPS 請求相關的 Go 程式碼片段，並尋求協助整合 Telegram API 並透過 Go 使用 PowerShell 指令修改 Windows Defender 設置，特別是在新增防毒排除項方面。

OpenAI 禁用的第二組ChatGPT帳戶據稱與兩個中國的駭客組織有關：ATP5（Bronze Fleetwood、Keyhole Panda、Manganese和 UNC2630）和APT15（Flea、Nylon Typhoon、Playful Taurus、Royal APT和Vixen Panda），其中部分駭客與該AI聊天機器人合作，研究各種感興趣的實體和技術主題的開源研究，以及修改腳本或排除系統配置故障。

OpenAI表示：「另一部分駭客似乎正試圖參與支援攻擊活動的工具開發，包括Linux系統管理、軟體開發和基礎設施設定。對於這些活動，攻擊者使用OpenAI的模型來排除配置故障、修改軟體，並研究實施細節」。這些工具包括協助建立用於離線部署的軟體包，以及有關配置防火牆和網域名稱伺服器的相關建議。這些攻擊者同時參與Web與Android應用程式開發活動。此外，與中國有關的攻擊組織則利用ChatGPT編寫可入侵FTP伺服器的暴力破解腳本，如何使用大型語言模型 (Large Language Model, LLM) 進行自動化滲透測試，並開發程式碼來管理大量Android設備，以便以程式設計方式在 Facebook、Instagram、TikTok及X等社群媒體平台上發布或以按讚內容方式。

觀察到的利用ChatGPT進行惡意攻擊的惡意活動如下：

• 與​​北韓IT工作者計畫類似的網路，利用OpenAI模式透過開發資料來推動欺騙性招募活動，這些資料可能有助於其在世界各地申請 IT、軟體工程和其他遠端工作的詐欺行為。
• 「Sneer Review」可能源自中國的惡意活動，利用OpenAI模型批量生成與中國地緣政治相關的英語（English）、中文（Chinese）和烏爾都語（Urdu,巴基斯坦的官方語言）社交媒體帖子，並在 Facebook、Reddit、TikTok及X上分享。
• 「Operation High Five」源自菲律賓的惡意活動，利用OpenAI模型批量生成與菲律賓政治和時事相關的英語和塔格利甚語（Tagalog, 是菲律賓的官方語言之一）短評論，並在Facebook及TikTok上分享。
• 「Operation VAGue Focus」源自中國的惡意活動，利用OpenAI模型冒充記者和地緣政治分析師，在X上分享，詢問有關電腦網路攻擊和漏洞利用工具等問題，並將疑似社交工程電子郵件與資訊從中文轉換為英文。
• 「Operation Helgoland Bite」源自俄羅斯的惡意活動，利用OpenAI模型產生有關2025年德國大選的俄語內容，並批評美國和北約，在Telegram及X上分享。
• 「Operation Uncle Spam」源自中國的惡意活動，利 OpenAI模型生成兩極化的社交媒體內容，支持美國政治相關話語分歧性話題雙方，並在Bluesky及X上分享。
• Storm-2035 是伊朗影響的惡意行動，利用OpenAI模型生成英語和西班牙語簡短評論，表達對拉丁裔權利、蘇格蘭獨立、愛爾蘭統一和巴勒斯坦權利等的支持，並讚揚伊朗的軍事和外交實力，這些評論由冒充美國、英國、愛爾蘭和委內瑞拉居民的虛假帳戶在X上分享。
• 「Operation Wrong Number」源自柬埔寨的惡意行動，與中國運營的詐騙集團有關，該集團利用OpenAI模型生成英語、西班牙語、斯瓦希里語（kiswahili, 非洲班圖語族）、盧旺達語、德語和海地克里奧爾語的簡短招聘資訊，宣傳為社交媒體帖子點贊等瑣碎任務提供高薪。

OpenAI的Ben Nimmo、Albert Zhang、Sophia Farquhar、Max Murphy與Kimo Bumanglag表示：「有些公司會向新員工收取高額入職費，然後用其中一部分資金支付現有「員工」的薪資，只僅能夠維持這些員工基本的工作。這類結構是任務騙局的典型特徵」。

本文參考自：https://thehackernews.com/2025/06/openai-bans-chatgpt-accounts-used-by.html