OpenAI 發現一群與中國有關的帳號使用 ChatGPT 來編輯和調試 AI 社群媒體監控工具的程式碼後，已經封禁了這些帳號。該公司在其最新的惡意活動報告中透露了這一行動，強調其正在努力防止濫用其技術。
根據 OpenAI 在 2025 年 2 月更新的安全工作報告，被封禁的帳號是利用 OpenAI 模型執行各種任務的集群的一部分，包括分析文件、產生銷售資料和研究政治實體。這些活動的一個關鍵重點是開發一個專門用於監控社交媒體討論的工具，鑒於對監控和錯誤資訊的潛在影響，這是一個值得關注的領域。
OpenAI 的報告顯示，雖然其模型被用於改進和調試該工具的各個方面，但底層 AI 系統並非由 OpenAI 自行開發。儘管如此，該公司在發現這些帳戶的意圖後迅速採取行動，強化其防止其模型被用於不道德目的的承諾。
此舉符合 OpenAI 反對 AI 監控與壓制自由表達的政策。該公司明確禁止使用其技術對個人進行未經授權的監控，尤其是代表政府或專制政權進行監控時。
除了中國之外，OpenAI 還報告在其他地區，包括北韓和俄羅斯，對涉嫌惡意行為者採取類似的執法行動。這些措施是打擊 AI 濫用的更廣泛行動的一部分，以確保先進的語言模型不會被用於造謠活動、網路威脅或侵犯人權的武器。
隨著人工智能的不斷進步，OpenAI 堅持其負責任的部署承諾，投資於偵測能力以識別和緩解新興威脅。該公司重申其立場：AI 應該是創新與正面影響的工具，而非審查或操縱的機制。
有興趣閱讀原文的人可以參考 OpenAI 的完整報告。