美國佛羅里達州日前發生1起罕見的案件。1名25歲的前高盛（Goldman Sachs）金融分析師達倫（Darren Zhou），因在ChatGPT中詳細記錄並演練強暴、殺害前女友及其家人的計畫，遭開發商OpenAI後台審查團隊主動偵測發現。OpenAI認定其內容具備「即時人身傷害威脅」，隨即向美國聯邦調查局（FBI）舉報。警方接獲通報後迅速介入並將其逮捕，法院於近期正式判決。綜合外媒報導，達倫今年3月起向ChatGPT傾訴與前女友分手的痛苦，但對話內容迅速轉變為具體的暴力威脅。他不僅寫下「這個月底前我要殺了她，如果我得不到她，那誰也別想得到」等字眼，更詳細記錄了前女友的作息、興趣與行蹤，並模擬持槍綁架、性侵、酷刑及謀殺後自殺等細節。隨著時間推移，其威脅目標更擴大至前女友的家人以及可能到場處置的警察。請繼續往下閱讀... displayDFP('ad-PCIR1', 'pc'); displayDFP('ad-IR1', 'm'); OpenAI依據公司安全政策表示，當系統演算法偵測到使用者可能計畫傷害他人時，內部安全審查團隊會介入評估。在確定該案屬於極高風險的極端案件後，OpenAI在5月直接向FBI提出舉報。聯邦探員隨後將2個月份的聊天紀錄轉交給地方警方，警員審閱後指出，這些紀錄（僅包含達倫的發言，不含AI的回覆）並非模糊的情緒發洩，而是具備高度預謀與演練性質的犯案藍圖。警方隨後對前女友進行安危確認，並持達倫發給ChatGPT及前女友的威脅訊息作為證據將其逮捕。達倫在被捕後遭高盛公司解僱。檢方隨後對其提出加重跟蹤（aggravated stalking）、書面死亡威脅以及非法使用手機等重罪指控，最高可判處25年監禁。最終，達倫在與檢方達成認罪協商後，對3項指控均予以認罪。法官最後判他8年緩刑，但需要接受2年電子監控，還要進行心理健康評估與治療，以及禁止與前女友聯絡。報導特別強調，過往警方多是在案件發生後開立傳票調閱紀錄，但本案是罕見由OpenAI主動監控對話並向警方舉報的案例。報導指出，此事件凸顯使用者與AI的對話並非完全封閉的私人空間，當內容觸及嚴重暴力或危害生命的紅線時，平台後台的監控機制與審查團隊仍會介入並通報執法單位。
评论 (0)