OpenAI校園槍擊案引發對AI安全警報和警方通報的新質疑

在涉及一名加拿大嫌犯的OpenAI校園槍擊案後，AI安全措施正受到審查,該嫌犯的線上活動在攻擊發生前數月就被標記。

OpenAI在Tumbler Ridge攻擊前數月標記嫌犯

ChatGPT製造商OpenAI透露,其濫用偵測系統在2025年6月識別出Jesse Van Rootselaar的帳戶存在「推動暴力活動」行為。然而,這家總部位於舊金山的科技公司當時認定該活動未達到其向執法部門轉介的內部門檻。

該公司表示,其特別權衡了是否就該帳戶向皇家加拿大騎警(RCMP)發出警報。此外,其決定不繼續進行,判斷這些訊號並未顯示出造成嚴重人身傷害的迫切且可信的計劃。

OpenAI隨後在2025年6月因違反其使用政策而禁用了該帳戶。該決定是在數月後於不列顛哥倫比亞省偏遠地區發生的悲劇之前做出的。

不列顛哥倫比亞省致命校園槍擊案

這名18歲的嫌犯後來在小鎮Tumbler Ridge發動了校園攻擊,造成8人死亡,之後死於自我造成的槍傷。上週報導的這起事件是加拿大歷史上最嚴重的校園槍擊案之一,並加劇了關於科技公司如何處理高風險使用者行為的辯論。

根據RCMP的說法,Van Rootselaar首先在家中殺害了她的母親和繼兄弟,然後針對附近的學校。此外,警方表示該槍手先前曾因心理健康相關問題與執法部門接觸,儘管這些互動的具體性質並未詳細說明。

警方報告稱,受害者包括一名39歲的教學助理和五名12至13歲的學生。該鎮位於加拿大洛磯山脈,約有2,700人居住,位於溫哥華東北方超過1,000公里(600英里)處,靠近亞伯達省邊界。

OpenAI的執法門檻與回應

在解釋其不提前聯繫當局的決定時,OpenAI表示其聯繫執法部門的標準集中在案件是否涉及對他人造成嚴重人身傷害的迫切且可信的風險。該公司表示,當時並未識別出會觸發此類轉介的具體或迫切計劃。

該公司指出,此轉介門檻旨在平衡使用者隱私與安全義務。然而,這項揭露引發了關於當使用者與ChatGPT等AI工具互動時出現早期警告訊號時,現有升級標準是否充足的新問題。

在校園槍擊案新聞爆發後,OpenAI員工聯繫了RCMP,提供了有關Van Rootselaar及與該帳戶相關的歷史活動的詳細資訊。華爾街日報首先報導了該公司的內部審議和後續外聯行動。

Tumbler Ridge悲劇後的公司聲明

在一份公開聲明中,OpenAI發言人表示:「我們的心與所有受到Tumbler Ridge悲劇影響的人同在。我們主動聯繫了皇家加拿大騎警,提供了有關該個人及其使用ChatGPT的資訊,我們將繼續支持他們的調查。」此外,該公司強調其與加拿大當局的持續合作。

話雖如此,槍擊案的動機仍不清楚,調查人員尚未披露嫌犯與ChatGPT的互動與最終攻擊之間是否存在任何直接聯繫。然而,這起案件使全球更加關注AI平台如何偵測、評估和回應潛在威脅。

2020年以來加拿大最致命的暴行

當局將Tumbler Ridge攻擊描述為自2020年以來加拿大最致命的此類暴行,當時新斯科細亞省的一名槍手殺害了13人,並縱火導致另外9人死亡。然而,最近的事件具有額外的層面,因為它與AI供應商不斷演變的責任相交織。

隨著政策制定者和執法部門審查相關情況,OpenAI校園槍擊案事件可能會激發關於AI公司應何時以及如何將令人擔憂的使用者行為升級至當局,以及現有轉介標準是否充分應對新興數位風險的辯論。

總而言之,不列顛哥倫比亞省的悲劇凸顯了隨著AI平台深度融入日常生活,隱私、風險評估和公共安全之間的複雜平衡,迫使監管機構和科技公司重新評估其處理潛在威脅的協議。