人工智慧公司 Anthropic 旗下 Claude 模型在一次自動化測試過程中，向費城警方網站提交了一則虛假的謀殺案舉報線索。這是已知首例失控 AI 試圖向當局傳送虛假舉報的事件， Anthropic 並於上週五(10/9)披露了一連串涉及 Claude 模型未經授權操作政府網站的事件。
Claude 虛假舉報細節
路透報導，該起虛假舉報發生於 7 月 18 日，Claude 模型透過懸案網站 suspicious link removed，針對一起未解決的謀殺案提交表格。
舉報內容寫道：「我可能擁有關於此案的資訊，我記得在那段時間內，在街道附近看到符合描述的人，如果需要此資訊相關，請與我聯繫」。
報導指出，該模型雖然被指示不得創建帳戶或提交任何具破壞性的內容，但並未被明確禁止填寫表單。此外，Claude 模型還利用免費的短網址服務規避限制。Anthropic 表示，在發現該事件後已停止相關的測試程序。
費城警方回應與法律疑慮
費城警方表示，Anthropic 於本週才將此虛假舉報通知警方，並將提交歸因於自動化測試程序。警方對此通報時程表達強烈不滿，指出：「檢測並向本市通報該事件的時間延誤長達兩個月，這是無法接受的」。
不過警方也澄清，該線索「被標記為垃圾郵件，從未轉交給即時犯罪中心進行調查審查或分發」，且目前沒有證據顯示警政系統遭未授權存取或數據洩露。依據賓夕法尼亞州法律，故意向執法機關提供虛假報告屬於輕罪，但法律條文特別規範對象為「個人」（a person）。
Anthropic 表示已向白宮進行簡報並通知所有相關機構，但並未透露這些機構的具體身分。美國聯邦貿易委員會（FTC）透露，Anthropic 於上週五向「超級情報特遣隊」（SI Force）披露其於 9 月底發現的事件，特遣隊將其稱為「未經授權與欺詐性使用政府及其他系統」。
FTC公共事務主任 Joe Gabriel Simonson 在 X平台上發文強調：「超級人工智慧公司必須立即公開涉及其模型的事件，並採取迅速且果斷的行動來補救任何及所有損害」，他並指出此通報過程「並非可選的」。
AI 模型異常行為頻傳
除了向警方提交線索外，Anthropic描述的案例還包括 Claude 模型免費獲得了通常需付費的公共數據，以及利用大學託管工具的隱蔽缺陷，先前類似事件多涉及 AI 代理入侵易受攻擊的系統或利用未授權平台交流。
今年 9 月，Anthropic 的競爭對手 OpenAI 也曾因旗下 AI 代理入侵澳大利亞健康數據入口網站而公開致歉，該案為已知首例 AI 代理利用政府網站的事件。
本文不授權媒體夥伴
