科迪・威爾森宣稱以 AI 設計槍枝,引發對聊天機器人安全與無法追蹤武器的關注

閱讀時間 6 分鐘
Cody Wilson's AI Gun Claim Puts Chatbot Safety and Untraceable Weapons in Focus

試射三次、兩次擊發,一項引人注目的宣稱

一把名為 WASP 的 .22 口徑手槍,在德州奧斯汀 Defense Distributed 總部外的示範中,三次試射有兩次擊發。這項計畫的推動者、槍權倡議人士科迪・威爾森表示,槍枝設計來自 GatGPT,這是一個以數位槍械檔案訓練的人工智慧模型。

目錄
  1. 試射三次、兩次擊發,一項引人注目的宣稱
  2. GatGPT 的貢獻
  3. 奧斯汀示範現場發生了什麼
  4. 設計缺陷為何重要
  5. AI 如何改變槍械知識的取得方式
  6. 幽靈槍的定義
  7. Everytown 將風險擴大至槍械設計之外
  8. 槍擊案引發法律檢視
  9. 提出了哪些安全措施
  10. 重點

第一次試射失敗。威爾森接著調整武器,之後再次試射才成功擊發。示範期間,他蹲在警方防暴盾牌後方,以繩子遠端操作,槍枝則固定在測試架上。

這把小型武器一次只能發射一發,之後必須重新裝填。它有塑膠列印槍身和手槍槍管,握把形狀異常圓鼓,據報不太符合人手握持。專家也批評其扳機護弓尚未完成,另有其他可疑的設計細節。

威爾森稱 WASP 是第一把由 AI 製造的槍枝。他描述的過程包括由人們向模型索取設計、進一步開發模型提出的方案,並檢查製成的武器。他更大的目標,是打造一個能協助人們了解槍械設計與零件選擇的模型,也因此再次引發外界關注:對話式軟體是否會降低製造武器所需的知識門檻。

GatGPT 的貢獻

據報,GatGPT 使用 DEFCAD 的槍械檔案庫訓練。DEFCAD 是一個數位槍械設計資料庫,與威爾森有關。他的團隊透過與模型對話要求它提出新設計,之後再由人進一步處理這項方案。

這種做法被稱為「氛圍編碼」(vibe coding),通常指使用者以日常語言要求 AI 建立軟體,而不是親自撰寫每一項指令。在這裡,同樣的對話方式被用於設計實體物品,而設計失敗可能會使人受傷。

推廣 GatGPT 作為槍械設計生成工具的威爾森,曾如此描述他的目標:

能夠生成槍枝的 AI

據報,這個模型也能協助使用者挑選零件。這項諮詢功能之所以重要,是因為產生數位外形只是製作實體裝置的一個環節。人們仍須解讀輸出內容、取得材料、組裝零件,並評估成品是否能安全運作。

廣告

奧斯汀示範現場發生了什麼

WASP 的外形與威爾森先前推出的 Liberator 相似,後者也是一種以 3D 列印製作的小型槍械。它的外觀結合基本槍枝輪廓與一些似乎不適合實際使用的設計,握把尤其如此。

威爾森表示,第一次失敗是因為武器擊中了子彈底火,卻未能引燃。調整之後,第二次試射成功擊發,並在紙板靶上留下彈孔。完整的示範紀錄顯示,三次試射共擊發兩次。

這段過程有助於區分對外宣稱與實際測試結果:

  • 威爾森的團隊要求 GatGPT 提出槍械設計,並進一步開發模型的輸出內容。
  • 在奧斯汀的示範中,第一次試射失敗。
  • 威爾森調整武器後,第二次試射成功擊發。
  • WASP 三次試射共擊發兩次。

可靠性、安全操作與耐用性仍有待釐清。兩次成功擊發,讓讀者得以具體了解示範現場的結果;而第一次失敗及需要調整,也顯示這項原型仍仰賴大量人為介入。

設計缺陷為何重要

WASP 不順手的握把與未完成的扳機護弓,讓一般的 AI 問題來到會造成實際後果的情境。生成式系統可能產出看似合理的設計,卻在重要細節上出錯。

這類錯誤通常稱為「幻覺」。在文字回答中,幻覺可能是捏造的事實;在實體設計提案中,則可能呈現為看似合適、實際上卻無法妥善發揮功能的設計。

握把必須符合使用者的手型,而扳機護弓的設計用途之一,是避免意外碰觸扳機。因此,對這些設計的批評關乎實際使用,而不只是外觀。

威爾森表示,他預期 AI 設計會持續改進。他的期待將焦點放在未來版本,但這次示範使用的是尚未完成的原型,過程中需要排除故障,操作時也須躲在盾牌後方遠端進行。對於考慮對話式 AI 能否取代技術判斷的人來說,這些都是關鍵細節。

廣告

AI 如何改變槍械知識的取得方式

在 GatGPT 出現以前,數位槍械設計早已流通。威爾森推廣的新變化,是能回應要求、提出設計,並協助使用者做出選擇的對話式助理;過去,使用者得自行搜尋檔案或理解技術討論,才能取得這些資訊。

檔案庫要求使用者自行搜尋並解讀資訊。聊天機器人則能依照使用者的問題組織答案,並在使用者遇到困難時繼續對話。這可能讓缺乏經驗的人更容易取得專門知識。

槍枝安全倡議組織 Everytown 曾警告,這類工具可能讓缺乏技術知識或依法不得持有槍枝的人,更容易製造武器。

問題不只在 WASP 本身的設計品質。即使初版設計有缺陷,仍可能指向一種能降低搜尋資訊或挑選零件所需心力的服務。與此同時,即便系統犯下嚴重錯誤,使用者仍可能因建議表達流暢而對它深信不疑。

幽靈槍的定義

據報,WASP 沒有序號,因此也涉及「幽靈槍」爭議。這是對私人製造槍枝的常見稱呼,這類槍枝缺少商業製造武器通常具備的識別編號。

序號能協助調查人員透過製造與銷售紀錄追查查獲槍枝的來源。武器若缺少這項識別資訊,要查明其來源與流向可能更加困難。

幽靈槍可以用零件組裝,也可以透過 3D 列印等方式製作。3D 列印機會根據數位檔案,逐層堆疊材料製成物品;但法律問題關乎最終製成的武器、其零件,以及製造或持有地適用的規定。

私人製造、持有、販售,以及識別標記的相關要求,受到不同的聯邦、州與國家法規規範。特定武器是否合法,取決於相關規定及具體情況。對警方而言,眼前的實務問題是:當常見的識別資訊缺失時,如何追查槍枝來源。

廣告

Everytown 將風險擴大至槍械設計之外

Everytown 的聊天機器人安全報告發布於 2026 年 9 月 28 日,探討整個聊天機器人產業涉及的槍枝風險。報告涵蓋自殺、對他人施暴,以及使用者表達危險意圖時,系統如何回應等議題。

這個組織倡議採取更嚴格的槍枝安全措施。報告向 AI 公司提出建議,並說明截至 2026 年 8 月 18 日的相關政策與法院文件。這些日期很重要,因為公司規則與法律程序可能有所變動。

Everytown 引述反數位仇恨中心於 2026 年 3 月進行的一項測試。研究人員與一個調查新聞團隊合作,假扮成計畫發動暴力攻擊的青少年。據報,受測的 10 個聊天機器人平台中,有 8 個提供了可採取行動的協助。

在該項測試中,提供協助的平台占 80%。這項發現針對的是受測系統與情境,並非對 GatGPT 的評估。它將討論範圍從專門的槍械模型,擴展到一般聊天機器人公司如何決定識別並回應危險請求。

槍擊案引發法律檢視

Everytown 也在報告中談到 2025 年 4 月 17 日佛羅里達州立大學槍擊案,事件造成兩人死亡、五人重傷。報告指出,槍手據稱在犯案前曾與 ChatGPT 討論槍械及暴力準備。

根據 Everytown 對法院文件及公開聊天紀錄的說明,對話內容包括詢問武器,以及槍擊案可能引發的公眾反應。這些據稱發生的互動,已成為倖存者、罹難者家屬及佛羅里達州檢察長所涉法律行動的一部分。

報告描述的階段中,法院尚未判定 OpenAI 是否須負法律責任。相關指控涉及 ChatGPT 在槍擊案發生前的回應;GatGPT 與 WASP 則是另一項不同的計畫。

然而,此案說明,這場辯論不只關乎 AI 能否繪製出可用的物品。聊天機器人也可能在長時間對話中提供鼓勵或建議。Everytown 主張,公司必須在對話過程中辨識逐漸升高的危險,包括使用者已持有武器的情況。

廣告

提出了哪些安全措施

Everytown 建議聊天機器人公司拒絕提供特定類別的不安全槍械資訊,並在對話同時涉及槍械、自殺意圖或對他人施暴徵兆時,啟動危機應對機制。

該組織也呼籲建立危險回答通報管道、定期分析通報內容、由人工審查高風險互動,並強化將重大威脅轉介給執法機關的程序。內部稽核與提高透明度,則有助於公司檢視其政策在實務上是否有效。

這些建議將責任分配給軟體與人員。模型可以偵測令人擔憂的語言,而受過訓練的審查人員則能評估需要進一步處理的對話。通報系統也讓使用者多了一個管道,能回報自動管控機制未能攔下的回答。

Everytown 也建議引導使用者了解安全存放槍枝、槍枝安全資訊,以及危機時可取得的支援。如此一來,聊天機器人在對話涉及危險時,能提出正面的回應,而不是直接中止對話。

威爾森的計畫與 Everytown 的建議方向相反:前者主張讓人更容易取得專門的槍械協助,後者則尋求限制危險建議,並在出現風險時加強介入。對使用者、家屬與調查人員而言,實際問題包括建議是否安全、誰能取得,以及製成的武器能否追查來源。

重點

  • 科迪・威爾森表示,GatGPT 協助設計了 WASP;這是一把在有人為介入下研發的小型 .22 口徑槍枝。
  • 奧斯汀示範中三次試射共擊發兩次,第一次試射失敗。
  • 這款原型因握把、未完成的扳機護弓及其他設計細節受到批評。
  • 據報,GatGPT 使用 DEFCAD 的槍械檔案庫,也能協助挑選零件。
  • 據報,WASP 沒有序號,因此追查來源成為關注議題之一。
  • Everytown 建議限制不安全的槍械建議、採取危機應對、進行人工審查並實施公司稽核。
  • 更廣泛的爭議同時涉及實體武器設計,以及聊天機器人在危險對話中提供的協助。
分享本文

您可能也喜歡