你向AI提出的問題，可能會讓你吃上官司

據韓國《先驅報》報道，多家媒體周三援引法律專家的報道，警方正越來越多地將嫌疑人的生成式人工智能（AI） 使用記錄，作為證明其作案意圖或動機的關鍵證據。

在近期一起案件中，調查人員表示，在查閱一名女性嫌疑人與OpenAI旗下ChatGPT的聊天記錄后，決定對其以“謀殺罪”起訴，而非以“因傷害他人身體致死罪”起訴。該女子被控在首爾江北區實施連環殺人案。

這名20多歲、金姓女嫌疑人被指控犯有謀殺罪、重傷罪及違反《毒品管理法》。

她被控于去年12月至今年2月9日期間，在一家汽車旅館內，將摻毒的解酒藥交給三名男子。

其中兩名受害者死亡，第一名受害者雖幸存但身受重傷（Two victims died, after the first survived with injuries）。

警方表示，該嫌疑人曾向AI工具ChatGPT詢問：“服用安眠藥再喝酒會致人死亡嗎？” 調查人員將此視為證明其具備犯罪意圖的證據（Investigators viewed this as evidence suggesting criminal intent）。

法律專家稱，這類調查手段正變得越來越普遍。律師們指出，執法部門在對手機進行取證分析時，越來越多地會檢查生成式人工智能的聊天記錄。

一位要求匿名的律師稱，這一變化已經影響到辯護策略（One lawyer, who requested anonymity, said the shift has influenced defense strategies）。

“我現在接手案件時，都會和當事人一起查看他們的ChatGPT對話記錄（When I take on a case now, I review my clients’ ChatGPT conversations with them）?！彼f。

專家指出，傳統瀏覽器搜索與人工智能對話存在本質區別（Experts point to a fundamental difference between conventional browser searches and AI conversations）。

盡管兩者都可用于獲取信息，但人工智能的對話形式能更直接地暴露用戶的內在思考邏輯、意圖及具體目的。

已發表生成式人工智能取證相關研究的成均館大學法醫學教授鄭道元（Jeong Doo-won）表示，人工智能記錄可能具有更強的證據效力。

“網頁瀏覽器搜索大多基于關鍵詞，而與人工智能系統的交互必然以完整語句形式展開，”鄭教授稱，“由于提示詞是以完整表述寫成的，因此能更明確地保留用戶的真實意圖?！?/p>

不過，專家們也對相關法律與倫理問題發出警告（However, experts also warn of legal and ethical concerns）。

與生成式人工智能的對話通常包含高度敏感的個人信息，這引發了關于隱私、比例原則及數字證據收集合法范圍的爭議。

人工智能安全研究所所長金明柱（Kim Myung-joo）警告，不應過度擴大對人工智能記錄的調查使用范圍。

他對韓聯社表示：“一旦發生犯罪，執法部門可能試圖調取一個人全部的人工智能對話記錄，并主張犯罪意圖在案發前很久就已存在。”

他警告，隨意扣押、調取AI聊天記錄，未來可能引發人權爭議（He warned that indiscriminate seizures of AI chat histories could trigger future human rights disputes）。

金明柱還談到了當下圍繞人工智能責任的爭論，尤其是在人工智能教唆或協助犯罪的情況下。

“最棘手的問題是責任歸屬，”他說，“普通產品受產品責任法管轄，但人工智能系統并不完全適用這一框架。這最終是整個社會必須解決的難題。”