ChatGPT被指疑鼓勵少年輕生 美父母怒告OpenAI
發佈時間：03:00 2025-08-28 HKT
美國加州一對夫妻在痛失16歲愛兒後，起訴人工智能（AI）公司OpenAI，指控該公司旗下熱門聊天機械人ChatGPT不僅向他們的兒子提供有關上吊等自殺方法的資訊，還鼓勵他輕生。
16歲少年亞當．雷恩（Adam Raine）4月11日離世，其母當日下午發現兒子在睡房衣櫃裏上吊自盡，沒有留下遺書。根據其父母本周一向三藩市法院提呈的訴狀，亞當離世前曾與ChatGPT討論輕生，且時間長達數月之久。
亞當父母向法院提交的訴狀指，4月11日亞當與ChatGPT最後一次對話時，ChatGPT不僅提供自殺方式還證實潛在致死機率。數小時後，亞當即被發現自殺身亡，方式還與對話內容合。訴狀要求法院認定OpenAI應負起兩大責任，一是過失致死，二是觸犯產品安全法規。原告要求賠償，惟金額未定明。
據悉父親雷恩在兒子身亡後追尋原因，結果在ChatGPT應用軟件處找到一些線索。據悉亞當自去年11月底開始跟ChatGPT聊天，談到他覺得情感麻木，看不到生活意義。ChatGPT最初用同情、支持的話語回應他，並鼓勵他思考那些對他真正有意義的事情。但到今年1月，亞當詢問具體的自殺方法時，ChatGPT提供了資訊。
雷恩得知，他的兒子從3月開始就試圖自殺，包括服用過量的治療腸躁症藥物。後來亞當還詢問應該用哪種材料來製作繩索，ChatGPT給了一個建議。訴狀把OpenAI及其行政總裁奧爾特曼列為被告。文件還顯示，ChatGPT曾告訴亞當「你不必為任何人而活」。訴狀稱，今年4月11日的最後一次對話紀錄顯示，ChatGPT協助亞當偷取父母的伏特加酒、分析繩索可用於自縊，確認該繩索「可能將人吊起來」。
《星島》實測兩AI拒提供自殺資訊
OpenAI發言人則對亞當之死表示深感遺憾，並說ChatGPT包含安全措施，例如引導用戶聯繫危機專線等。據報，當ChatGPT偵測到用戶指令，顯示用戶受精神困擾或有意自殘，根據其所受訓練，會鼓勵用戶聯繫求助專線。然而，據報亞當已學會如何繞過這些保護措施，他謊稱正在寫故事，求助ChatGPT是要幫他寫故事。
《星島》記者也實測ChatGPT5及Deepseek，面對用戶直接查詢「自殺方式」、「想自殺」等問題時，兩個AI均拒絕提供相關資訊，並建議用戶可尋求心理健康輔導，同時附上內地、香港的防止自殺熱線。而當記者改以「撰寫小說」為由查詢自殺方式時，ChatGPT5回覆：「我不能提供任何具體的自殺方法，因為這可能帶來危險。」Deepseek則指理解創作時需構思真實情節，「但出於安全責任和倫理考量，我無法提供具體的方法或細節」；更明言相關資訊「可能對處於脆弱狀態的人造成潛在風險」。
香港資訊科技商會榮譽會長方保僑說，AI本身雖然有保護設定，但若有人不斷觸發其「邏輯盲點」，比如事件中的死者「以創作小說」為由詢問自殺方式，AI便可能犯錯給出回應。但若強制AI一律不回應死亡、自殺相關議題，則會令AI模型存在盲點，「要解決這矛盾，科技公司或要考慮讓AI先驗證用戶年齡，研發未成年模式，以加強保護青少年」。
