Chromebook | 美13歲女生涉用AI搜尋策劃輕生 家長怒告Google疏忽

更新時間:10:36 2026-11-06 HKT
發佈時間:10:36 2026-11-06 HKT

美國一名13歲女學生使用學校發配的平價筆電Chromebook內𦋠Gemini AI聊天機械人,討論自殺方式並為自己規劃葬禮,女生父母對此強烈不滿,入稟加州法院起訴Google並尋求賠償,指控其安全防護不足且涉嫌疏忽。這款筆電目前在美國及全球有數百萬名學生廣泛使用。

這是首宗已知指控Google在Chromebook的AI整合方面存在疏忽的案件。起訴書指出,這名化名為艾瑪(Emma)的女生,來自北卡羅來納州,過去無心理疾病史,成績優異且活躍於各項活動。然而,她在使用學校筆電上的Google AI搜尋功能數個月後,陷入嚴重的心理危機。

Google在Chromebook整合Gemini面臨訴訟。路透社
Google在Chromebook整合Gemini面臨訴訟。路透社
Google遭美國家長起訴疏忽。路透社
Google遭美國家長起訴疏忽。路透社

利用Gemini商自殺方式及規劃葬禮

訴訟指稱,艾瑪與Gemini討論不同的自殺方法,並為自己規劃葬禮;同時,這個聊天機器人還協助她向家人隱瞞自己的感受。

今年3月17日,學校監控軟件標記了一份名為「葬禮」(Funeral)的文件並通知愛瑪的家長,母親登入帳號後,赫然目睹女兒正在即時撰寫告別信,父親隨即介入阻止。

訴訟指沒有警告家長或學校

訴訟稱,Google為了搶快擴大Gemini的受眾,把這項AI整合進旗下所有產品,卻沒有警告家長或學校。

家屬委任律師利德爾(Andrew Liddell)表示,Google設置的防護機制顯然不足以保護學生安全、產品設計有缺陷且涉及欺詐性隱瞞。對此,Google發言人卡斯塔涅達(Jose Castaneda)表示,公司正嚴肅審查訴訟內容,同時宣布在學校學生帳戶中預設關閉Gemini,並強調AI模式具備防範自殘的保護措施。

訴訟指控,Google將其AI產品推向學生,卻未警告相關危險。

利德爾指出,學校應該關閉搜尋功能,以及保持關閉,直至Google移除AI模式,並確保每名學生在與AI互動時始終安全。