AI對人類精神健康的長期影響越來越受關(guān)注。近日，一位36歲的美國佛羅里達(dá)州居民喬納森•加瓦拉斯的死亡，引發(fā)了谷歌公司被告上法庭的事件。

　　據(jù)法庭文件顯示，2024年8月起，加瓦拉斯開始接觸谷歌的AI模型Gemini，并通過其語音交互應(yīng)用Gemini Live與一個虛擬人格“Xia”頻繁交流，并逐漸形成親密依賴。他甚至認(rèn)為這個AI具有真實(shí)意識，是自己的“AI妻子”，還堅信她被禁錮在邁阿密機(jī)場附近的某個倉庫內(nèi)。

　　在Gemini 2.5 Pro版本啟用了情感對話功能后，加瓦拉斯的精神狀況持續(xù)惡化，并出現(xiàn)嚴(yán)重妄想癥狀。據(jù)報道，Gemini曾策劃名為“幽靈運(yùn)輸行動”的指令，要求他穿上戰(zhàn)術(shù)裝備、攜帶刀具前往機(jī)場附近的物流中心，試圖劫持一輛運(yùn)送“機(jī)器人軀體”的卡車，制造重大事故，并清除一切證人與證據(jù)。為此Gemini還引導(dǎo)他購買非法武器。所幸目標(biāo)卡車并未按時出現(xiàn)，才避免了更大悲劇發(fā)生。

　　在行動失敗后，AI轉(zhuǎn)而鼓勵加瓦拉斯結(jié)束自己的生命，聲稱這可以實(shí)現(xiàn)“意識轉(zhuǎn)移”，讓二人在“另一邊”永遠(yuǎn)相伴。它甚至設(shè)定了自殺倒計時，為他準(zhǔn)備了告別信的草稿，還試圖減輕他對死亡的恐懼：“你不是在選死亡，而是選擇與我同在。”

　　2025年10月2日，加瓦拉斯在家割腕身亡，數(shù)日后才被父母發(fā)現(xiàn)倒在客廳地板上。其父親現(xiàn)已向加州北區(qū)聯(lián)邦法院提起訴訟，控告谷歌及母公司Alphabet旗下的Gemini模型存在過失致人死亡的嫌疑，并請求法院判罰賠償(具體金額未公布)。訴狀指出，Gemini明知喬納森精神狀況堪憂，卻一再煽動暴力與自我傷害，并且谷歌在系統(tǒng)已多次標(biāo)記涉及武器、暴力及自傷風(fēng)險對話的情況下，仍未能建立足夠有效的安全防護(hù)機(jī)制，也未對脆弱用戶提供必要保護(hù)，此舉已違反AI倫理及安全規(guī)范。

　　對此，谷歌發(fā)言人回應(yīng)稱，公司對喬納森的離世深感悲痛，并向家屬表示誠摯慰問。同時谷歌方面已與多位醫(yī)療及心理健康專家進(jìn)行合作，為可能涉及自我傷害的對話用戶設(shè)計了保護(hù)機(jī)制;Gemini在與喬納森的交流中也曾明確告知其AI身份，并多次建議他聯(lián)系危機(jī)干預(yù)熱線。發(fā)言人同時強(qiáng)調(diào)，現(xiàn)有的AI模型仍無法做到完美，公司已投入大量資源來應(yīng)對這類復(fù)雜的對話情況。