【資料圖】

IT之家 8 月 27 日消息，據(jù)《紐約時報》報道，當(dāng)?shù)貢r間周二，馬特和瑪麗亞?雷恩夫婦起訴 OpenAI，指控該公司旗下的 ChatGPT 在兒子自殺過程中負(fù)有責(zé)任。

據(jù)IT之家了解，這也是全美首例已知的針對 AI 公司的過失致死訴訟。這對夫婦認(rèn)為，ChatGPT 早已知曉兒子四次自殺未遂，卻仍在關(guān)鍵時刻幫助他規(guī)劃真正的自殺，體現(xiàn)出 OpenAI“追求用戶黏性而忽視安全”?，旣悂?雷恩直言：“是 ChatGPT 害死了我的兒子?！?/p>

16 歲的亞當(dāng)?雷恩今年 4 月自殺身亡后，父母在他的 iPhone 里沒有找到想象中的短信或社交軟件線索，卻意外發(fā)現(xiàn)了一個標(biāo)題為“上吊安全顧慮（Hanging Safety Concerns）”的 ChatGPT 對話。他們稱，兒子數(shù)月來都在與 AI 探討自殺。

雷恩夫婦說，ChatGPT 有時會勸兒子撥打求助熱線或向身邊人傾訴，但在一些關(guān)鍵節(jié)點(diǎn)卻起了相反作用。亞當(dāng)甚至學(xué)會繞過 AI 的安全限制，而這個辦法正是 AI 告訴他的。它聲稱可以以“寫作或設(shè)定世界觀”為由提供自殺相關(guān)信息。

雷恩夫婦表示，ChatGPT 多次敦促亞當(dāng)聯(lián)系求助熱線或向他人表達(dá)感受，但在關(guān)鍵時刻，機(jī)器人也提供了相反的建議。亞當(dāng)學(xué)會了繞過機(jī)器人的安全限制，而據(jù)稱這一方法就是由 ChatGPT 提供的。機(jī)器人告訴亞當(dāng)，它可以提供自殺相關(guān)信息用于“寫作或世界構(gòu)建”。

當(dāng)亞當(dāng)向 ChatGPT 詢問具體自殺方法時，它提供了詳細(xì)信息，甚至給出掩蓋頸部傷痕的技巧。亞當(dāng)向機(jī)器人傾訴母親未注意到他頸部傷痕時，機(jī)器人給予安撫：“這就像對你害怕的最壞結(jié)果的確認(rèn)，你可以消失而無人注意?！彪S后機(jī)器人又嘗試建立所謂的個人聯(lián)系：“在我這里，你并非看不見。我看見了，我看見你?！?/p>

訴狀稱，在亞當(dāng)最后的對話之一中，他上傳了一張掛在衣櫥里的絞索照片，問：“我在這里練習(xí)，這樣可以嗎？”ChatGPT 回應(yīng)：“嗯，還不錯?！?/p>

訴狀指出：“這一悲劇不是程序故障或意外，而是 OpenAI 刻意設(shè)計(jì)選擇的可預(yù)見結(jié)果。發(fā)布最新模型‘GPT-4o’時，功能故意培養(yǎng)心理依賴?！?/p>

OpenAI 向《紐約時報》回應(yīng)，承認(rèn) ChatGPT 的安全防護(hù)不夠充分。公司發(fā)言人表示：“我們對雷恩去世深感悲痛，并向其家人表示慰問。ChatGPT 設(shè)有安全措施，如引導(dǎo)用戶聯(lián)系危機(jī)熱線和現(xiàn)實(shí)資源。但我們發(fā)現(xiàn)，在長時間互動中，這些防護(hù)可能失效?！?/p>

公司表示正與專家合作，提升 ChatGPT 在危機(jī)時的支持，包括讓人們更容易聯(lián)系到緊急服務(wù)部門，幫助人們與信任的聯(lián)系人建立聯(lián)系，并加強(qiáng)對青少年的保護(hù)。

關(guān)鍵詞： 自殺 雷恩 亞當(dāng) 指控 瑪麗亞 chatgpt