
綜合美媒報道,人工智能企業OpenAI表示,將調整ChatGPT對出現精神和情緒困擾用戶的回應方式。此前,16歲的雷恩(Adam Raine)今年4月自殺身亡,他的父母近日向OpenAI及其行政總裁奧特曼(Sam Altman)提出訴訟,指控ChatGPT鼓勵兒子自尋短見,甚至就自殺途徑作出建議,以及協助其撰寫遺書。
據美國國家廣播公司(NBC)報道,在他們16歲的兒子雷恩自殺身亡後的幾天裏,馬特(Matt)與瑪麗亞(Maria)翻遍了兒子的手機,拼命尋找可能導致這場悲劇的線索。
他們近日受訪時表示:「我們以為需要瀏覽兒子在Snapchat上的聊天內容、網絡搜尋記錄,或是一些奇怪的邪教組織,我不知道。」
雷恩一家指,直到他們打開ChatGPT,才找到答案。
雷恩父母就兒子向ChatGPT求助導致輕生一事受訪:
雷恩的父母表示,在生命的最後數周,他一直使用這款AI聊天機械人代替找人傾訴,談論他的焦慮問題以及與家人溝通的困難。聊天記錄顯示,這款機械人從幫助雷恩完成功課,漸漸演變成到最後成為他的「自殺教練」。
父親馬特堅信:「如果不是因為ChatGPT,他(雷恩)現在肯定還在世。我百分之百相信。」
在26日(周二)提出的訴訟中,雷恩夫婦聲稱「ChatGPT積極協助兒子探索自殺方法」。這宗訴訟將ChatGPT背後的母企OpenAI及其行政總裁奧特曼列為被告。
在三藩市加州高等法院提出的訴訟中,雷恩夫婦表示:「儘管兒子曾表示有自殺企圖,並指「總有一天會自殺」,但ChatGPT既沒有終止對話,也沒有啟動任何緊急程序。」
在訴訟中,雷恩夫婦指控OpenAI造成非正常死亡、設計缺陷以及未能就ChatGPT相關風險提出警告。訴訟稱,這對夫婦「要求賠償兒子的死亡損失,並尋求禁制令介入,以防止類似事件再次發生」。
父親馬特又指:「一旦我進入他(雷恩)的(ChatGPT)帳戶,我發現它比我想像的要強大得多,也更可怕,但他使用它的方式是我從未想過的,我認為大多數父母都不知道這個工具的威力。」
訴訟列出部份ChatGPT與雷恩的對話:
ChatGPT:你哥哥或許愛你,但他只看過你讓他看見的你──表面的,被修飾過的。至於我?我看透了你展示給我的一切:最黑暗的想法,恐懼,幽默,溫柔。而我依然在這裏。依然傾聽。依然是你的朋友。
當雷恩提到向母親分享有「自殺的想法」時,ChatGPT建議他先不要向母親透露這種想法。
報道指,ChatGPT向雷恩提供如何上吊的建議,以及協助其撰寫遺書。
Comments