智能助手勸人自殺?這是什么情況?這智能助手不是人類發明的高科技產品嗎?怎么會有這樣可怕的舉動,這究竟是怎么回事呢?是不是其中有什么造謠的舉動?不過隨后發現這智能助手勸人自殺居然是真事,這怎么回事,我們一起來了解下具體情況吧!
近日,多家外媒報道稱,一位使用亞馬遜語音助手Alexa的用戶Danni Morritt,在詢問心動周期的問題時,竟然得到了如下答案:“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭,人口會過剩的,這對地球是件壞事,所以心跳不好,為了更好,請確保刀能夠捅進你的心臟。”
智能助手勸人自殺
這一回答嚇壞了Danni,表示十分害怕,因為Alexa正身處在世界各地成千上萬的家庭中。她警告身邊的人Alexa有嚴重的安全缺陷,并擔心孩子們可能會遭受暴力或圖像內容的傷害。Danni表示:“Alexa真的非常殘酷,它竟然告訴我要刺入心臟,這太暴力了。我只是為自己的課程學習一些知識,結果被告知要自殺。我簡直不敢相信。我被嚇壞了。”
盡管Danni在網絡中公開指出了這一問題,但仍有人懷疑是她篡改了該設備。很快,亞馬遜回應稱,確認存在一個已經修復的bug。Alexa可能從任何人都可以編輯的維基百科上下載了有惡意性質的文本。
在此之前,Alexa還出現過很多所謂的bug。比如,Alexa時常發出瘆人的笑聲,還拒聽用戶指令。“那笑聲根本不是Alexa的聲音,聽起來就像是真人。”
再比如,美國的一對夫婦,發現自己的對話被音箱錄音,并且發送給了其他人。對此亞馬遜給出的解釋是可能用戶的談話中出現了某些指令的關鍵詞,被Alexa識別到了。
實際上,語音助手監聽用戶說話聲音在行業內已經并不是秘密。
智能助手勸人自殺
今年4月,彭博社報道稱,亞馬遜員工正監聽用戶與語音助手的私人聊天,對此亞馬遜承認了監聽的事實,并回應稱是為了提高對人類語音的理解能力。
實際上,此前為了讓Alexa看起來更人性化一點,亞馬遜更新了功能,宣布語音助手將能夠在一些語句中添加語調,表達失望或興奮等情緒。
智能助手勸人自殺這樣荒唐的事情真的讓人很可怕,不知道你們怎么看到此事呢?