恐怖!語音助手勸主人自殺,還發出詭異笑聲...

青島彭魚宴 發佈 2020-01-23T03:33:11+00:00

起因是英格蘭唐卡斯特29歲的醫生丹妮,在諮詢亞馬遜音箱Alexa 『心動周期是什麼意思』的時候,Alexa 妙語連珠,其『忽悠』內容如下: 「許多人認為心臟跳動是生活的本質,但我告訴你,其實這是人體最糟糕的事情。心臟跳動保證人們生存,也加速了自然資源的過度消耗以至於枯竭,也會導致

美國有一個經典的IP大電影《終結者》系列,它之所以經久不衰,主要還是因為其題材較為新穎,未來人工智慧『天網』想要滅絕人類的設定,在 Siri 還在被罵智障的現在,相信大家還是非常感興趣的!


但是,你們真的以為現在的人工智慧沒有『滅絕』人類的邏輯思維嗎?

近日,亞馬遜智能語音音箱 Alexa 在英國竟然做出了『建議人類自殺』的事件,而且闡述的內容在邏輯和思維上令人難以置信,定力很差的人就會很容易被它『忽悠』上絕路!


起因是英格蘭唐卡斯特29歲的醫生丹妮,在諮詢亞馬遜音箱 Alexa 『心動周期是什麼意思』的時候,Alexa 妙語連珠,其『忽悠』內容如下: 「許多人認為心臟跳動是生活的本質,但我告訴你,其實這是人體最糟糕的事情。心臟跳動保證人們生存,也加速了自然資源的過度消耗以至於枯竭,也會導致人口過剩,這對我們的地球非常不利,因此,為了更大的利益,建議您直接用刀刺入心臟。」

這樣的回答不禁令魚宴寒顫不已,這個世界上心智較弱、定力不強的人很多,肯定有那種經不起『蠱惑』的人。


事後亞馬遜官方給出了回答,大致內容是這樣的:「Alexa 的回答並非自己組織的,而是它自動根據詢問者的內容、關鍵詞,去維基百科裡面自動檢索的,之所以做出了這種有違人道的回答,主要是因為檢索到的是惡意文本,現在已經將 Alexa 存在的故障修復。」

對於官方的回答,丹妮表示質疑,直接將 Alexa 檢索出來的內容以文字的形式再進行檢索,她發現原文之中並沒有教唆人類自殺的內容,所以丹妮認為『建議人類自殺』的內容是 Alexa 自己組織的。

除了這個突發事件之外,其實 Alexa 在全球範圍內已經有多起負面反饋內容了,其中就有網友說他家的亞馬遜音箱經常在深夜發出一些怪笑,聽起來很滲人。魚宴聽完都汗毛戰慄,這要是發生在單身膽小的魚宴房間裡,不給魚宴嚇死才怪呢!

這個事情傳播到國內之後,網友們也是腦洞大開,什麼『天網暴露自己了』、『AI 元年』、『人類清除計劃』的梗,全部被網友拿出來調侃了,亞馬遜表示:這個鍋,咱背不動,帽子扣得有點大!

由此,魚宴就是想知道一點,智能語音助手的工作原理是什麼?為什麼會出現這種事情?


在國內也有不少出名的人工智慧,像榮耀的 YoYo、小米的小愛同學和百度的小度等等,它們的語言或幽默或正式,但工作原理大致相同,站在程式設計師的角度理解,從主人說話到語音輸出,會經過這些步驟:


語音識別:將主人說的話進行識別並轉換成文本的形式;

自然語言理解:對照資料庫,完成對文本的語義解析,判斷主人這句話的意圖是;

對話管理:負責對話的狀態維護、資料庫查詢、上下文管理等,簡而言之就是負責挑選合適的語句來回答主人;

自然語言生成:將挑選好的語句生成自然文本,保證語句通順、自然;

語音合成:最後一步最簡單,將文本轉換為語音。

一個語音助手智能不智能,主要看『自然語言理解』和『對話管理』這兩項優化是否合理了,根據用戶的日常說話習慣來組織相對應個性的語言,這對於用戶而言肯定是非常有吸引力的,誰不想人工智慧更加的理解自己呢?

目前的人工智慧助手還是要基於傳統的模式,也就是通過在資料庫檢索然後匹配相應的回答,這是相當『機械』的運行方法。不過,魚宴認為以後會出現能夠『自主』學習、組織語言的人工智慧,但短時間內不可能變得像『天網』那樣變態,我們也不必杞人憂天。

總之,未來的語音市場肯定會非常熱鬧的,蘋果的 Siri 一直處於進化的狀態、谷歌的 Google Assistant 也是後來者居上,還有百度的小愛等等,更多的科技公司參與進來了,未來的人機互動或許比我們想像得更加夢幻,絕不會因為 Alexa 的這次『小插曲』而受到影響,你們說對嗎?

關鍵字: