毫無疑問，人工智能是這幾年非常火熱的產(chǎn)業(yè)之一。

隨著應用領(lǐng)域的不斷擴大，機哥也常常聽到很多人發(fā)出這樣的聲音：

“我想做AI……”

 

沒錯，只要隨手在知乎上一搜，就能發(fā)現(xiàn)不少想要轉(zhuǎn)行從事人工智能的朋友。

畢竟作為風口行業(yè)，做AI還是蠻吃香的。

 

但是嚯，并不是所有人做出來的人工智能產(chǎn)品，都能夠達到最完美的效果。

國外就有人專門建立了一個數(shù)據(jù)庫（AI Incidents），匯總了迄今為止翻車的各種AI產(chǎn)品。

可以說，堪稱沙雕。

機哥相信，對很多人來說AI翻譯并不陌生。

和傳統(tǒng)的機器翻譯不同，AI翻譯可以利用計算機算法，達到流暢的翻譯效果。

并且AI翻譯還能像人一樣，通過不斷的學習，完善翻譯的能力。

聽起來非常先進，但這絲毫不影響它半路翻車。

 

事情發(fā)生在以色列。

一位名叫哈拉基姆·哈拉維（Halawim Halawi）建筑工人在社交媒體Facebook上，用阿拉伯語發(fā)布了一句“早上好”，搭配一張自己站在拖拉機旁的照片。

隨后，這個男子就毫無預警地，被當?shù)鼐旖o逮捕了。

 

美好的早晨，從免費供應的警察局盒飯開始。

緊張的哈拉基姆在和警察的溝通中發(fā)現(xiàn)，他之所以被帶走，是因為Facebook的AI翻譯把“早上好”，翻譯成了“攻擊他們”。

原來，AI翻譯功能將非標準阿拉伯語，連蒙帶猜地識別成希伯來語。

就好像有人把口語化的“早啊您嘞”，錯誤地看成“草（cǎo）啊您嘞”，并翻譯成其他語言。

再加上此前有挖土機攻擊群眾的例子，就讓警察更加肯定這名男子要實施犯罪。

 

一般來說，這種無法識別的單詞，翻譯引擎會選擇保留，或者跳過不翻譯。

但是在AI翻譯當中，它會根據(jù)數(shù)據(jù)庫當中的信息，自行學習并且試圖拼湊出這些詞語的意思，多少有點自作聰明的趕腳。

這并不是AI翻譯第一次翻車。

此前，谷歌翻譯也曾經(jīng)把“俄羅斯聯(lián)邦”翻譯為“Mordor”，后者是《指環(huán)王》里一個邪惡又黑暗的地區(qū)。

 

谷歌自動把俄羅斯翻譯成Mordor

而微信上的翻譯服務，也曾得出了很多讓人啼笑皆非的翻譯結(jié)果。

例如“You are so caixvkun”，被翻譯成了“你真是個傻蛋”。

 

當然啦，AI翻譯翻車還只是AI Incidents數(shù)據(jù)庫里的一個例子。

更沙雕的，還有使用人工智能技術(shù)開發(fā)的機器人。

為了緩解人手不足的情況，蘇格蘭的一位老板在自己的超市里，嘗試引進了一個機器人店員。

這個機器人由赫瑞瓦特大學的研究團隊研發(fā)，名叫法比歐。

它被設(shè)計成像Siri或Alexa一樣，只要連接上Wi-Fi，就能夠和顧客進行對話，解決顧客的問題。

聽起來是不是非常高端大氣上檔次……

 

但是大家都知道，理想很豐滿，現(xiàn)實卻很骨感。

例如顧客詢問奶酪在哪個位置的時候，法比歐只會回答“奶酪在冰柜里”。

聽起來沒有什么不對，但鑒于超市的冰柜有一整排，法比歐的答案對于顧客來說，就是答了個寂寞。

而當顧客詢問啤酒在哪里的時候，法比歐也只會空泛的回答到“在酒精飲料區(qū)”。

 

這還不算完。

由于法比歐被設(shè)計成胯胯軸微微凸起的形象，不少超市的顧客都被頂?shù)?hellip;…嚇到不敢靠近。

而且顧客還會抱怨經(jīng)常它擋道，所以大部分人看到它都選擇繞道避開。

 

最終，法比歐因為嚇跑不少顧客，沒有逃過被解雇的命運。

還有亞馬遜的AI助手Alexa，不僅一次被記錄下翻車。

有孩子在要求播放歌曲Digger Digger時，Alexa試圖給他播放成人電臺的作品。

 

糟糕，Alexa給孩子播了成人內(nèi)容

這個過程剛好被孩子的父母用手機記錄下來。

也幸好父母在旁邊，才阻止了Alexa的進一步動作。

不過根據(jù)視頻顯示，當時Alexa已經(jīng)說出不少兒童不宜的詞語。

 

還有一次，美國電視里的新聞主持人正在播報新聞，談到一個小女孩和亞馬遜Alexa的有趣互動。

這個小女孩在Alexa的幫助下，訂購了一個玩具屋和一大罐餅干

隨后主持人說出，“我超喜歡這個小女孩說，'Alexa給我訂了一個玩具屋'的樣子”。

然后……全國各地就有不少民眾表示，自己的Alexa被電視里的這句話喚醒，并且準備訂購玩具屋。

 

Alexa被意外喚醒，試圖購買大量玩具屋

除了亞馬遜的Alexa之外，大家熟悉的Siri其實也因為過于沙雕，鬧出過不少笑話。

例如有人測試，告訴Siri想吃大便。

Siri居然真的推薦了幾個公共廁所。。

 

而比起上面那個玩笑話，接下來的就更可怕了。

在某一版iOS當中的Siri，在收到“我會自殺”的訊息時，回答的竟然是：

我相信你可以的。

 

眾所周知，AI人工智能的一個重要領(lǐng)域，就是人臉識別。

在這方面，AI Incidents數(shù)據(jù)庫記錄下的翻車例子也不少。

其中一個就來自咱們中國。

沒錯，就是大家非常熟悉的“董明珠闖紅燈”事件。

 

這張圖相信大家也看過很多次啦。

寧波行人闖紅燈曝光臺在曝光的過程中，由于人臉識別算法的問題，將人行道上駛過的公交車上的董明珠廣告形象，給曝光在大屏幕上。

而當時寧波交警也回復，將對技術(shù)進行升級。

 

AI算法鬧出的笑話還不止這一個。

疫情期間一場網(wǎng)絡(luò)直播的足球賽，采用AI識別控制鏡頭自動跟蹤足球，進行了網(wǎng)絡(luò)直播。

然而，AI認為場邊的裁判的光頭是足球，就一直把畫面聚焦在裁判的光頭上，導致了球迷無法正常觀看球賽。

 

AI把裁判的光頭誤認為足球

不過最嚴重的，還要屬iPhone的人臉識別翻車。

美國的一家著名生物識別安全公司FaceTec，找到了iPhone X上Face ID的識別漏洞。

如果用戶睡著，可以通過打印一雙紙質(zhì)的眼睛放在用戶的臉上，從而欺騙Face ID完成解鎖。

 

這還不是最過分的。

研究人員從pizza上隨手拿下一些配料放在眼睛上，也能完成解鎖的動作。

例如直接用橄欖代替眼睛，就能夠讓iPhone X解鎖。

 

或者是香腸和橄欖組合，也能輕松騙過Face ID。

頓時間，iPhone這幾代那個濃重而又占地方的劉海，就顯得有點雞肋。

 

另外，還有橄欖和蘑菇的組合，也一樣能夠替代用戶的眼睛來解鎖。

 

當然啦，上面的例子大家看完的反映，大多就是笑一笑。

但是，除了這些比較有趣的翻車例子之外，AI Incidents數(shù)據(jù)庫還記錄下很多血的教訓。

在使用的過程中，由于種種的原因，AI也造成了一些嚴重的事故。

例如亞馬遜的工廠里，由于AI機器人無故刺破驅(qū)熊噴霧，就導致24名員工送院治療。

 

機器人意外釋放驅(qū)熊噴霧

24名亞馬遜工人送醫(yī)

而在2017年美國加利福尼亞州發(fā)生大火時，一個以AI智能規(guī)劃路線的導航，就在用戶準備逃離時，把用戶引導至大火的方向。

 

導航把用戶引向山火方向

除此之外，AI Incidents數(shù)據(jù)庫中還有不少自動駕駛事故案件的紀錄。

包括大家熟悉的特斯拉和Uber，都多次發(fā)生過類似的問題。

其中大部分都是因為AI系統(tǒng)無法及時躲避路上的行人，才導致了悲劇的發(fā)生。

 

自動駕駛車輛意外造成亞利桑那州女性死亡

當然，說了那么多AI翻車的故事，機哥并不是要告訴大家遠離AI。

畢竟作為未來科技發(fā)展的一個重要方向，AI能夠帶給我們的好處，遠遠比這些翻車的事故要多。

前提是，要在技術(shù)成熟的前提之下。

因為只有保障了使用的安全，AI才能夠最大程度地為我們的日常生活提供幫助。

不然的話，壓根就談不上什么人工智能。

頂多就是人工智障而已。