人（工智能）在江湖飄，哪有不摔跤。

今年，人工智能項目 AlphGo 和 Libratus 分別在圍棋和德州撲克兩個領域戰勝了世界上最好的人類選手。雖然這些里程碑事件顯示了近些年人工智能的發展程度，許多人仍然對新興技術整體的成熟程度抱有懷疑——尤其是考慮到過去 12 個月中出現的一些人工智能的失誤案例。一些新技術并不能有效地執行自己本來的任務，時常會犯一些人類從不會犯的錯誤。以下是我們挑選出來的 2017 年人工智能失誤事件 Top 10。面具解鎖 Face ID

Face ID，一種用來解鎖最新款 iPhone 的面部識別技術，一度被稱為迄今為止最安全的人工智能激活方法。蘋果公司曾夸口稱 Face ID 的解鎖失誤率僅為百萬分之一。但是隨后越南公司 BKAV 使用了由 3D 打印的塑料、硅膠、化妝品和一些剪紙制成的面具就成功破解了 Face ID，而面具的造價只有 150 美元。BKAV 只是掃描了測試對象的臉部，使用 3D 打印機生成了一個臉部模型，貼上了一些剪紙眼睛、嘴巴和硅膠做的鼻子。Face ID 的破解給整個行業帶來了沖擊，加劇了對消費者設備隱私的風險以及更普遍的人工智能技術安全性的考量。
Amazon Echo 故障引發鄰居報警
最近大受歡迎的 Amazon Echo 被認為是更加強大的智能揚聲器之一。但是沒有東西是完美的。一名德國男子的 Echo 在其外出期間被意外喚醒，并在半夜開始大聲地播放音樂，吵醒了鄰居。鄰居報了警，警察不得不打破前門才把 Echo 關閉。事后警察更換了門鎖，房子的主人回家時發現自己的鑰匙已經打不開自己的房門了。
Facebook 關閉聊天機器人

今年 7 月，媒體鋪天蓋地地報道，兩個 Facebook 的聊天機器人以人類無法識別的語音相互溝通，發現后被關停。關于新的秘密超級智能語言的謠言淹沒了各大網站，直到 Facebook 出來解釋，這種神秘的交流只是語法編譯不力造成的結果，這場風波才漸漸平息。
拉斯維加斯的自動駕駛巴士上路第一天就發生事故
今年 11 月，一輛自動駕駛巴士在拉斯維加斯華麗亮相，包括常駐拉斯維加斯的魔術明星 Penn & Teller 在內的眾多名人爭相排隊試乘。然后，僅僅在兩個小時后，這輛公交車就和一輛貨車相撞。盡管從技術角度來看，公交車無須為此次事件負責——據警方所說，貨車司機才應該為此次事件負責——但是這輛智能巴士上的乘客還是抱怨說，公車還是不夠智能，卡車慢慢靠近的時候，它無法擺脫危險。
Google Allo 用頭巾表情回應槍支表情

美國有線電視新聞網的員工使用 Google Allo 時收到了一個帶有頭巾的人的表情建議。而這個表情是因為一個手槍表情觸發的回復建議。谷歌尷尬地向公眾保證，問題已經得到解決，并向公眾道歉。
雙胞胎騙過了匯豐銀行的聲紋識別 ID
匯豐銀行的聲紋識別 ID 是一個以人工智能為核心的安全系統，允許用戶通過語音命令訪問自己的賬戶。盡管匯豐銀行聲稱這套系統和指紋 ID 一樣安全，但是 BBC 的一名記者的雙胞胎兄弟卻能通過模仿聲音訪問他的賬戶。實驗嘗試了 7 次才成功。匯豐立即給出了解決方案，登錄失敗三次后即鎖定賬戶。
Google 人工智能把步槍錯認為直升機

通過略微調整步槍的照片，麻省理工學院的研究小組成功欺騙了 Google Cloud Vision API，讓它將步槍照片錯認為直升機。這個技巧，也叫對抗樣本，是計算機通過進行人眼無法察覺的修改從而使圖像分類出現錯誤。此前，如果黑客知道目標計算系統的基本機制，這種對抗樣本才會起效。麻省理工學院的團隊通過觸發錯誤分類無須獲得系統信息，改進了對抗樣本。
路牌黑客愚弄了自動駕駛汽車
研究人員發現，用油漆和膠帶對停止標志作出不起眼的修改，他們就可以使自動駕駛汽車對這些標志錯誤分類。用「love」和「hate」這樣的單詞修改停止標志，就欺騙了一輛自動駕駛汽車的學習系統。測試集中，自動駕駛汽車的學習系統 100% 將這些停車標志辨認為「限速 45」。
AI 想象了一片「銀行臀部」顏色的夕陽

機器學習研究人員 Janelle Shan 訓練了一個神經網絡，用來生成新的油漆顏色以及給每種顏色起一個匹配的名字。這些顏色可能看起來非常舒服，可這些名字卻令人捧腹。使用顏色名稱數據進行少量訓練之后，這個模型仍然會將「天藍色」標記為「Gray Pubic」，把深綠色標記為「Stoomy Brown」。
對 Alexa 許愿要小心，說不定一不留神就下單了
亞馬遜 Alexa 的虛擬助理可以使網上購物更容易。但是是不是太容易了？1 月份，圣地亞哥新聞頻道 CW6 報道，一個六歲的女孩僅僅和 Alexa 說希望要一個玩具小屋，所以她就通過 Alexa 花了 170 美元買了一個玩具屋。據稱，當電視播出時，主持人重復了這個女孩的話，說：「我喜歡這個小女孩說的話，'Alexa 給我買了一個玩具小屋'，」一些觀眾家里的 Alexa 設備再次被觸發，然后下單購買了一個玩具屋，不過這個說法的真實性仍然有待查證。