這是一篇客座文章。這里所表達的觀點只是作者的觀點，并不代表電子發(fā)燒友的立場。

大多數(shù)人把人工智能和機器人視為不可分割的一對，認為它們是一回事。事實上，“人工智能（artificial intelligence）”一詞很少在研究實驗室使用。特定于某些人工智能和其他智能技術(shù)的術(shù)語更為相關(guān)。每當(dāng)我（作者，以下簡稱我）被問到“這個機器人是由人工智能操作的嗎？”這個問題時，我都會猶豫是否應(yīng)該把我們開發(fā)的算法稱為“人工智能”。

20世紀50年代，John McCarthy和Marvin Minsky等科學(xué)家首次使用人工智能。幾十年來，人工智能經(jīng)常出現(xiàn)在科幻小說或電影中。現(xiàn)在，人工智能被應(yīng)用于智能手機虛擬助理和自動駕駛車輛算法中。無論是歷史上還是今天，人工智能都可能意味著許多不同的東西，這可能會引起混亂。

然而，人們常常有這樣的偏見，認為人工智能是人類智能的人工實現(xiàn)形式。而這種先入為主的觀念可能來自于我們作為人類的認知偏見。

We judge robots’ or AI’s tasks in comparison to humans

不要將機器人或AI直接與人類相比較

如果你在2017年碰巧關(guān)注了這條新聞，那么當(dāng)DeepMind開發(fā)的人工智能AlphaGo擊敗9段圍棋選手Lee Sedol時，你有什么感覺？你可能會感到驚訝或恐懼，認為人工智能已經(jīng)超越了天才的能力。

盡管如此，贏得一場有著指數(shù)級可能動作（如圍棋）的游戲只意味著人工智能已經(jīng)超過了人類智力的一個非常有限的部分。IBM的人工智能Watson也是如此，它在“Jeopardy！”中競爭 —— 這是一個電視智力競賽節(jié)目。

我相信很多人都對我在麻省理工學(xué)院仿生機器人實驗室（MIT Biomimetic Robotics Laboratory）研制的Mini Cheetah的后仰動作印象深刻。雖然向后跳躍和落地是非常動態(tài)的、引人注目的，當(dāng)然對人類來說也是困難的，但與需要更復(fù)雜反饋回路的穩(wěn)定行走相比，特定運動的算法非常簡單。完成對我們來說似乎很容易的機器人任務(wù)通常是極其困難和復(fù)雜的。出現(xiàn)這種差距是因為我們傾向于根據(jù)人類標(biāo)準(zhǔn)來考慮任務(wù)的難度。

我們傾向于將人工智能的功能泛化。例如，當(dāng)我們在街上看到有人在做后空翻時，我們傾向于認為這個人擅長走路和跑步，也有足夠的靈活性和運動能力，擅長其他運動。一般來說，很可能對這個人的這種判斷不會是錯誤的。

然而，我們也能將這一判斷應(yīng)用于機器人嗎？我們很容易根據(jù)對特定機器人運動或功能的觀察來概括和確定AI性能，就像我們對人類所做的那樣。

通過觀看OpenAI（人工智能研究實驗室）機器人手解決魔方的視頻，我們認為人工智能可以執(zhí)行所有其他簡單的任務(wù) —— 因為它執(zhí)行了如此復(fù)雜的任務(wù)。但我們忽略了這樣一個事實，即人工智能的神經(jīng)網(wǎng)絡(luò)只針對有限類型的任務(wù)進行訓(xùn)練。例如，如果情況發(fā)生變化，在操作魔方時將它倒置，則算法的工作效果可能不如預(yù)期的好。

與人工智能不同，人類可以將個人技能結(jié)合起來，并將其應(yīng)用于多項復(fù)雜任務(wù)。一旦我們學(xué)會了如何解魔方，即使被告知要倒持魔方，我們也能快速地處理魔方。而大多數(shù)機器人算法需要新的數(shù)據(jù)或重新編程才能做到這一點。

能用勺子在面包上涂果醬的人也能用叉子涂果醬 —— 這是顯而易見的。我們理解“傳播”堵塞的概念，并能很快習(xí)慣使用完全不同的工具。此外，雖然自動駕駛車輛需要每種情況的實際數(shù)據(jù)，但人類駕駛員可以根據(jù)預(yù)先學(xué)習(xí)的概念做出理性決策，以應(yīng)對無數(shù)情況。這些例子顯示了人類智能的一個特征，與機器人算法形成了鮮明對比，機器人算法無法在數(shù)據(jù)不足的情況下執(zhí)行任務(wù)。

哺乳動物持續(xù)進化了6500多萬年。人類花在學(xué)習(xí)數(shù)學(xué)、使用語言和玩游戲上的全部時間加起來也不過10000年。換句話說，人類花了大量時間發(fā)展與生存直接相關(guān)的能力，如行走、跑步和使用雙手。

因此，計算機的計算速度比人類快得多并不奇怪，因為計算機最初就是為了這個目的而開發(fā)的。同樣，計算機不能像人類那樣輕易獲得自由使用手和腳的各種能力也很自然，因為這些技能是通過1000多萬年的進化獲得的。

這就是為什么將機器人或人工智能在演示中的表現(xiàn)與動物或人類的能力進行比較是不合理的。在麻省理工學(xué)院觀看Cheetah機器人穿越田野、跨越障礙的視頻時，就認為像動物一樣行走和奔跑的機器人技術(shù)已經(jīng)成熟可就太輕率了。

許多機器人演示仍然依賴于在有界情況下為特殊任務(wù)設(shè)置的算法。事實上，研究人員傾向于選擇看似困難的演示，因為這會給人留下深刻印象。然而，這種難度是從人的角度考慮的，這可能與實際的算法性能無關(guān)。

在任何邏輯思維之前，人類很容易受到瞬間和反思性感知的影響。當(dāng)研究對象非常復(fù)雜，很難進行邏輯分析時，這種認知偏見就會加強，例如，一個使用機器學(xué)習(xí)的機器人。

那么我們?nèi)祟惖恼J知偏見從何而來？我相信這是由于我們的心理傾向，下意識地將我們所看到的事物進行了擬人化。人類已經(jīng)進化為社會性動物，在這個過程中可能會發(fā)展出相互理解和同情的能力。我們將主體擬人化的傾向也來自于同樣的進化過程。

人們在提到編程算法時傾向于使用“教學(xué)機器人（teaching robots）”這一表達。然而，我們習(xí)慣于使用擬人化表達。正如18世紀哲學(xué)家David Hume所說，“人類有一種普遍的傾向，即把所有的生命都設(shè)想得像他們自己。”

當(dāng)然，我們不僅將受試者的外表擬人化，還將他們的心理狀態(tài)擬人化。例如，當(dāng)波士頓動力公司（Boston Dynamics）發(fā)布了一段工程師踢機器人的視頻時，許多觀眾的反應(yīng)是“這太殘忍了”，他們“同情機器人”。

一條評論說，“有一天，機器人會對那個工程師進行報復(fù)”受到了歡迎。實際上，工程師只是在測試機器人的平衡算法。然而，在理解這種情況的任何思維過程之前，像動物一樣的機器人的攻擊性踢腿動作和掙扎動作會瞬間傳遞到我們的大腦，給我們留下深刻的印象。就像這樣，這種瞬間的擬人對我們的認知過程有著深刻的影響。

Humans process information qualitatively， and computers， quantitively

人類定性地處理信息，計算機定量地處理信息

環(huán)顧四周，我們的日常生活充滿了算法，運行這些算法的機器和服務(wù)就可以看出這一點。所有算法都以數(shù)字為基礎(chǔ)。我們使用諸如“目標(biāo)函數(shù)（objective function）”之類的術(shù)語，這是一個代表特定目標(biāo)的數(shù)值函數(shù)。許多算法的唯一目的是達到該函數(shù)的最大值或最小值，而算法的特性因其實現(xiàn)方式而異。

贏得圍棋或國際象棋比賽等任務(wù)的目標(biāo)相對容易量化。量化越容易，算法工作得越好。相反，人類往往在沒有定量思考的情況下做出決策。

舉個“打掃房間”的例子，我們每天的清潔方式都有細微的差別，這取決于情況、房間是誰的以及一個人的感受。我們是否試圖在這個過程中最大化某個功能？我們沒有這樣做。清潔的行為是以“足夠清潔”為抽象目標(biāo)進行的。此外，“足夠”的標(biāo)準(zhǔn)很容易改變。這一標(biāo)準(zhǔn)在人與人之間可能會有所不同，特別是在家庭成員或室友之間會引起沖突。

還有許多其他的例子。當(dāng)你每天洗臉時，你打算用手的動作最大化哪些定量指標(biāo)？你擦得有多用力？選擇穿什么？選擇晚餐吃什么？選擇先洗哪個盤子？這樣的例子不勝枚舉。我們習(xí)慣于通過整合我們已有的信息來做出足夠好的決策。

然而，我們通常不會檢查是否每個決策都是優(yōu)化的。大多數(shù)情況下，我們不可能知道，因為我們必須用有限的數(shù)據(jù)滿足許多相互矛盾的指標(biāo)。當(dāng)我們和朋友在商店選購食品時，我們無法量化食品標(biāo)準(zhǔn)，并根據(jù)這些數(shù)值做出決定。

通常，當(dāng)一個人挑選某樣?xùn)|西時，另一個人會說“好！”或者建議另一種選擇。這與說這種蔬菜“是最佳選擇”截然不同，這更像是說“這已經(jīng)足夠好了”。

在設(shè)計我們期望機器人執(zhí)行的工作或服務(wù)時，人和算法之間的這種操作差異可能會帶來麻煩。這是因為當(dāng)算法基于定量值執(zhí)行任務(wù)時，人類的滿意度，即任務(wù)的結(jié)果，很難被完全量化。

要量化一項任務(wù)的目標(biāo)并不容易，因為該任務(wù)必須適應(yīng)個人偏好或不斷變化的環(huán)境，如上述房間清潔或洗碗任務(wù)。也就是說，為了與人類共存，機器人可能需要進化，而不是優(yōu)化特定功能，而是實現(xiàn)“足夠好”。當(dāng)然，在現(xiàn)實生活中，后者更難實現(xiàn)，因為在現(xiàn)實生活中，你需要管理如此多的相互沖突的目標(biāo)和定性約束。

Actually， we do not know what we are doing

事實上，我們并不知道在做什么

在讀這篇文章之前，試著回憶一下你最近吃過的一頓飯。你還記得你吃了什么嗎？那么，你還記得咀嚼和吞咽食物的過程嗎？你知道你的舌頭當(dāng)時到底在干什么嗎？我們的舌頭為我們做了很多事情。

它幫助我們把食物放進嘴里，在牙齒間分配食物，吞下細嚼過的食物，甚至在需要時把大塊食物送回牙齒。我們當(dāng)然可以做到這一切，即使在和朋友交談時，也可以用你的舌頭來控制發(fā)音。

我們有意識的決定在多大程度上促進了我們同時完成如此多復(fù)雜任務(wù)的舌頭運動？看起來好像我們在隨心所欲地移動舌頭，但事實上，更多的時候，舌頭會自動移動，從我們的意識中接受高級命令。這就是為什么我們不能記住吃飯時舌頭的詳細動作。首先，我們對他們的行動知之甚少。

我們可能認為我們的手是最有意識地控制的器官，但許多手的動作也會自動地、無意識地發(fā)生，或者最多是潛意識地發(fā)生。對于那些不同意的人，試著把鑰匙之類的東西放進口袋，然后拿出來。

在這短短的一瞬間，無數(shù)的微操作立即無縫地協(xié)調(diào)完成了任務(wù)。我們通常無法單獨感知每一個動作。我們甚至不知道應(yīng)該把它們分成哪些單位，所以我們把它們統(tǒng)統(tǒng)表達為抽象的詞語，如整理、清洗、涂抹、擦拭等。

這些動詞都是定性定義的。它們通常是指精細動作和操作的集合，其組成隨情況而變化。當(dāng)然，即使是孩子們也很容易理解和思考這個概念，但從算法開發(fā)的角度來看，這些詞是無限模糊和抽象的。

還是舉一個在面包上涂抹花生醬來做三明治的例子。我們可以展示是如何做到這一點的，并用幾句簡單的話進行解釋。讓我們假設(shè)一個稍微不同的情況 —— 設(shè)有一個外星人使用與我們相同的語言，但對人類文明或文化一無所知（我知道這個假設(shè)已經(jīng)自相矛盾了，但請容忍我。）

我們能在電話里解釋一下如何做花生醬三明治嗎？我們可能會在解釋如何從罐子里舀出花生醬時卡殼。即使是抓取面包片也不是那么簡單，我們必須用力抓住面包，這樣才能涂抹花生醬，但又不能太用力，以免破壞軟面包的形狀。

換句話說，我們很容易想到如何抓住面包，但要通過語言或文字來表達這一點并不容易，更不用說在函數(shù)中了。即使是一個人在學(xué)習(xí)一項任務(wù)，我們能通過電話學(xué)習(xí)木匠的工作嗎？我們能通過電話準(zhǔn)確地糾正網(wǎng)球或高爾夫球的姿勢嗎？很難辨別我們所看到的細節(jié)在多大程度上是有意或無意完成的。

我的觀點是，并不是我們用手和腳所做的一切都可以用我們的語言直接表達出來。在連續(xù)動作之間發(fā)生的事情通常會無意識地自動發(fā)生，因此我們用一種比實際發(fā)生方式簡單得多的方式來解釋我們的動作。

這就是為什么我們的行為看起來很簡單，為什么我們忘記了它們是多么不可思議。表達的局限性常常導(dǎo)致低估實際的復(fù)雜性。我們應(yīng)該認識到這樣一個事實，即語言描述的困難會阻礙詞匯發(fā)展不完善領(lǐng)域的研究進展。

直到最近，人工智能已實際應(yīng)用于與數(shù)據(jù)處理相關(guān)的信息服務(wù)中。今天一些突出的例子包括語音識別和面部識別。現(xiàn)在，我們正在進入一個人工智能的新時代，它可以在我們中間有效地進行物理服務(wù)。也就是說，復(fù)雜物理任務(wù)的自動化時代即將到來。

特別是，我們?nèi)找胬淆g化的社會構(gòu)成了巨大的挑戰(zhàn)。勞動力短缺不再是一個模糊的社會問題。我們迫切需要討論如何開發(fā)增強人類能力的技術(shù)，使我們能夠?qū)Ｗ⒂诟袃r值的工作，追求人類特有的生活。

這就是為什么不僅是工程師，而且來自各個領(lǐng)域的社會成員都應(yīng)該提高他們對人工智能和無意識認知偏見的理解。如上所述，人們很容易誤解人工智能，因為它在本質(zhì)上與人類智能不同。

對人類來說很自然的事情可能是對人工智能和機器人的認知偏見。如果不清楚我們的認知偏見，我們就無法為技術(shù)研究、應(yīng)用和政策設(shè)定適當(dāng)?shù)姆较?。為了使科學(xué)界的發(fā)展富有成效，我們需要敏銳地關(guān)注我們的認知，并在促進技術(shù)的適當(dāng)發(fā)展和應(yīng)用過程中進行慎重的辯論。

Sangbae Kim是麻省理工學(xué)院仿生機器人實驗室的領(lǐng)導(dǎo)者。上面這篇文章改編自Kim在6月份為Naver Labs發(fā)布的博客。

編輯：jq