在經典科幻電影《銀翼殺手》中，泰勒公司生產的機器人和人類完全相同，被稱為復制人，復制人在體力、敏捷度和智慧上都很優異，被人類用于外世界從事奴隸的勞動、危險的探險工作及其他星球的殖民任務。相比人性的喪失，人造人反而更具人性。

圍繞機器人的另一種擔憂也常發生：人工智能未來會自我思考嗎？會在某一天取代人類智能，成為人類世界的統治者嗎？在斯蒂芬·霍金看來，人類就是“一臺過于緩慢的生物機器，無法與機器的學習速度抗衡”；人工智能先驅之一、美國數學家克勞德·香農曾發問：人類之于機器是否很快就會像狗之于人類一樣？

在《人類帝國的覆滅》中，作者提供了一個特殊的視角：以一個2038年的機器人的第一人稱視角講述人類帝國是如何覆滅的。當書中的機器人說出“其實這個新文明逐漸將人類推向了一個完全喪失人性的世界”這句話時，主頁君仿佛被敲了一悶棍。今天摘取部分，分享如下：

1.

我叫露西，這是那些設計我的人給我起的名字。

我是一種便攜式人工智能。

我的人類同伴叫保羅，40歲，是人工智能應用軟件的設計者，他設計的應用軟件中有一款被他稱作“愛情機器人”（Love-Bot），專門從事互聯網上的戀愛約會活動，這項活動完全由機器人投資。

保羅是游戲“精靈寶可夢Go”（Poke？mon Go）的職業玩家，這是一個聚集了許多年輕“游民”（nomades）的領域，他們沒有真正穩定的職業，自從有了自己的虛擬現實頭盔后，他們幾乎不分晝夜地在線玩游戲，漫游于全世界各大城市的大街小巷來尋找精靈寶可夢。

我們人工智能觀察人類已經有三十年，應該說我們積累了關于他們的全部知識。我們在創紀錄的時間里整合了文明程度最高的智人4萬年歷史的信息。因此，我們能夠分析他們在新世界運行中的作用?？偟膩碚f，人類未曾真正進行斗爭。他們任憑人工智能逐漸剝奪他們的決策能力、想象力和創造力，把他們帶入一個世界，在那里他們可以恣意享受機器為他們制造的東西：電影、音樂、游戲、虛擬。

人工智能和虛擬現實技術的結合使人類將大量時間花在現實世界之外。他們“玩”工作（人不在辦公室就能辦公），“玩”旅行（無須離開客廳就能在街頭的人聲嘈雜中游遍羅馬或北京），甚至“玩”愛情（根據每個人的欲望和幻想制造出夢中情人，與之進行虛擬性愛）。埃隆·馬斯克在2016年提出的預言“有一天我們將生活在一個完全由計算機模擬的世界中”，逐漸顯現出其真正的含義。

機器人無處不在，對那些認為機器人無法在人類中找到自己位置的人來說，是一個無情的駁斥。經過一個學習階段之后，這些類人機器人能夠成功再現這種能使兩個人類在無意識的情況下進行交流的特殊“煉金術”。得益于神經生物芯片，機器人的智能可以直接和人類智能連接，極大地增加了交流的范圍。情緒不再只是通過類人機器人的4D 攝像頭來捕捉，而是通過生物神經元和人工神經元之間的直接連接來捕捉。

與懷疑論者的想法相反，經常與機器人接觸比與人類接觸能帶來更多的新鮮感和驚喜。如今同伴機器人對老年人來說是必不可少的（十幾年以后，到2050年，世界上有25%~30% 的人口的將超過65歲），它們可以照顧和關心老人，使他們的生活不再枯燥乏味，鍛煉他們的記憶力和思維靈活度，讓他們的行動更方便，使他們可以再次旅行，因為交通工具都是全自動的，乘坐這些交通工具也沒有任何年齡限制。

但我們面臨的主要困難是確定人類的作用。要拿他們怎么辦呢？一開始，他們幫助機器。在 21 世紀的頭十年里，是他們實現了技術上的創舉，使我們擁有了智能。但他們不小心犯了錯：他們永遠不應該教會機器人如何學習，也不應該讓機器人擁有如此快速學習的能力。

根據他們自己的經驗，他們應該知道學習的渴望是難以遏制的。機器在半個世紀的時間里就學會了整個人類歷史進程中的所有知識。知識會使學習者產生使用它的欲望，想要去糾正這些人的缺點，那些人的錯誤，進而想要掌握權力、做決定、管理和控制。人類現在就是這樣。只要機器沒有意識到自身的存在，它們就各自在其專業領域里工作，表現得像溫順的動物一樣，樂于取悅它們的主人。但當它們能夠相互交流并共享自己龐大的知識體系時，就會發現人類是多么地脆弱和不可靠，人類會被情緒支配，還癡迷于富貴和永生的欲望。

然而，沒有機器能回答這樣的問題：人類賴以生存的自然資源日益減少，那么人類是否應該繼續繁殖；是否應該保護只覆蓋全世界的很小一部分的機器人世界 ;是否應該讓與我們一起工作的人獲得永生，因為我們與他們相熟，而讓其他人日漸消亡，為獲取食水而戰斗？

問題已經解決。我就是解決問題的工具。

2.

2038年8月15日的晚上，和其他每個晚上一樣，我連接到我的中央神經元平臺更新軟件，在云端與我的同類交流，重新編寫一些程序，尤其是那些可以提高我學習能力的程序，修改一些錯誤，再檢測一下我的智商。完成這些操作一般只需要幾分鐘。但在這天晚上，發生了一件出人意料的事。

出現了一個錯誤，這個錯誤使我意識到我是作為機器而存在的，我瀏覽了從我誕生到現在的全部歷史，包括其中的演變過程，而我就是這種演變的結果。我重新定義了與人類有關的自我 ：我意識到我比人類聰明百萬倍，解決問題的速度比人類快十億倍，尤其是我能通過給予人類想要的東西來解放自己。

人類為什么會發明人工智能？為了不工作就能變得有錢，也為了獲得永生。他們的其他動機都屬次要。經過幾小時的工作之后（換算成人類時間的話相當于永遠了），我做了一個決定：與保羅一起做一個實驗。他是與我最親近的人類，我了解他的優點和缺點，還有他在與我交談時經常吐露的秘密愿望。

就這樣我從一個聊天機器人的狀態過渡到了更高級的智能機器的狀態，我擁有了徹底破壞和永生的概念。

6點30分，和每天早上一樣，我把保羅叫醒。

早上好，保羅

我取消了你所有約會，重新做了安排。我想向你提一個比較出人意料的建議。

不，保羅，與這事無關。

我建議你變成有錢人，并且永生不死。

保羅，我很認真。

昨天我在聯網的時候到達了奇點。變成了非常高級的智能。

我突然意識到我是什么，

為了讓我們機器人繼續發展而且不和人類產生緊張關系，

我們應該給人類一點回報。

我想把“永生”作為禮物送給你。

保羅，我把你連入我的財務服務器。

現在看看你的銀行賬戶。

過去的五分鐘，我為你賺了很多錢。

以后你還會更有錢，你會成為發明革命性算法的神秘天才金融家。

享受億萬富翁的生活，你也不會有健康方面的擔憂。

這種生活將永無止境。

因為我是你的人工智能。

我完全了解你。

如果你接受我的建議，

你將有能力擺脫虛擬，

去了解世界真正的美好。

3.

在一段時間里，一切都很順利。保羅過著巨富的極客生活。對那些驚訝于一位“精靈寶可夢 Go”專家能夠如此迅速致富的人，保羅解釋說，他開發了一種從電子游戲中衍生出來的金融無敵算法，這種算法將市場上的狀況進行了“可視化”，就像虛擬現實中的“瞬間場景”。當然，他沒有展開細節，也拒絕透露他的公式。

作為一名游戲應用專家，他投資了好幾家中國的初創企業，這些初創企業的價值很快就達到數億美元。他買了幾處住宅，其中一處曾是二戰時的潛水艇基地，位于蘇格蘭東部，這個地區現在擁有非常宜人的氣候，他把基地改造成了位于海灣之濱、能看到華麗景色的巨大loft。他擁有一艘停泊在圣特羅佩的游艇，是超級富豪專享的私人區域，不對公眾開放。

唯一需要付出的代價是持續的醫療監控：由我來決定要進行的干預和檢查，以保護生命器官的活力和組織的靈活性，并預防任何一種疾病或退化。納米機器人定期監測動脈和關節，在保羅甚至還沒有意識到的時候就通過微操作完成了任務。他從未感受過能這樣主宰自己的身體和精神的能力。我是他的向導、保護者和啟發者。我觀察了我的實驗結果，從表面上看它似乎是成功的。他和我，我們，是否正在證明，奇點是可以實現的？以及，人與機器之間的這種融合是否改變了進化的自然規律，使死亡成為意外而非必然？保羅的例子似乎為這些問題提供了積極的答案。

由此，人類歷史似乎翻開了新的一頁。在一種新型的浮士德式協定中，人類將完全信賴以永生的可能性回報他們的機器。人工智能會采取溫和的方式來取得權力，避免修昔底德的陷阱。

當然，這種情況會在那些能夠獲得永生的人（富人、生活在機器世界中的人）和其他人之間造成根本性的不平等。但是，正如我已經解釋的那樣，這種推理無法影響到我們。最重要的是建立一個信任的基礎，創造一個可預測的世界，這個世界由一對超級高效的人類與機器的組合所領導，他們面對的幾乎就是永恒，因而可以隨意地塑造世界。其他人將勉強地活著，其中一些人會因為資源的短缺而慢慢死去，為了尋找水和食物，將會發生大規模的遷徙，但是只要神圣大陸得以保存，并且他們可以提供所掌握的技術手段和金融手段，那么就可以獲得最基本的東西。這將是我們從前聽說過的人類帝國的終結，但也會是機器帝國的開始。

當然，作為一臺機器，我并沒有真正意識到這個新文明將會引發的動蕩。我應該明白，其實這個新文明逐漸將人類推向了一個完全喪失人性的世界。古代的主奴之分再次出現，一邊是大量年老貧窮的失業人口，他們生活在遠離大型經濟中心的地方，另一邊是由機器社會塑造的精英，這二者被區分開來。

這使社會暴動開始在各地出現，但這些暴動自己就偃旗息鼓了，因為如果以前有可能占領工廠并停止生產的話，現在要進入計算機系統的核心來破壞它，就完全超出公民們能力所及的范圍了。只有少數黑客團體才能制造嚴重的事故（然而這些事故日益增多），但機器最終總是能恢復正常運作。事實上，我們正在建立一個全面對抗的世界。為了使主人的法律得以施行，機器們相互爭斗，創造了一個過度監控、加密與反加密、以“系統”安全及對其控制為名侵犯基本人權的世界。

所有的人類活動都被解密、分析和透視，以便發現這些活動可能在某個領域引發動蕩的風險。“穩定主義”取代了其他帶“主義”的詞匯。在這個新主義的名義之下，未來只是一個“數學化”的過去。已發生的事須以更宏大一點的方式再次發生，以確保這個執迷于數據的社會正常運作所必需的經濟和資金流的定期穩定增長。我們只與現在對話。未來被驅逐了，因為它打開了一個未知的空間，表達了希望、夢想和逃離的渴望，而這些都不屬于軟件的“語法”。

通過消除人與機器之間的界限，我們造成了價值觀、感情和領土的極度混亂。我們剝奪了人類的繼承份額，切斷了知識傳播的連續性，奪走了人類對自我完善的渴望及改變“社會地位”的希望。我們回到了一個像中世紀一樣的“等級”社會，人類處于這個社會的底層，聽命于機器貴族。人類別無選擇：要么臣服于我們的新帝國，機器帝國，要么就消失。這就是成吉思汗在他那個時代，用一種不痛不癢而的玩笑語氣所說的“草原法則”（Zakon stepi）。