衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

張亞勤:不太完全認同算力比算法更重要的觀點

工程師鄧生 ? 來源:新浪科技 ? 作者:新浪科技 ? 2020-11-24 14:23 ? 次閱讀

11月24日午間消息,世界互聯網大會·互聯網發展論壇于11月23-24日在浙江烏鎮互聯網國際會展中心舉行。在24日的“人工智能:育新機、開新局”人工智能論壇上,清華大學講席教授兼智能產業研究院院長、美國藝術與科學院院士張亞勤在演講中表示,不太完全認同算力比算法更重要的觀點。

他表示,這次數字化和過去那兩次有很大的不同。首先是量高了很多數量級,比如說無人車每天所產生的數據就是5到10個T。基因測序每一次就差不多3T左右。所以這個數量級是高了很多,可能是上千或者上萬倍。“這次數據更多的是給機器看的,而不是給人看的。機器要做決策,機器要進行更多的智能決策。那么過去1.0、2.0更多是給人所看的,同時我們看到人工智能的算法有很大的進展。”

張亞勤強調,深度學習其實是需要很強很強的算力。而摩爾定律過去兩年左右是要雙倍算力的,其實這已經是在放緩了。但是深度學習對算力要求每年差不多是將近10倍的增長。“所以說Jeff dean在谷歌就說三要素,數據算法算力三要素等于數據加上100倍算力,就是說算力比算法更重要。我個人并不完全同意這個觀點。”張亞勤表示,算力在過去這幾年是整個深度學習發展快速的一個大的最重要的因素,大數據超算的能力以及很大的模型。但人工智能有很多不同的算法。

不過,張亞勤同意“AI也催生了新的產業,大家經常把它叫做第四次工業革命”這個觀點。他表示,人工智能是第四次工業革命一個很重要的技術方面的引擎,很多產業都會被改變,都會產生。他認為有三個方面會產生變革:第一個是自動駕駛。第二個是工業物聯網。第三個是AI+醫療、生物計算。(子健)

以下是張亞勤演講實錄:

大家好,我是張亞勤,來自清華大學智能產業研究院。很高興參加這次人工智能的互聯網峰會,也感謝大會的組委會和網信辦邀請。我今天想談一下智能技術發展的一些趨勢,如果看下過去的三十年,我們整個IT產業發生最重要的事無疑是數字化。第一波的數字化是80年代中期是就開始了,那時候主要是內容數字化,我們聲音、音樂、圖片和視頻大量的數字化,我們的文檔在數字化。

第二波的數字化是90年代中期開啟了,一開始是企業的數字化ERP、CRM、Supply Chain,還包括BI工作流,后來就是大型的數據倉庫以及云計算,同時由于大量的數字內容,加上HTML、HTTP,消費互聯網開始爆發,到了后期移動互聯網像移動支付、數字貨幣、共享經濟,中國其實是走在前列的。不管是用戶的體驗或者是大規模的應用。

我們現在是進入數字化的3.0。它是信息,物理和生物世界的一種融合。首先是物理世界的數字化,我們的車、街道、交通燈和整個城市在數字化;我們的電網,我們的工廠,我們的機器在數字化;我們的家庭,各種家電在數字化;同時生物世界也在數字化;我們的大腦,身體各個器官DNA、RNA、蛋白質都在數字化,通過新的傳感器,一些芯片

那么這次數字化和過去那兩次有很大的不同。首先是量高了很多數量級,比如說無人車每天所產生的數據就是5到10個T。我們的基因測序每一次就差不多3T左右。所以這個數量級是高了很多,可能是上千或者上萬倍。

另外一點這次數據更多的是給機器看的,而不是給人看的。機器要做決策,機器要進行更多的智能決策。那么過去1.0、2.0更多是給人所看的,同時我們看到人工智能的算法有很大的進展。人工智能并不是一個嶄新的概念,已經有60多年的歷史了。那么從早期的符號,邏輯推理,專家系統,數據來驅動,到過去這10年,特別是過去這5年機器學習,深度學習的快速崛起。我們可以看到許多特別令人興奮的一些進展以及應用到AlphaGO、AlphaGOZero。到后來的AlphaFold把深度學習用在不同的領域,特別用到生物計算和醫藥的領域。

其實人工智能有很多不同的算法,我這是佩德羅?多明戈斯劃分的5個不同學派,未來發展肯定要融合這些不同學派的優勢,使得我們目前用大數據所驅動的深度學習有更好的透明性、好的應用性以及有更好的可解釋性。

那么深度學習確實取得很大的進展,算法從RNN、LSTM到CNN,到過去這兩年的GAN和BERT還有GPT-3,可以說從我們感知方面語音、人臉、物體的分類,已經和人達到同樣的水平,甚至超過人了。

那么在認證方面還有一些距離,自然語言處理,機器翻譯視頻內容化和知識理解還有一定距離,但是也有很大的進展。但是深度學習我們大家都知道,它其實是需要很強很強的算力的。摩爾定律過去兩年左右是要雙倍算力的,其實這已經是在放緩了。但是深度學習對算力要求每年差不多是將近10倍的增長,所以說Jeff dean的谷歌就說三要素,數據算法算力三要素等于數據加上100倍算力,就是說算力比算法更重要。

我個人并不完全同意這個觀點,但是不管怎么講算力在過去這幾年是整個深度學習發展快速的一個大的最重要的因素,大數據超算的能力以及很大的模型。舉例比如說GPT-3目前已經有1700億的參數模型有上萬臺GPU,200多K或者說20多萬的CPU的Core。每次做Pre-train的話也要差不多要上千萬美金,這個量已經很大了。那么如何能夠繼續保持這么快的一個算力?我們看一下我們在傳統計算和通訊的范式里三個基本原理。

首先是香農定律。香農定律定義了信息熵,定義了信道的容量,定義了速率失真的理論。其實是三個不同的極限。另外一個是馮諾依曼架構,是我們計算的架構,十分的簡潔很美的一個架構。過去的60年是我們整個計算架構的主要原則。另外一個是摩爾定律。

那么現在呢這三個定律架構都遇到了瓶頸,所以要大幅度的提高這個算力的話,我們需要來突破這三個瓶頸。比如說在信息的表示方面,我們需要有新的一個理論框架以及算法。我這張圖是講的一個例子。最近有一個機構叫MPAI,這個機構就希望把人工智能算法用到我們目前的信息的表征,同時的話又希望找到新的算法來對人工智能有更快的推進。

另外一點也可以看到最近有許多新的創新在計算的架構方面。在通訊的架構方面,比如說我們深度學習,其實它需要有特別高速的數據傳輸,他們有一些新的相量,需要有先進代數,有波爾代數,這種優化的這些算法。這個和我們現在傳統的馮諾依曼架構是格格不入的,就是需要有新的架構。

所以看到我們比如說有,在過去這5年吧,有很多加速器,就是AI的加速器出現,像SPG、GPU,最近幾年也有這種ASIC專用的AI芯片出現,這種芯片因為對這些算法,對工作流,對workload可以提高CPU提高很多倍,從整個的性能、效率來講。

那么同時也可以看到不僅僅是傳統的芯片公司,像因特爾、AMD等公司做芯片,現在新的公司也在不斷的創新,比如說寒武紀、地平線,華為,也包括其他公司像谷歌和百度也在自己做芯片。做芯片算法也好,架構也好有很大的工作流,所以他可以對這些進行優化。

我們可以看到有很多很多的這些芯片、軟件、架構以及算法方面的快速進展。那么這些進展帶來很多產業的新機遇。首先對我們IT的產業有一個提升的作用,新的數據,新的算法,新的場景,然后不斷的快速迭代,所以提升我們的IT產業,同時更重要的是改變甚至顛復我們現在的傳統產業,教育、醫療、金融、制造、交通,可以說每一個產業都被人工智能所改變。

同時AI也催生了新的產業,大家經常把它叫做第四次工業革命,我的確同意這個觀點。就是人工智能是第四次工業革命一個很重要的技術方面的引擎,很多產業都會被改變,都會產生。我自己認為有三個方面是比較感興趣的:第一個是自動駕駛。第二個是工業物聯網。第三個是AI+醫療、生物計算。當然也很有很多很多別的產業,這也是為什么我們成立了一個智能產業研究院的大背景。這當然是在清華大學整個學校大框架下面,因為可以和清華大學各個院系密切合作,智能產業的英文簡稱(AIR),使命是用人工智能技術賦能產業推動社會的進步,目標是面向第四次工業革命,是一個國際化,智能化,產業化的應用研究機構。實現這個目標有幾個戰略:首先是要吸引培養國際視野的技術領軍人物。第二點是要實現關鍵核心技術方面的突破,更重要的是有了技術以后,我們要賦能產業,通過轉化孵化公司的方式,把這些技術能夠對產業有更多的影響力。所以我們的研究領域目前集中在三個方面。

剛才我提到的三個方面:智能交通、工業互聯網、AI+IoT以及智慧醫療AI+IoT,特別是生物計算,那么垂直的這三個行業是對一些基礎的平臺所支撐的共有模塊所支撐,叫做“ABCD”。AI的一些算法、Big data的模型加上云Cloud和Device這種新機構。我希望通過我們的研究院新的技術能和產業去合作,對中國和全球人工智能產業,第四次工業革命都做出貢獻。謝謝大家,祝我們烏鎮互聯網峰會圓滿成功!

責任編輯:PSY

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 算法
    +關注

    關注

    23

    文章

    4630

    瀏覽量

    93364
  • 人工智能
    +關注

    關注

    1796

    文章

    47683

    瀏覽量

    240311
  • 工業物聯網
    +關注

    關注

    25

    文章

    2384

    瀏覽量

    64959
  • 自動駕駛
    +關注

    關注

    785

    文章

    13932

    瀏覽量

    167016
  • 算力
    +關注

    關注

    1

    文章

    1016

    瀏覽量

    14960
收藏 人收藏

    評論

    相關推薦

    中心的如何衡量?

    作為當下科技發展的重要基礎設施,其的衡量關乎其能否高效支撐人工智能、大數據分析等智能應用的運行。以下是對智中心算衡量的詳細闡述:一、
    的頭像 發表于 01-16 14:03 ?483次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    科技云報到:要更要“利”,“精裝”觸發大模型產業新變局?

    科技云報到:要更要“利”,“精裝”觸發大模型產業新變局?
    的頭像 發表于 01-16 10:24 ?114次閱讀

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為企業獲取
    的頭像 發表于 10-31 10:31 ?263次閱讀

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    ,在全球范圍內,對于推動科技進步、經濟發展及社會整體的運作具有至關重要的作用。隨著信息技術的高速發展,高性能計算(HPC)和人工智能(AI)等技術在多個領域的應用變得日益廣泛,芯片
    發表于 09-02 10:09

    大模型時代的需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04

    中國中心市場持續增長,智能規模快速崛起

    7月24日,中國信息通信研究院(簡稱“中國信通院”)權威發布了《中國中心服務商分析報告(2024年)》,該報告深入剖析了中國中心市場的現狀與未來趨勢,揭示了我國在全球
    的頭像 發表于 07-24 15:25 ?570次閱讀

    力系列基礎篇——與計算機性能:解鎖超能力的神秘力量!

    在《力系列基礎篇——101:從零開始了解》中,相信各位粉絲初步了解到人工智能的“發動機”和核心驅動力:
    的頭像 發表于 07-11 08:04 ?104次閱讀
    <b class='flag-5'>算</b>力系列基礎篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>與計算機性能:解鎖超能力的神秘力量!

    摩爾線程建中:以國產助力數智世界,滿足大模型需求

    摩爾線程創始人兼CEO建中在會上透露,為了滿足國內對AI的迫切需求,他們正在積極尋求與國內頂尖科研機構的深度合作,共同推動更大規模的AI智集群項目。
    的頭像 發表于 05-10 16:36 ?1030次閱讀

    力系列基礎篇——101:從零開始了解

    相信大家已經感受到,我們正處在一個人工智能時代。如果要問在人工智能時代最重要的是什么?那必須是:
    的頭像 發表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    十問:超,通

    鄔賀銓指出,現有測算方法難以精準衡量。國內企業服務器的出貨量并不等于國內市場的使用量,而且進口國外的服務器未統計在內;服務器出貨量也不等于上架量,更不等于已經加電使用量。通常服務器集群的
    的頭像 發表于 04-13 11:40 ?4775次閱讀

    院士:無人駕駛兩年內或將迎來“ChatGPT時刻”

    3月22日,中國工程院院士、清華大學智能產業研究院(AIR)院長受邀參加了央視對話節目《魯健訪談》。
    的頭像 發表于 04-09 14:51 ?591次閱讀

    上海市實施“浦江”智行動,推動智能基礎設施高質量發展

    目標是使上海市智能總量超越30EFlops,占達總計算的50%以上。同時,要求網絡的
    的頭像 發表于 03-25 16:33 ?894次閱讀

    數據語料庫、算法框架和芯片在AI大模型中的作用和影響

    數據語料庫、算法框架和芯片的確是影響AI大模型發展的三大重要因素。
    的頭像 發表于 03-01 09:42 ?1303次閱讀

    iBeLink KS MAX 10.5T大領跑KAS新領域

    有8G的顯存,可以處理復雜的算法,提高挖掘穩定性。iBeLink ks max10.5T的超大特點是它的高效節能,它采用了先進的“存一體”高通量芯片,專為“大型復雜”的區的塊的鏈
    發表于 02-20 16:11
    百家乐官网总厂在哪里| 豫游棋牌游戏中心| 做生意风水知识| 网络百家乐官网免费试玩| 大发888黄金版网址| 香港百家乐玩法| 新锦江百家乐官网娱乐| 炎陵县| 大发888真钱娱乐场下载| 百家乐规则好学吗| 百家乐官网西园出售| 明珠娱乐开户| 百家乐网上真钱娱乐场开户注册| 百家乐是骗人的| 申请百家乐官网会员送彩金| 泰兴市| 皇冠现金网提款问题| 百家乐赌博规| 澳门百家乐官网在线| 皇冠网足球开户| 如何看百家乐的玩法技巧和规则| 24向山九宫格图| 百家乐官网赌钱| 茶陵县| 龙岩棋牌乐| 威尼斯人娱乐场官网网站是多少| 网上玩百家乐官网技巧| 利高在线娱乐城| 至尊百家乐娱乐场开户注册| 仕達屋娱乐城| 鸟巢百家乐的玩法技巧和规则| 百家乐桌蓝盾在线| 广州百家乐官网赌城| 百家乐官网真人娱乐注册| 亿博国际| 大发888游戏平台 娱乐场下载| 太阳城百家乐赌博害人| 678百家乐官网博彩赌场娱乐网规则 | 真人百家乐什么平台| 阴宅24水口| 巴特百家乐官网的玩法技巧和规则|