衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

使用NVIDIA RAPIDS cuDF加速預(yù)處理工作流

NVIDIA英偉達(dá) ? 來源:NVIDIA英偉達(dá) ? 2024-11-19 15:58 ? 次閱讀

本文屬于《解碼 AI》系列欄目,該系列的目的是讓技術(shù)更加簡單易懂,從而解密 AI,同時向 RTX 工作站和 PC 用戶展示全新硬件、軟件、工具和加速特性。

AI 正幫助各行各業(yè)推動創(chuàng)新和提高效率,但要充分發(fā)揮其潛力,必須基于海量的高質(zhì)量數(shù)據(jù)對各種模型進(jìn)行訓(xùn)練。數(shù)據(jù)科學(xué)家在準(zhǔn)備這類數(shù)據(jù)方面發(fā)揮著關(guān)鍵作用,在專業(yè)數(shù)據(jù)(通常為專有數(shù)據(jù))對于增強(qiáng) AI 功能至關(guān)重要的特定領(lǐng)域尤其如此。

為了幫助數(shù)據(jù)科學(xué)家應(yīng)對日益增長的工作負(fù)載需求,NVIDIA 發(fā)布了 RAPIDS cuDF 庫,以便用戶更輕松地處理數(shù)據(jù),并且無需更改代碼即可加速 pandas 軟件庫。Pandas 是面向 Python 的一個靈活、功能強(qiáng)大的熱門數(shù)據(jù)分析和處理庫。借助 cuDF,數(shù)據(jù)科學(xué)家現(xiàn)在可以在他們首選的代碼庫上全速運行數(shù)據(jù)處理。

NVIDIA RTX AI 硬件和技術(shù)也可以加速數(shù)據(jù)處理。這包括強(qiáng)大的 GPU,可提供在各個層面快速高效地加速 AI 所需的計算性能 — 從數(shù)據(jù)科學(xué)工作流到 PC 和工作站上的模型訓(xùn)練和定制。

數(shù)據(jù)科學(xué)的瓶頸

最常用的數(shù)據(jù)格式是按行和列組織的表格數(shù)據(jù)。小型數(shù)據(jù)集可以使用 Excel 等電子表格工具進(jìn)行管理,但是,包含數(shù)千萬行的數(shù)據(jù)集和建模工作流通常依賴于采用了例如 Python 等編程語言的 DataFrame 程序庫。

Python 是進(jìn)行數(shù)據(jù)分析時的熱門選擇,主要是因為 pandas 庫采用易于使用的應(yīng)用編程接口(API)。然而,隨著數(shù)據(jù)集的規(guī)模不斷增長,pandas 在純 CPU 系統(tǒng)中難以實現(xiàn)理想的處理速度和效率。該庫在處理文本密集型數(shù)據(jù)集時的性能也為人所詬病,而對大語言模型來說,這是一種重要的數(shù)據(jù)類型。

當(dāng)數(shù)據(jù)需求超出 pandas 的能力時,數(shù)據(jù)科學(xué)家會面臨兩難境地:要么忍受緩慢的處理速度,要么采取復(fù)雜且成本高昂的措施,即轉(zhuǎn)而采用更高效但對用戶不夠友好的工具。

使用 RAPIDS cuDF加速預(yù)處理工作流

RAPIDS cuDF 配合 RTX AI PC 和工作站,可為熱門的 pandas 軟件庫提供最高達(dá) 100 倍加速

借助 RAPIDS cuDF,數(shù)據(jù)科學(xué)家現(xiàn)在可以在他們首選的代碼庫上全速運行數(shù)據(jù)處理。RAPIDS 是一套開源 GPU 加速的 Python 庫,旨在改進(jìn)數(shù)據(jù)科學(xué)和分析工作流。cuDF 是一個 GPU DataFrame 庫,可提供類似于 pandas 的 API 來加載、過濾和操作數(shù)據(jù)。

使用 cuDF 的“pandas 加速器模式”,數(shù)據(jù)科學(xué)家可以在 GPU 上運行現(xiàn)有的 pandas 代碼,充分利用強(qiáng)大的并行處理功能,并可放心的將代碼在必要時移植到 CPU 上。這種互通性提供了出色、可靠的性能。

最新版本的 cuDF 支持更大規(guī)模的數(shù)據(jù)集和數(shù)十億行的表格文本數(shù)據(jù)。這樣,數(shù)據(jù)科學(xué)家就能夠使用 pandas 代碼來預(yù)處理生成式 AI 的數(shù)據(jù)。

在 NVIDIA RTX 加持的 AI 工作站

和 PC 上加速數(shù)據(jù)科學(xué)

最近的一項研究表明,57% 的數(shù)據(jù)科學(xué)家使用 PC、臺式機(jī)或工作站等本地資源來執(zhí)行數(shù)據(jù)科學(xué)任務(wù)。

從 NVIDIA GeForce RTX 4090 GPU 開始,數(shù)據(jù)科學(xué)家可以實現(xiàn)顯著的速度提升。隨著數(shù)據(jù)集規(guī)模不斷增長,處理工作占用更多內(nèi)存,相比于基于傳統(tǒng) CPU 的解決方案,在工作站中配合使用 cuDF 和 NVIDIA RTX 5880 Ada 架構(gòu) GPU,可以將性能提升多達(dá) 100 倍。

ea062c2c-9ffd-11ef-93f3-92fbcf53809c.png

y 軸表示兩種常見的數(shù)據(jù)科學(xué)操作—“join”和“groupby”,而 x 軸顯示運行每項操作所需的時間

數(shù)據(jù)科學(xué)家可以在 NVIDIA AI Workbench 上輕松開始使用 RAPIDS cuDF。利用這個基于容器的免費開發(fā)者環(huán)境管理器,數(shù)據(jù)科學(xué)家和開發(fā)者可以跨 GPU 系統(tǒng)創(chuàng)建、遷移 AI 和數(shù)據(jù)科學(xué)工作負(fù)載并進(jìn)行協(xié)作。用戶可以從 NVIDIA GitHub 倉庫中提供的幾個示例項目開始,例如 cuDF AI Workbench 項目。

HP AI Studio 也默認(rèn)支持 cuDF,這是一個集中式數(shù)據(jù)科學(xué)平臺,旨在幫助 AI 開發(fā)者將其開發(fā)環(huán)境從工作站無縫復(fù)制到云端。這便于他們創(chuàng)建、開發(fā)項目并進(jìn)行協(xié)作,而無需管理多個環(huán)境。

在 RTX 加持的 AI PC 和工作站上,cuDF 的優(yōu)勢并不僅限于提升原始性能。還包括:

在強(qiáng)大的 GPU 上進(jìn)行固定成本的本地開發(fā),并可以無縫復(fù)制到本地部署的服務(wù)器或云實例,從而節(jié)省時間和支出。

加快數(shù)據(jù)處理以實現(xiàn)更快迭代,以便數(shù)據(jù)科學(xué)家以交互式的速度進(jìn)行實驗、優(yōu)化并從數(shù)據(jù)集中產(chǎn)生洞察。

實現(xiàn)更有效的數(shù)據(jù)處理,以在后續(xù)工作流獲得更好的模型結(jié)果。

數(shù)據(jù)科學(xué)的新時代

隨著 AI 和數(shù)據(jù)科學(xué)的不斷發(fā)展,快速處理和分析大量數(shù)據(jù)集的能力將成為各行業(yè)實現(xiàn)突破的關(guān)鍵差異化因素。無論是開發(fā)復(fù)雜的機(jī)器學(xué)習(xí)模型、執(zhí)行復(fù)雜的統(tǒng)計分析還是探索生成式 AI,RAPIDS cuDF 都可為新一代數(shù)據(jù)處理奠定基礎(chǔ)。

NVIDIA 正通過增加對最熱門的 DataFrame 工具的支持來鞏固這一基礎(chǔ),其中包括 Polars,它是增長最快的 Python 庫之一,與其他開箱即用的純 CPU 工具相比,可幫助顯著加速數(shù)據(jù)處理。

Polars 本月宣布推出由 RAPIDS cuDF 提供支持的 Polars GPU 引擎公開測試版。Polars 用戶現(xiàn)在可以將本已極快的 DataFrame 庫性能提升多達(dá) 13 倍。

RTX AI 為未來的工程師創(chuàng)造無限可能

無論在大學(xué)數(shù)據(jù)中心、GeForce RTX 筆記本電腦還是 NVIDIA RTX 工作站上運行,NVIDIA GPU 都可加速學(xué)習(xí)過程。數(shù)據(jù)科學(xué)領(lǐng)域及其他領(lǐng)域的學(xué)生將增強(qiáng)其學(xué)習(xí)體驗,并通過廣泛應(yīng)用于現(xiàn)實世界應(yīng)用的硬件獲得實戰(zhàn)經(jīng)驗。

生成式 AI 正在深入改變游戲、視頻會議和各種交互體驗。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5076

    瀏覽量

    103730
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31536

    瀏覽量

    270353
  • 工作流
    +關(guān)注

    關(guān)注

    0

    文章

    44

    瀏覽量

    12454

原文標(biāo)題:解密 AI 如何加速數(shù)據(jù)科學(xué)工作流

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    NVIDIA RAPIDS cuDF如何賦能AI加速數(shù)據(jù)科學(xué)

    隨著 AI 正幫助各行各業(yè)推動創(chuàng)新和提高效率,基于海量的高質(zhì)量數(shù)據(jù)來訓(xùn)練各種模型是充分發(fā)揮 AI 應(yīng)用潛力的必經(jīng)之路,正因如此,數(shù)據(jù)科學(xué)家們面臨著日益增長的工作負(fù)載需求,迫切需求尋找高效趁手的工具以應(yīng)對挑戰(zhàn)。
    的頭像 發(fā)表于 01-24 09:26 ?190次閱讀

    AI工作流自動化是做什么的

    AI工作流自動化是指利用人工智能技術(shù),對工作流程中的重復(fù)性、規(guī)則明確的任務(wù)進(jìn)行自動化處理的過程。那么,AI工作流自動化是做什么的呢?接下來,AI部落小編為您分享。
    的頭像 發(fā)表于 01-06 17:57 ?146次閱讀

    NVIDIA助力西門子醫(yī)療加速醫(yī)學(xué)影像AI部署

    MONAI 集成現(xiàn)已上線西門子醫(yī)療 Digital Marketplace,加速 AI 在臨床工作流中的應(yīng)用落地。
    的頭像 發(fā)表于 12-06 11:51 ?383次閱讀

    數(shù)據(jù)科學(xué)工作流原理

    數(shù)據(jù)科學(xué)工作流包括數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)探索與可視化、特征選擇與工程、模型選擇與訓(xùn)練、模型評估與優(yōu)化、結(jié)果解釋與報告、部署與監(jiān)控等環(huán)節(jié)。
    的頭像 發(fā)表于 11-20 10:36 ?241次閱讀

    NVIDIA加速計算引入Polars

    Polars 近日發(fā)布了一款由 RAPIDS cuDF 驅(qū)動的全新 GPU 引擎,該引擎可將 NVIDIA GPU 上的 Polars 工作流速度最高提速 13 倍,使數(shù)據(jù)科學(xué)家僅在一
    的頭像 發(fā)表于 11-20 10:03 ?300次閱讀
    將<b class='flag-5'>NVIDIA</b><b class='flag-5'>加速</b>計算引入Polars

    RAPIDS cuDF將pandas提速近150倍

    NVIDIA GTC 2024 上,NVIDIA 宣布,RAPIDS cuDF 當(dāng)前已能夠為 950 萬 pandas 用戶帶來 GPU 加速
    的頭像 發(fā)表于 11-20 09:52 ?297次閱讀
    <b class='flag-5'>RAPIDS</b> <b class='flag-5'>cuDF</b>將pandas提速近150倍

    NVIDIA發(fā)布全新AI和仿真工具以及工作流

    NVIDIA 在本周于德國慕尼黑舉行的機(jī)器人學(xué)習(xí)大會(CoRL)上發(fā)布了全新 AI 和仿真工具以及工作流。機(jī)器人開發(fā)者可以使用這些工具和工作流,大大加快 AI 機(jī)器人(包括人形機(jī)器人)的開發(fā)
    的頭像 發(fā)表于 11-09 11:52 ?347次閱讀

    全新NVIDIA AI工作流可檢測信用卡欺詐交易

    工作流由 AWS 上 的 NVIDIA AI 平臺驅(qū)動,可幫助金融服務(wù)機(jī)構(gòu)節(jié)省資金并降低風(fēng)險。
    的頭像 發(fā)表于 10-30 11:41 ?517次閱讀

    利用NVIDIA RAPIDS加速DolphinDB Shark平臺提升計算性能

    DolphinDB 是一家高性能數(shù)據(jù)庫研發(fā)企業(yè),也是 NVIDIA 初創(chuàng)加速計劃成員,其開發(fā)的產(chǎn)品基于高性能分布式時序數(shù)據(jù)庫,是支持復(fù)雜計算和數(shù)據(jù)分析的實時計算平臺,適用于金融、電力、物聯(lián)網(wǎng)和零售等行業(yè)。
    的頭像 發(fā)表于 09-09 09:57 ?531次閱讀
    利用<b class='flag-5'>NVIDIA</b> <b class='flag-5'>RAPIDS</b><b class='flag-5'>加速</b>DolphinDB Shark平臺提升計算性能

    行云流水線 滿足你對工作流編排的一切幻想~skr

    的核心組成部分,旨在加速軟件交付、提高質(zhì)量和實現(xiàn)持續(xù)改進(jìn)。流水線的核心是流水線模型,是實現(xiàn)工作流編排,執(zhí)行的重要基石,一個優(yōu)秀的流水線模型可以覆蓋用戶更多的實踐場景,按照用戶的所思所想支持編排相應(yīng)的工作流程,通過模型的分層設(shè)計,
    的頭像 發(fā)表于 08-05 13:42 ?328次閱讀

    電子制造商采用NVIDIA AI和 Omniverse助力工廠提高運營效率并降低成本

    。 ? NVIDIA 宣布,各大電子制造商正在使用 NVIDIA 的技術(shù)并借助新的參考工作流將其工廠改造成具有更高自主化水平的設(shè)施。該工作流結(jié)合了
    的頭像 發(fā)表于 06-04 10:22 ?657次閱讀

    MathWorks 與 NVIDIA 聯(lián)手加速醫(yī)療技術(shù)領(lǐng)域中軟件定義工作流的開發(fā)

    到 GPU?加速NVIDIA Holoscan?算子中以進(jìn)行實時數(shù)據(jù)處理和推斷,從而加速數(shù)據(jù)分析和可視化應(yīng)用程序的開發(fā)與部署。 醫(yī)療設(shè)
    的頭像 發(fā)表于 05-17 10:36 ?423次閱讀
    MathWorks 與 <b class='flag-5'>NVIDIA</b> 聯(lián)手<b class='flag-5'>加速</b>醫(yī)療技術(shù)領(lǐng)域中軟件定義<b class='flag-5'>工作流</b>的開發(fā)

    MathWorks與NVIDIA攜手革新醫(yī)療技術(shù)工作流

    在醫(yī)療科技領(lǐng)域,軟件定義工作流正迎來新的突破。全球知名的數(shù)學(xué)計算軟件巨頭MathWorks與圖形處理器領(lǐng)導(dǎo)者NVIDIA近日宣布達(dá)成深度合作,將MATLAB?軟件成功集成至NVIDIA
    的頭像 發(fā)表于 05-11 10:17 ?420次閱讀

    MathWorks聯(lián)手NVIDIA加速醫(yī)療技術(shù)領(lǐng)域中軟件定義工作流的開發(fā)

    先的數(shù)學(xué)計算軟件開發(fā)商 MathWorks 宣布,MATLAB 已成功集成到 NVIDIA Holoscan 平臺。
    的頭像 發(fā)表于 05-09 11:45 ?1814次閱讀
    MathWorks聯(lián)手<b class='flag-5'>NVIDIA</b><b class='flag-5'>加速</b>醫(yī)療技術(shù)領(lǐng)域中軟件定義<b class='flag-5'>工作流</b>的開發(fā)

    NVIDIA宣布將以API形式提供Omniverse? Cloud

    NVIDIA Omniverse Cloud API 使開發(fā)者能夠?qū)?Omniverse 技術(shù)集成到其設(shè)計與仿真工具和工作流中。
    的頭像 發(fā)表于 03-20 09:45 ?506次閱讀
    易胜博国际娱乐| 百家乐娱乐城彩金| 百家乐官网试玩全讯网2| 百家乐官网赌场优势| 真人百家乐官网套红利| 百家乐官网庄闲偏差有多大| 新葡京百家乐官网现金网| 花垣县| 自治县| 百家乐官网有什么打法| 香港六合彩信息| e世博线上娱乐| 百家乐官网论坛在线提供| 百家乐官网法则| 哪家百家乐最好| 成都百家乐牌具| 全讯网首页| 大发888娱乐城游戏| 中华德州扑克协会| 永利高百家乐官网怎样开户| 百家乐官网游戏介绍与分析| 玩百家乐新2娱乐城| 全讯网官网| 百家乐官网赌博机原理| 茅台百家乐官网的玩法技巧和规则 | 威尼斯人娱乐网开户| 大发888娱乐场下载com| 新巴尔虎右旗| 赌百家乐的高手| 环球百家乐的玩法技巧和规则| 岗巴县| 百家乐官网博彩破解论坛| 百家乐怎么玩高手| 大发888葡京下载地址| 娱乐城大全| 百家乐官网乐翻天| 威尼斯人娱乐网可信吗| 百家乐官网小77论坛| 全景网百家乐官网的玩法技巧和规则| 百家乐变牌器| 博彩论坛网|