衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA RDMA網絡方案助力遠端計算和存儲網絡優化

NVIDIA英偉達企業解決方案 ? 來源:NVIDIA英偉達企業解決方案 ? 作者:NVIDIA英偉達企業解 ? 2022-01-04 14:45 ? 次閱讀

云原生數據庫 TDSQL-C (原 CynosDB,TDSQL for Cloud Native Database) 是騰訊云自研的新一代高性能高可用的企業級分布式云數據庫, TDSQL-C 使用 NVIDIA UCX RDMA 優化了關鍵路徑系統性能,實現了超百萬級 QPS 的高吞吐,128TB 海量分布式智能存儲,保障了數據安全可靠。

云原生數據庫 TDSQL-C 實現高性能面臨挑戰

TDSQL-C 采用計算存儲分離的架構,可以快速進行節點的擴容,節點的遷移,但其引入的網絡開銷對實現高性能提出了更高的挑戰。因此需要采用軟件優化與新硬件相結合,通過基于 SPDK 和 UCX RDMA 的零拷貝技術,減少了操作系統上下文切換以及數據在用戶態和內核態之間拷貝引起的性能損耗,進一步優化關鍵路徑的系統性能,降低請求延遲。

傳統的 TCP/IP 網絡,存在以下幾個缺點:應用的 buffer 發送到對端,需要經過多次拷貝,對端收到數據到接收到應用的接收 buffer,也需要多次拷貝;應用的 buffer 拷貝到 TCP/IP 的 buffer,需要從用戶態進入到內核態,會有上下文切換;網絡協議棧完全由 CPU 執行,耗費 CPU。

NVIDIA RDMA 網絡方案+ConnectX 系列網卡

“軟硬” 兼施,賦能數據庫業務持續發展

充分利用軟硬件資源做系統級別 Scale Out、Scale Up、 RDMA 等 Kernel ByPass 的低延時網絡基礎。以底層高性能硬件能力作為支柱,給騰訊云數據庫業務發展提供持續不斷的系統源動力。

根據業務部門需求和服務器新產品導入團隊多年來在 RDMA 技術上的沉淀, 推薦使用搭載 NVIDIA ConnectX 系列網卡的服務器,使用 NVIDIA RDMA 網絡方案來對數據庫場景進行專項優化,充分利用 RDMA 天然的性能優勢:

RDMA 技術是用戶空間進程繞過內核直接調用 RDMA 網卡,實現和遠端進程的高效快速通訊。RDMA 伴生于 InfiniBand 網絡技術,由 IBTA 組織對其進行標準化定義和維護。RDMA 技術優勢可以解決 TCP 傳輸方式中的各種缺點:

整個數據傳輸過程內存零拷貝。

網絡傳輸完全卸載到網卡硬件,不占用 CPU 資源。

使用 RDMA 技術可以 100% 利用網絡帶寬。

整個數據傳輸過程由硬件完成,降低了系統延時。

NVIDIA RDMA 網絡方案

助力遠端計算和存儲網絡優化

NVIDIA RDMA 網絡方案搭在硬件上使遠端計算和存儲網絡的優化效果達到最優。

在 RDMA 與 TCP 性能的關鍵指標的對比測試中,RDMA 體現了其優勢。例如從oplog msg 性能數據上看,RDMA 測延遲比 TCP 降低 71.7%,吞吐提高 43.2%;在 page 性能數據方面(page 大小為16KB),RDMA 測延遲比 TCP 降低 70.3%,吞吐提高 52.3%。

“騰訊云數據庫是騰訊服務的基礎架構,網絡的延遲和帶寬對于性能至關重要, RDMA 技術的 Kernel Bypass 和 CPU Offload 可以帶來極低的延遲和極高的帶寬。在 NVIDIA 網絡產品上部署的推薦系統將為騰訊用戶提供業界一流的性能,使用戶充分享受 RDMA 帶來的技術紅利。

—— 騰訊云數據庫TDSQL-C負責人

李志陽

“NVIDIA 作為 RDMA 技術的推動者和領跑者,很高興看到這項技術在騰訊得到越來越廣泛的應用,并正在從傳統的 HPC/AI 業務拓展到高性能存儲和數據庫領域。UCX 的使用大幅度提高了 RDMA 應用的開發效率和吞吐率,并且使得 RoCE 跟客戶應用能迅速整合,從而幫助客戶更快走向市場,并提供差異化的云產品和服務。

——NVIDIA 副總裁Vadim Balahovski

了解更多 NVIDIA RDMA 網絡助力騰訊云數據庫突破性能瓶頸的案例信息,歡迎點擊“閱讀原文”。

NVIDIA DOCA 現已開放接受申請,掃描下方海報二維碼,即可注冊加入,搶先體驗,走在技術前沿!

原文標題:NVIDIA RDMA 網絡助力騰訊云數據庫突破性能瓶頸

文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5076

    瀏覽量

    103729
  • 網絡
    +關注

    關注

    14

    文章

    7600

    瀏覽量

    89257
  • 數據庫
    +關注

    關注

    7

    文章

    3848

    瀏覽量

    64689

原文標題:NVIDIA RDMA 網絡助力騰訊云數據庫突破性能瓶頸

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    加速網絡性能:融合以太網 RDMA (RoCE) 的影響

    作者:Tawfeeq Ahmad 2024-12-27 計算密集型應用程序的快速發展提高了對更快、更高效和可擴展的網絡解決方案的需求。為滿足這一需求而出現的最具創新性的技術之一是基于融合以太網的遠程
    的頭像 發表于 01-25 11:50 ?153次閱讀
    加速<b class='flag-5'>網絡</b>性能:融合以太網 <b class='flag-5'>RDMA</b> (RoCE) 的影響

    Supermicro推出直接液冷優化NVIDIA Blackwell解決方案

    【2024年11月22日,加州圣何塞、佐治亞州亞特蘭大及超級計算大會訊】Supermicro, Inc. (NASDAQ:SMCI) 為AI、云端、存儲和5G/邊緣領域的全方位IT解決方案提供企業
    發表于 11-25 10:39 ?478次閱讀
    Supermicro推出直接液冷<b class='flag-5'>優化</b>的<b class='flag-5'>NVIDIA</b> Blackwell解決<b class='flag-5'>方案</b>

    NVIDIA加速計算如何推動醫療健康

    近日,NVIDIA 企業平臺副總裁 Bob Pette 在 AI Summit 一場演講中重點談論了 NVIDIA 加速計算如何推動醫療健康、網絡安全和制造等行業實現轉型。他表示,加速
    的頭像 發表于 11-20 09:10 ?354次閱讀

    如何構建及優化GPU云網絡

    并從計算節點成本優化、集群網絡與拓撲的選擇等方面論述如何構建及優化GPU云網絡
    的頭像 發表于 11-06 16:03 ?477次閱讀
    如何構建及<b class='flag-5'>優化</b>GPU云<b class='flag-5'>網絡</b>

    如何優化emc存儲性能

    在當今的數據中心環境中,存儲性能對于業務連續性和數據訪問速度至關重要。EMC作為領先的存儲解決方案提供商,其產品線涵蓋了從入門級到企業級的存儲系統。然而,即使是最好的
    的頭像 發表于 11-01 15:57 ?418次閱讀

    NVIDIA助力xAI打造全球最大AI超級計算

    NVIDIA 宣布,xAI 位于田納西州孟菲斯市的Colossus 超級計算機集群達到了 10 萬顆 NVIDIA Hopper GPU 的巨大規模。該集群使用了NVIDIA Spe
    的頭像 發表于 10-30 11:38 ?446次閱讀

    NVIDIA Colossus超級計算機集群突破10萬顆Hopper GPU

    的強大實力。 Colossus集群不僅規模龐大,更采用了NVIDIA Spectrum-X以太網網絡平臺。該平臺專為多租戶、超大規模的AI工廠打造,提供了卓越的RDMA(遠程直接內存訪問)網絡
    的頭像 發表于 10-30 10:29 ?346次閱讀

    NVIDIA 以太網加速 xAI 構建的全球最大 AI 超級計算

    市的 Colossus 超級計算機集群達到了 10 萬顆 NVIDIA? Hopper? GPU 的巨大規模。該集群使用了 NVIDIA Spectrum-X? 以太網網絡平臺,該平臺
    發表于 10-30 09:33 ?179次閱讀
    <b class='flag-5'>NVIDIA</b> 以太網加速 xAI 構建的全球最大 AI 超級<b class='flag-5'>計算</b>機

    以太網RDMA RoCE的技術局限

    上期我們講到了RDMA的WHY,WHAT & HOW(AI網絡背景下RDMA的Why,What & How),這一期我們來談一談RDMA的不足。
    的頭像 發表于 10-22 10:02 ?589次閱讀
    以太網<b class='flag-5'>RDMA</b> RoCE的技術局限

    基于RDMA技術的Mayastor解決方案

    1.? 方案背景和挑戰 1.1. Mayastor簡介 OpenEBS是一個廣受歡迎的開源云原生存儲解決方案,托管于CNCF(云原生計算基金會)之下,旨在通過擴展Kubernetes的
    的頭像 發表于 08-20 18:47 ?1343次閱讀
    基于<b class='flag-5'>RDMA</b>技術的Mayastor解決<b class='flag-5'>方案</b>

    神經網絡優化器有哪些

    神經網絡優化器是深度學習中用于調整網絡參數以最小化損失函數的重要工具。這些優化器通過不同的策略來更新網絡權重,以提高訓練效率和模型性能。以下
    的頭像 發表于 07-11 16:33 ?704次閱讀

    如何訓練和優化神經網絡

    神經網絡是人工智能領域的重要分支,廣泛應用于圖像識別、自然語言處理、語音識別等多個領域。然而,要使神經網絡在實際應用中取得良好效果,必須進行有效的訓練和優化。本文將從神經網絡的訓練過程
    的頭像 發表于 07-01 14:14 ?548次閱讀

    降本增效:NVIDIA路徑優化引擎創下多項世界紀錄!

    NVIDIA cuOpt 路徑優化引擎助力川崎重工實現鐵路安全,支持 SyncTwin 實現制造優化
    的頭像 發表于 04-03 11:17 ?487次閱讀

    NVIDIA發布專為大規模AI量身訂制的全新網絡交換機-X800系列

    NVIDIA Quantum-X800 InfiniBand 網絡NVIDIA Spectrum?-X800 以太網絡是全球首批高達 800Gb/s 端到端吞吐量的
    的頭像 發表于 03-20 09:54 ?567次閱讀

    NVIDIA 發布全新交換機,全面優化萬億參數級 GPU 計算和 AI 基礎設施

    NVIDIA Quantum-X800 InfiniBand 網絡,打造性能最強大的 AI 專用基礎設施 NVIDIA Spectrum-X800 以太網絡,數據中心必備的
    發表于 03-19 10:05 ?412次閱讀
    <b class='flag-5'>NVIDIA</b> 發布全新交換機,全面<b class='flag-5'>優化</b>萬億參數級 GPU <b class='flag-5'>計算</b>和 AI 基礎設施
    百家乐官网如何投注法| 兰桂坊百家乐官网的玩法技巧和规则| 鼎龙百家乐官网的玩法技巧和规则| 足球百家乐系统| 澳门百家乐官网赌场网址| 大发888虎牌官方下载| 开心8百家乐游戏| 百家乐官网说明| 百家乐官网捡揽方法| 大发888娱乐城 建账号| 代理百家乐最多占成| 粤港澳百家乐官网娱乐| 新国美娱乐城| 博彩网百家乐全讯网| 百家乐官网赌场娱乐城大全| 棋牌英雄传| 百家乐历史路单| 百家乐官网庄家必赢诀窍| 基隆市| 女优百家乐的玩法技巧和规则| 24山72局消砂| 百家乐官网能赢到钱吗| 大发888最新网站| 香港百家乐玩| 太阳城百家乐出千技术| 单机百家乐官网棋牌| 大发888在线服务| 百家乐试玩全讯网2| 百家乐官网赌钱| 百家乐官网分析软体| 香港六合彩管家婆| 万龙百家乐的玩法技巧和规则 | 网上百家乐哪里| 百家乐官网免费体验金| 百家乐官网九| 饿火命适合做生意吗| 永利博百家乐官网的玩法技巧和规则 | 百家乐游戏筹码| 全讯网找a3322.com| 蓝盾百家乐打法| 百家乐娱乐送白菜|