衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA推出微服務,助力企業邁向生成式AI

NVIDIA英偉達 ? 來源:NVIDIA英偉達 ? 2024-03-21 09:39 ? 次閱讀

NVIDIA 的 AI 平臺適用于任何高瞻遠矚的企業使用,而且比以往任何時候都更加易于應用。

NVIDIA AI Enterprise 5.0于今日發布,其中包括 NVIDIA 微服務、用于部署生成式 AI 應用和加速計算的可下載軟件容器。領先的云服務提供商、系統構建商和軟件供應商均可提供,并且 Uber 等客戶已開始使用該產品。

Uber 平臺工程副總裁 Albert Greenberg 表示:“我們采用了 NVIDIA AI Enterprise 推理軟件,這對于滿足用戶對高性能的期望來說非常重要。讓 Uber 引以為豪的是,我們走在了采用 AI 創新技術的前沿,使我們成為一個在效率和卓越方面樹立行業標準的客戶服務平臺?!?/p>

微服務加速應用開發

開發者正在轉而采用微服務,并將其作為在全球范圍內構建現代企業應用的有效方式。他們在瀏覽器中使用云 API 或應用編程接口來編寫可在系統上運行的應用,并為全球用戶提供服務。

NVIDIA AI Enterprise 5.0 現包括一系列微服務,其中包括用于在生產中部署 AI 模型的NVIDIA NIM和包括NVIDIA cuOpt在內的NVIDIA CUDA-X微服務集合。

NIM 微服務可為來自 NVIDIA 及其合作伙伴生態系統的數十種熱門 AI 模型優化推理。

NIM 由 NVIDIA 推理軟件(包括Triton 推理服務器TensorRTTensorRT-LLM)提供支持,可將部署時間由數周縮短至數分鐘。它提供基于行業標準的安全性和可管理性,以及與企業級管理工具的兼容性。

NVIDIA cuOpt 是一款 GPU 加速的 AI 微服務,它在路徑優化方面創造了記錄,并能夠支持動態決策,從而幫助企業降低成本、縮短時間并減少碳足跡。作為 CUDA-X 微服務之一,它可幫助各行業將 AI 投入生產。

更多功能正在陸續開發中。例如NVIDIA RAG LLM operator將把 Co-Pilot 和其他使用檢索增強生成的生成式 AI 應用從試驗階段推向生產階段,而無需重寫任何代碼。

包括 CrowdStrike、SAP 和 ServiceNow 在內的多家領先應用和網絡安全平臺提供商都正在采用 NVIDIA 微服務。

更多工具和功能

此外,我們還在 5.0 版本中進行了 3 項重要更新。

該平臺現集成了一個開發者工具包NVIDIA AI Workbench,用于快速下載、自定義和運行生成式 AI 項目。該軟件目前已全面上市,并已獲得 NVIDIA AI Enterprise 許可證支持。

此外,5.0 版本現在還支持紅帽 OpenStack 平臺,大多數財富 500 強公司都使用該平臺創建私有云和公有云服務。它由紅帽負責維護,為開發者構建虛擬計算環境提供熟悉的平臺。IBM 咨詢服務將幫助客戶部署這些新功能。

此外,5.0 版本還擴展了支持范圍,支持各種最新NVIDIA GPU、網絡硬件和虛擬化軟件。

可隨時隨地運行

功能增強的 NVIDIA AI 平臺比以往任何時候都更易于訪問。

NIM 和 CUDA-X 微服務以及所有 5.0 功能均會很快在亞馬遜科技、谷歌云、Microsoft Azure 和 Oracle Cloud marketplace 上架。

如果用戶希望在自己的數據中心運行代碼,VMware Private AI Foundation 和 NVIDIA 將為軟件提供支持,使其能夠部署在博通公司客戶的虛擬化數據中心中。

企業可以選擇在紅帽 OpenShift 上運行 NVIDIA AI Enterprise,以便在裸機或虛擬化環境中運行。它還可以在 Canonical 的 Charmed Kubernetes 和 Ubuntu 上運行。

此外,該 AI 平臺也將成為慧與(HPE)的 HPE ProLiant 服務器上可用軟件的一部分。HPE 的生成式 AI 企業計算解決方案使用 NVIDIA AI Enterprise 進行推理和模型微調。

同時,Anyscale、Dataiku 和 DataRobot 這三家領先的機器學習操作管理軟件提供商也將在其平臺上支持 NIM。他們加入了由數百家 MLOps 合作伙伴組成的 NVIDIA 生態系統,其中包括 Microsoft Azure 機器學習、Dataloop AI、Domino Data Lab 和 Weights & Biases。

用戶無論通過何種方式訪問 NVIDIA AI Enterprise 5.0,都能從這一安全、生產就緒且性能優化的軟件中獲益。它可以靈活地部署在數據中心、云、工作站或網絡邊緣的應用中。

NVIDIA AI Enterprise 可通過思科、戴爾科技、惠普、HPE、聯想和超微等領先的系統提供商提供。

在 GTC 上聆聽成功案例

3 月 18 日至 21 日,全球 AI 盛會 NVIDIA GTC 在圣何塞會議中心舉行。會上,用戶將會分享他們使用該軟件的體驗。

例如,ServiceNow 首席數字信息官 Chris Bedi 將在小組討論上就如何利用生成式 AI 的潛能進行發言:

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1698205437942001FOg6

ServiceNow AI 產品副總裁 Jeremy Barnes 則會在另一場演講中分享如何借助 NVIDIA AI Enterprise 充分提高開發者的開發效率

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1696278742562001JcJ2

來自貝萊德、美敦力、SAP 和 Uber 的高管們將就其在金融、醫療、企業軟件和業務運營領域中使用 NVIDIA AI 平臺開展的工作進行探討。

此外,總部位于德國汽車保險公司全球應用提供商 ControlExpert 的高管將與大家一同分享如何利用 NVIDIA AI Enterprise 軟件開發 AI 理賠管理解決方案。

NVIDIA 對數百個內外部的生成式 AI 項目進行了評估,并將這些項目全部集成到一個經過穩定性和安全性測試的軟件包中,讓越來越多的公司能夠從中受益。




審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5076

    瀏覽量

    103720
  • 機器學習
    +關注

    關注

    66

    文章

    8438

    瀏覽量

    133084
  • GPU芯片
    +關注

    關注

    1

    文章

    303

    瀏覽量

    5897
  • ai技術
    +關注

    關注

    1

    文章

    1290

    瀏覽量

    24453
  • 生成式AI
    +關注

    關注

    0

    文章

    514

    瀏覽量

    547

原文標題:GTC24 | NVIDIA 推出微服務,助力企業邁向生成式 AI

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    NVIDIA發布全新NIM AI Guardrail微服務

    ,致力于提升生成AI應用的安全性、精準度和可擴展性。 這些微服務以NeMo Guardrails為核心進行編排,充分利用了NVIDIA N
    的頭像 發表于 01-18 11:48 ?427次閱讀

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    NVIDIA NeMo Guardrails 軟件工具系列的一部分。這些可移植且經過優化的推理微服務可幫助企業提高生成
    發表于 01-17 16:29 ?71次閱讀

    NVIDIA推出多個生成AI模型和藍圖

    NVIDIA 宣布推出多個生成 AI 模型和藍圖,將 NVIDIA Omniverse 一體化
    的頭像 發表于 01-08 10:48 ?163次閱讀

    NVIDIA助力企業創建定制AI應用

    NVIDIA 近日宣布與眾多技術領導者一同使用最新NVIDIA NIM Agent Blueprint以及NVIDIA NeMo和NVIDIA NIM
    的頭像 發表于 11-20 09:12 ?423次閱讀

    NVIDIA助力Amdocs打造生成AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配模型的解決方案。該公司還在使用NVIDIA
    的頭像 發表于 11-19 14:48 ?419次閱讀

    借助NVIDIA NIM微服務助力可口可樂公司擴展生成AI內容

    借助 NVIDIA NIM 微服務 USD Search 和 USD Code,市場營銷領導者 WPP 幫助飲料公司在全球范圍內加速創意活動的迭代。
    的頭像 發表于 08-13 16:16 ?625次閱讀

    全新NVIDIA NIM微服務生成AI引入數字環境

    生成物理 AI NIM 微服務以及 NVIDIA Metropolis 參考工作流旨在協助創建智能的沉浸
    的頭像 發表于 08-02 15:20 ?617次閱讀

    NVIDIA攜手Meta推出AI服務,為企業提供生成AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務NVIDIA
    的頭像 發表于 07-25 16:57 ?601次閱讀

    英偉達推出全新NVIDIA AI Foundry服務NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務NVIDIA NIM 推
    的頭像 發表于 07-25 09:48 ?791次閱讀

    NVIDIA AI Foundry 為全球企業打造自定義 Llama 3.1 生成 AI 模型

    Foundry 提供從數據策管、合成數據生成、微調、檢索、防護到評估的全方位生成 AI 模型服務,以便部署自定義 Llama 3.1
    發表于 07-24 09:39 ?742次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球<b class='flag-5'>企業</b>打造自定義 Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 變革

    關系進一步深化。助力生成 AI企業級應用與發展加速駛入快車道。 HPE Private Cloud
    的頭像 發表于 06-20 17:36 ?784次閱讀

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服務

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI
    的頭像 發表于 06-04 10:18 ?722次閱讀

    NVIDIA發布數字人微服務,為制作生成AI數字化身鋪平未來之路

    ? ? COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成AI
    發表于 06-03 17:43 ?194次閱讀

    NVIDIA發布生成AI微服務,推動藥物研發、醫療科技和數字醫療發展

    NVIDIA 今日推出二十多項全新微服務,使全球醫療企業能夠在任何地點和任何云上充分利用生成
    的頭像 發表于 03-20 10:03 ?1730次閱讀

    NVIDIA推出生成AI微服務,供開發者在CUDA GPU系統中創建部署生成AI助手

    NVIDIA 于今日推出數十項企業生成 AI 微服務
    的頭像 發表于 03-20 09:56 ?501次閱讀
    菲律宾百家乐官网娱乐网| 百家乐群shozo| 百家乐官网9人桌| 百家乐下注法| 网上百家乐官网游戏玩法| 金都娱乐城| 百家乐群柏拉图软件| 至尊百家乐官网20111110| 威尼斯人娱乐城总部| 百家乐官网桌布无纺布| 绥棱县| 澳门百家乐手机软件| 百家乐官网博百家乐官网的玩法技巧和规则| 360博彩通| 百家乐制胜绝招| 百家乐官网论坛官网| 64风波| 娱乐网百家乐的玩法技巧和规则 | 真人百家乐官网ea平台| 威尼斯人娱乐场cqsscgw88| 赌场百家乐官网的玩法技巧和规则 | 永利百家乐娱乐平台| 网页百家乐官网官网| 大发888扑克场| 百家乐官网桌布呢布| 唐海县| 新梦想百家乐的玩法技巧和规则| 澳门百家乐官网怎洋赢钱| 大发888最佳状态| 百家乐官网真人游戏娱乐平台| 大发888娱乐场下载 制度| 百家乐官网路单规则| 大发888娱乐场大发888娱乐场下载 | 顶级赌场连环夺宝ios下载| 百家乐管理启发书| 如何玩百家乐官网扑克| 大发888下载删除| 百家乐在线赌场| 百家乐官网双人操作分析仪 | 百家乐官网透视牌靴哪里有| 炉霍县|