衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

企業用大模型如何更具效價比?百度智能云發布5款大模型新品

百度 ? 來源:百度 ? 2024-03-22 10:45 ? 次閱讀

服務8萬企業用戶,累計幫助用戶精調1.3萬個大模型,幫助用戶開發出16萬個大模型應用,自2023年12月以來百度智能云千帆大模型平臺API日調用量環比增長97%...從一年前國內大模型平臺的“開路先鋒”到如今的大模型“超級工廠”,百度智能云千帆大模型平臺在國內大模型市場牢牢占據著領先身位,但奔跑的腳步卻并未停歇。

3月21日,百度智能云在北京首鋼園召開千帆產品發布會,百度智能云在大會期間宣布:

1、攜手北京市石景山區,共建全國首個百度智能云千帆大模型產業創新基地,助推區域產業騰飛;

2、滿足企業“效價比”核心訴求,千帆ModelBuilder大模型服務全面升級,3個輕量級大模型、2個垂直場景大模型全新發布;

3、大幅降低AI原生應用開發門檻,千帆AppBuilder組件能力全面升級。

活動中,石景山區政府黨組成員、副區長曹世輝,中關村石景山園管委會副主任崔明明,百度副總裁謝廣軍,百度副總裁石清華共同啟動全國首個百度智能云干帆大模型產業(北京)創新基地。

創新基地致力于推動大模型技術與產業創新深度融合,雙方將圍繞提升算力供給、優化模型算法、推動數據開放、打造示范場景、深化人才引育等方面深耕厚植,政企合力打造人工智能產業新高地。曹世輝副區長表示,石景山區將與百度攜手共進,聚焦人工智能和大模型技術研發和創新應用,構建完善AI 產業生態,為區域數字化轉型和產業智能化升級提供支撐,為新質生產力的培育和發展注入澎湃動能。

2023年,大模型在全球范圍呈現出爆發式增長,國內更是打起了“百模大戰”,無數科技大廠與科研院所聚焦大模型“本體”,瘋狂“內卷”。

百度副總裁謝廣軍表示,大模型技術在過去一年飛速發展,隨著逐步落地千行百業,2024年將成為國內大模型產業應用爆發的元年。針對企業最關心的大模型落地場景、使用成本、應用開發、應用效果四大挑戰,百度智能云千帆在大模型、AI原生應用開發兩個方面給出了最新“解題思路”。

百度智能云千帆大模型平臺發布“3+2”新模型套餐:

提高企業應用大模型的“效價比”

大模型效果是“技術派”的不懈追求,而經濟效益則是“市場派”的終極目標。謝廣軍在與諸多行業客戶的交流中發現,除了極少的大客戶對大模型有極致的效果追求,更多的企業和機構往往要綜合考量大模型的使用效果、性能以及成本,即“效價比”。本次,千帆平臺的模型矩陣針對企業的“效價比”核心訴求進行了一系列升級。

5bd2e2fa-e776-11ee-a297-92fbcf53809c.png ?

(百度智能云千帆大模型平臺模型矩陣)

文心大模型ERNIE 3.5是目前百度智能云千帆大模型平臺上最受歡迎的基礎大模型之一。針對用戶的常見通用的對話場景,ERNIE 3.5 在指令遵循、上下文學習和邏輯推理能力三方面分別進行了能力增強。升級后的ERNIE 3.5在企業應用場景如文案創作、信息抽取和工具調用三大場景中,應用表現分別大幅提升24%、27%和22%。

其次,相比超大規模參數的大模型,輕量級大模型的參數量更小,更便于客戶針對特定使用場景進行模型精調,更容易達成使用效果預期,同時節約更多成本開銷。本次大會,百度智能云發布了包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內,參數量由大到小的三款輕量級大模型,幫助客戶實現“減量不減效”,節約不必要投資。

具體來講,ERNIE Speed作為三款輕量級大模型中的“大個子”,推理場景下擁有最高128k的上下文長度,在處理知識問答等任務時,能夠更好的處理上下文的依賴關系,生成更加連貫和準確的預測或回答。同時,針對特定場景可以將ERNIE Speed作為基座模型進行精調,模型效果可以追平甚至超過旗艦級大參數規模大模型,效價比大幅提升。

相比ERNIE Speed,ERNIE Lite的參數量則更小,也更加適合搭載在低算力的AI加速卡上處理推理任務,在兼顧模型效果與推理性能的同時,大幅降低客戶落地應用成本。作為ERNIE-Bot-turbo模型的升級版,ERNIE Lite在情感分析、多任務學習、自然推理等場景下的應用效果提升了20%。推理調用成本大幅下降了53%!

三款輕量級模型中參數量最小的ERNIE Tiny則為客戶提供了極致低成本、低延遲的最佳選擇。在檢索、推薦、意圖識別等高并發、低延時等應用場景中,ERNIE Tiny的優異性能呈現了不俗表現。在某對話推薦業務場景中,精調后的ERNIE Tiny在搜索引擎推薦詞激發環節,相比ERNIE 3.5,對話輪次增長了3.5%,成本下降了32%。

此外,企業在落地應用中,對大模型在人物扮演、外部工具調用均有更高的效果要求。本次千帆大模型平臺ModelBuilder還基于對企業場景的深入洞察,結合百度自身業務最佳實踐沉淀,推出了ERNIE Character和ERNIE Functions兩款垂直場景大模型,分別適配客戶在角色扮演類應用場景(如游戲NPC、客服對話等)和工具調用場景(對話中使用外部工具、調用業務函數等)中的使用需求。

在企業實踐中,某智能硬件廠商,基于ERNIE Character打造智能助理,應用該模型后在人設一致性、激發并提升用戶聊天欲望等方面效果顯著提升。某旅游出行類APP,使用ERNIE Functions打造智能客服助手,在執行訂票、查詢航班狀態等多種function調用上準確性達到85%。

千帆AppBuilder全面升級:

大幅降低AI原生應用開發門檻

千帆AppBuilder作為產業級AI原生應用開發平臺,是千帆的重要組成部分。AppBuilder底層由基于百度多年技術和實踐經驗沉淀的大模型組件、AI能力組件的基礎組件和面向典型應用場景深入調優建設的一系列高級組件構成。基礎組件與高級組件共同支撐Agent,一方面可以通過工作流編排實現更為復雜的業務邏輯,另一方面Agent也具備強大的自主任務規劃能力,能夠理解用戶意圖自動規劃執行路徑,實現多工具的自動編排和執行。這些能力通過零代碼態、代碼態兩類開發方式提供服務,更好的匹配不同開發者的使用需求。

開發完成后,應用可多渠道分發與集成,AppBuilder支持將應用一鍵分發到微信客服、微信公眾號、Web端/H5及百度靈境矩陣等主流渠道。基于百度靈境矩陣,應用可在百度搜索、百度信息流等主流場景分發與掛載。真正實現應用開發出來后,就直接觸達用戶,打通從AI原生應用創建到開發再到分發的全流程。

5e6e7736-e776-11ee-a297-92fbcf53809c.png

(百度智能云千帆AppBuilder)

升級后的AppBuilder開放的工具組件多達55個。包括基于百度多年技術積累和自有業務沉淀的大模型組件、AI能力組件,也包括搜索等百度特色的業務組件、和多場景的第三方API工具,另外還提供了 RAG(知識檢索問答)、GBI(生成式數據分析)等根據典型應用場景深入調優的高級能力組件。

開發AI原生應用離不開云基礎設施,本次發布的基礎組件還包括了百度智能云全新推出的向量數據庫VDB 1.0。向量數據庫是企業不可或缺的知識庫核心組件,它針對傳統知識庫問答系統遇到的性能瓶頸、維護挑戰及規模限制等問題提供了有力解決方案。全新發布的百度向量數據庫VDB 1.0,不僅集成了全面的運維控制和安全防護能力,還兼容了千帆、LangChain等主流生態系統,能夠幫助企業輕松管理數以千萬計的文檔知識,最大支持百億向量存儲規模以及毫秒級的向量檢索速度。同時,相比同類型開源產品,VDB 1.0性能最高提升10倍。

在組件之上,千帆AppBuilder推出的Agent(智能體)應用框架,具備精準的任務自主規劃能力,對多種應用工具的自動編排準確率超過90%,這個數字還在不斷提升。AppBuilder還支持開發者接入自定義工具,通過將自動編排與手動編排相結合,實現更復雜場景應用的需求定制。Agent框架內的代碼解釋器能力,也在本次升級中大幅提升了40%的性能、在復雜的數據分析場景的生成結果可接受度高達95%,輕松應對各類數據分析與信息處理的場景。

此外,AppBuilder的代碼態開發工具也再添利器。AppBuilder SDK本次重磅發布了Agent API,支持開發者將Agent便捷集成到自己的業務系統中,同時AppBuilder SDK面向主流AI原生應用場景提供了豐富的應用樣例,目前已在Github開源,支持各個組件自由調用的靈活編排,幫助開發者實現應用的二次開發和便捷集成。

大會現場,還演示了如何在零代碼開發模式中,只用1分鐘構建一個“英語作文小幫手”Agent(智能體)應用,只需在AppBuilder中輸入應用名稱或希望開發的應用功能,平臺就可以自動生成應用,通過簡單的調整角色指令、添加所需工具組件,就可以快速生成一個英語作文批改小助手。發布后就可直接使用,三步完成應用創建與分發。

在百度智能云看來,隨著大模型技術的不斷演進和突破,工程化實踐與用戶需求適配正在變得愈發重要。只有深入場景,發掘、響應客戶的真實需求,才是釋放創新技術紅利的最佳路徑。




審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1796

    文章

    47666

    瀏覽量

    240272
  • 百度智能云
    +關注

    關注

    0

    文章

    47

    瀏覽量

    1948
  • 大模型
    +關注

    關注

    2

    文章

    2545

    瀏覽量

    3163

原文標題:企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品

文章出處:【微信號:baidu_2000,微信公眾號:百度】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    百度與阿里上線DeepSeek模型部署服務

    近日,百度智能云和阿里相繼宣布上線DeepSeek-R1和DeepSeek-V3模型的部署服務,為開發者和企業用戶提供了更加高效便捷的AI
    的頭像 發表于 02-05 15:40 ?76次閱讀

    百度智能發布千帆大模型平臺3.0

    2024年百度智大會上,百度智能震撼發布千帆大模型
    的頭像 發表于 09-26 14:51 ?494次閱讀

    百度智能升級3模型應用:面向三類場景打造企業“超級員工”

    6月25日,“AI Cloud Day:百度智能模型應用產品發布會”在北京舉行。會上,百度
    的頭像 發表于 06-25 19:22 ?1148次閱讀

    百度智能推出“千帆行業增強版”

    在近日于北京舉辦的2024智能經濟論壇上,百度集團執行副總裁、百度智能事業群總裁沈抖分享了百度
    的頭像 發表于 05-30 09:30 ?643次閱讀

    百度智能發布模型免費計劃,助推企業創新發展

    他強調,降低費用的關鍵在于強大的技術實力,包括業界最尖端的AI異構算力管理平臺與“一多芯”兩大優勢。當前,文心大模型已在中國達到最大產業落地規模,超過半數的央企正與百度合作探索AI創新。
    的頭像 發表于 05-28 16:01 ?460次閱讀

    【機器視覺】歡創播報 | 百度智能發布千帆大模型一體機

    1 百度智能發布千帆大模型一體機 編輯 ? 4月9日上午,百度
    的頭像 發表于 04-11 10:49 ?649次閱讀
    【機器視覺】歡創播報 | <b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b><b class='flag-5'>發布</b>千帆大<b class='flag-5'>模型</b>一體機

    數勢科技副總裁宋麗出席百度智能GENERATE全球生態大會,共商大模型生態

    2024年4月9日,百度智能首屆“百度智能GENERATE全球生態大會”在成都舉辦。大會帶來
    的頭像 發表于 04-10 16:49 ?469次閱讀
    數勢科技副總裁宋麗出席<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>GENERATE全球生態大會,共商大<b class='flag-5'>模型</b>生態

    軟通動力榮獲百度智能“大模型創新突破獎”“服務突破之星伙伴獎”

    4月9日,2024百度智能GENERATE全球生態大會在成都舉辦。大會帶來了百度智能在大
    的頭像 發表于 04-10 09:49 ?407次閱讀

    百度智能正式發布了《百度智能水業大模型白皮書》

    3月28日,由E20環境平臺主辦的2024(第二十二屆)水業戰略論壇在北京召開。會上,百度智能正式發布了《百度
    的頭像 發表于 03-29 09:20 ?1417次閱讀
    <b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>正式<b class='flag-5'>發布</b>了《<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>水業大<b class='flag-5'>模型</b>白皮書》

    倒計時!百度智能模型應用產品發布會來了

    2023年3月27日,百度智能推出全球首個一站式企業級大模型平臺。此后一年間,我們見證了產業從探索模型
    的頭像 發表于 03-26 09:38 ?463次閱讀
    倒計時!<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>大<b class='flag-5'>模型</b>應用產品<b class='flag-5'>發布</b>會來了

    百度智能宣布發布多款大模型

    百度智能近日發布了一系列重要消息,其千帆平臺迎來了一系列升級,為用戶帶來了更加豐富的功能和體驗。其中,千帆AppBuilder AI原生應用開發平臺全新升級,其支持的組件工具數量擴展
    的頭像 發表于 03-22 11:29 ?955次閱讀

    一圖講透百度智能千帆大模型平臺全面升級!

    【一圖講透】百度智能千帆大模型平臺全面升級!
    的頭像 發表于 03-22 10:44 ?545次閱讀
    一圖講透<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>千帆大<b class='flag-5'>模型</b>平臺全面升級!

    百度智能推出全新輕量級大模型

    在近日舉辦的百度智能千帆產品發布會上,三全新的輕量級大模型——ERNIE Speed、ERN
    的頭像 發表于 03-22 10:28 ?719次閱讀

    百度智能發布輕量級大模型和兩特定場景大模型

    百度智能在千帆產品發布會上震撼推出了一系列創新產品,其中包括三輕量級大模型:ERNIE Sp
    的頭像 發表于 03-22 10:28 ?768次閱讀

    百度智能模型應用產品發布會定檔

    百度智能官方宣布,備受矚目的“AI Cloud Day:百度智能
    的頭像 發表于 03-21 11:37 ?898次閱讀
    足球比分| 太阳城官方网| 百家乐代打是真的吗| 百家乐赔率技巧| 24山安葬吉凶择日| 福布斯百家乐官网的玩法技巧和规则 | 美高梅百家乐官网娱乐城| 百家乐官网经验在哪找| 百家乐官网玩法有技巧| 百家乐官网投注网址| 百家乐官网真人百家乐官网赌博 | 百家乐官网赌场| 精英百家乐现金网| 百家乐游戏补牌规则| 百家乐平六亿财富| 威尼斯人娱乐城注册| 宝马会百家乐官网娱乐城| 金牌百家乐官网的玩法技巧和规则 | 百家乐技巧娱乐博彩| 百家乐双面数字筹码怎么出千| 威尼斯人娱乐城地址| 大发888现金存款| 高台县| 水晶百家乐官网筹码| 24山向水法吉凶断| 百家乐五湖四海娱乐场开户注册| 大发888 软件| 百家乐官网比赛技巧| 百家乐官网食杂店| 百家乐网上投注网站| 免费百家乐统计| 皇博国际| 百家乐官网投注庄闲法| 足球百家乐官网系统| 破战百家乐的玩法技巧和规则| 百家乐sxcbd| 澳门博彩在线| 百家乐官网有无规律可循| 澳门玩百家乐官网00| 豪博百家乐娱乐城| 德州扑克 大小|