衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

用Redis為LangChain定制AI代理——OpenGPTs

虹科網絡可視化技術 ? 2024-01-13 08:03 ? 次閱讀

OpenAI最近推出了OpenAI GPTs——一個構建定制化AI代理的無代碼“應用商店”,隨后LangChain開發了類似的開源工具OpenGPTs。OpenGPTs是一款低代碼的開源框架,專用于構建定制化的人工智能代理。因為Redis具有高速和穩定性的優點,所以LangChain選擇了Redis來作為OpenGPTs的默認向量數據庫。

文章速覽:

OpenGPTs簡介

Redis在OpenGPTs中的作用

在本地使用OpenGPTs

在云端使用OpenGPTs

Redis與LangChain賦能創新

一、OpenGPTs簡介

通過幾個配置步驟,我們可以用OpenGPTs構建一個精通Redis的機器人,名為“RedisGuru”。

以下是我們選擇的LLM、系統消息和工具的示例,包括DuckDuckGo搜索、維基百科搜索,以及通過Kay.ai訪問的公共新聞稿。

3fc33402-b1a7-11ee-aa22-92fbcf53809c.png

配置并部署RedisGuru后,可以測試代理如何運行:

3fda4804-b1a7-11ee-aa22-92fbcf53809c.png

此外,我們還可以查詢有關Redis數據結構的問題。可以看到,RedisGuru記住了我的名字:

3fe9f060-b1a7-11ee-aa22-92fbcf53809c.png

我們構建的這個RedisGuru代理只是一個應用示例。你也可以構建各類應用,比如電子郵件文案編輯器、智能研究助理、代碼審查員等。

二、Redis在OpenGPTs中的作用

在這個OpenGPTs演示的背后,Redis提供了一個強大且高性能的數據層,是 OpenGPTs 技術棧不可或缺的一部分。

Redis可以持久化用戶聊天會話(線程)、代理配置和嵌入式文檔塊,并用于向量數據庫檢索。

01

用戶聊天會話

為了在對話中維持“狀態”,Redis為OpenGPTs提供了用戶與AI代理間的持久聊天線程。這些聊天會話也被輸入到LLM中,以提供當前對話狀態的上下文信息

02

代理配置

為了支持多租戶代理架構,Redis為OpenGPTs提供了一個遠程的、低延遲的存儲層。當應用程序啟動時,它從Redis讀取指定的代理設置,然后開始處理請求。

03

向量數據庫用于RAG

為了讓對話基于實際情況,OpenGPTs允許我們上傳“知識”源,以便LLM將其與生成的答案結合。通過一種稱為檢索增強生成(RAG)的過程,OpenGPTs將上傳的文檔存儲在Redis中,并提供實時向量搜索,以檢索與LLM相關的上下文。

這些功能是Redis平臺的一部分,通過我們的LangChain + Redis集成融入到應用程序中。

Redis與LangChain的OpenGPTs集成帶來了更高的靈活性、可擴展性以及實時處理和搜索能力。處理多樣化數據結構的能力是Redis成為OpenGPTs記憶功能的首選解決方案。

三、在本地使用OpenGPTs

如果想親自體驗OpenGPTs,你可以在項目的README文件中找到更詳細的指南。以下是一個快速概述:

1、安裝后端依賴:克隆項目倉庫,然后導航到后端目錄并安裝必要的Python依賴項。

cd backendpip install -r requirements.txt

2、連接Redis和OpenAI:OpenGPTs使用Redis作為LLM的記憶庫,使用OpenAI進行LLM的生成和嵌入。設置環境變量REDIS_URL和OPENAI_API_KEY,以連接到您的Redis實例和OpenAI賬戶。

export OPENAI_API_KEY=your-openai-api-keyexport REDIS_URL=redis://your-redis-url

3、啟動后端服務器:在本地機器上運行LangChain服務器,提供應用程序服務。

langchain serve --port=8100

4、啟動前端:在前端目錄中,使用yarn啟動開發服務器。

cd frontendyarnyarn dev

5、在瀏覽器中打開http://localhost:5173/,與您的本地OpenGPTs部署進行交互。

四、在云端使用OpenGPTs

如果希望在沒有本地設置的情況下使用OpenGPTs,可以嘗試在谷歌云上部署。另外,你還可以訪問由LangChain、LangServe和Redis支持的托管預覽部署。這種部署展示了OpenGPTs的可定制性和易用性。

五、Redis與LangChain賦能創新

Redis企業版作為一款企業級的低延遲向量數據庫,在支持生成性AI項目方面具有獨特優勢。其不僅提供向量搜索,還提供多功能數據結構,能有效滿足LLMs的應用狀態需求。這個強大的平臺提供了優異的可擴展性和性能,Redis借此成為生成式AI領域的重要工具。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31536

    瀏覽量

    270348
  • 開源
    +關注

    關注

    3

    文章

    3408

    瀏覽量

    42714
  • Redis
    +關注

    關注

    0

    文章

    378

    瀏覽量

    10945
收藏 人收藏

    評論

    相關推薦

    Redis Cluster之故障轉移

    1. Redis Cluster 簡介 Redis Cluster 是 Redis 官方提供的 Redis 集群功能。 為什么要實現 Redis
    的頭像 發表于 01-20 09:21 ?211次閱讀
    <b class='flag-5'>Redis</b> Cluster之故障轉移

    NVIDIA與合作伙伴推出代理AI Blueprint

    開發者現在可以使用全新 NVIDIA AI Blueprint 構建和部署具備推理、規劃和行動能力的定制AI 智能體。這些藍圖囊括了 NVIDIA NIM 微服務、NVIDIA NeMo、以及領先提供商的
    的頭像 發表于 01-09 11:08 ?294次閱讀

    定制本地的ChatFile的AI問答系統

    會遇到這樣的困擾?今天,我們將利用下面兩個技術自己定制一個本地的 ChatFile 的 AI 問答系統: 1. Google 最新開源的生成式 AI 模型:?Gemma 2 2. 檢
    的頭像 發表于 01-03 09:26 ?271次閱讀
    <b class='flag-5'>定制</b>本地的ChatFile的<b class='flag-5'>AI</b>問答系統

    Redis緩存與Memcached的比較

    Redis和Memcached都是廣泛使用的內存數據存儲系統,它們主要用于提高應用程序的性能,通過減少對數據庫的直接訪問來加速數據檢索。以下是對Redis和Memcached的比較,涵蓋了它們的一些
    的頭像 發表于 12-18 09:33 ?243次閱讀

    代理AI如何運作

    代理AI 使用復雜的推理和迭代規劃來自主解決復雜的多步驟問題。
    的頭像 發表于 11-09 11:45 ?380次閱讀
    <b class='flag-5'>代理</b>式<b class='flag-5'>AI</b>如何運作

    微軟Copilot Studio將支持企業創建自主AI代理

    近日,微軟宣布了一項重要進展:下個月,企業將在Copilot Studio中擁有創建自主AI代理的能力。這一消息標志著微軟在AI技術領域的又一次重要突破,將為企業帶來前所未有的智能化升級。 微軟透露
    的頭像 發表于 10-23 11:44 ?384次閱讀

    桔吉AI機器人:代理記賬財稅AI第一名,引領代理記賬行業稅務合規新實踐

    桔吉人工智能公司,作為代理記賬行業AI機器人的領軍者,憑借其深厚的技術積累,行業帶來了一系列前瞻性的思考與實踐布局,以確保稅務合規性。 桔吉人工智能:一家什么樣的公司? 桔吉人工智能科技(深圳
    的頭像 發表于 09-29 17:17 ?1410次閱讀
    桔吉<b class='flag-5'>AI</b>機器人:<b class='flag-5'>代理</b>記賬財稅<b class='flag-5'>AI</b>第一名,引領<b class='flag-5'>代理</b>記賬行業稅務合規新實踐

    LangChain框架關鍵組件的使用方法

    LangChain是一個強大的框架,旨在幫助開發人員使用語言模型構建端到端的應用程序。它提供了一套工具、組件和接口,可簡化創建由大型語言模型 (LLM) 和聊天模型提供支持的應用程序的過程。通過
    的頭像 發表于 08-30 16:55 ?670次閱讀
    <b class='flag-5'>LangChain</b>框架關鍵組件的使用方法

    【HZHY-AI300G智能盒試用連載體驗】基建智慧工地物聯邊緣代理技術研究及應用

    服務平臺、物聯管理平臺、統一視頻監控平臺。4、在以上平臺調試運行成功,生成定制化標準化量產鏡像。 5、通過檢測。 6、推薦項目“雙創”孵化。 7、嘗試AI視覺識別等高級功能。 【預計成果】 1、形成基建物聯邊緣代理標準化產品。
    發表于 07-16 17:14

    Redis 開源社區持續壯大,華為云 Valkey 項目注入新的活力

    華為云云原生中間件產品團隊在過去的幾年里,通過向 Redis 開源社區提交代碼優化、性能改進和安全性增強的建議,以及積極參與社區討論和貢獻文檔, Redis 的發展做出了積極的貢獻。作為
    的頭像 發表于 05-09 22:59 ?795次閱讀
    <b class='flag-5'>Redis</b> 開源社區持續壯大,華為云<b class='flag-5'>為</b> Valkey 項目注入新的活力

    使用Redis和Spring?Ai構建rag應用程序

    隨著AI技術的不斷進步,開發者面臨著如何有效利用現有工具和技術來加速開發過程的挑戰。Redis與SpringAI的結合為Java開發者提供了一個強大的平臺,以便快速構建并部署響應式AI應用。探索這一
    的頭像 發表于 04-29 08:04 ?1115次閱讀
    使用<b class='flag-5'>Redis</b>和Spring?<b class='flag-5'>Ai</b>構建rag應用程序

    Redis開源版與Redis企業版,怎么選用?

    點擊“藍字”關注我們數以千計的企業和數以百萬計的開發人員Redis開源版來構建應用程序。但隨著用戶數量、數據量和地區性的增加,成本、可擴展性、運營和可用性等問題也隨之而來。Redis企業版
    的頭像 發表于 04-04 08:04 ?1191次閱讀
    <b class='flag-5'>Redis</b>開源版與<b class='flag-5'>Redis</b>企業版,怎么選用?

    數據安全沒保障?GaussDB(for Redis) 你保駕護航

    近日,一些用戶反饋,使用的開源 Redis 中新增了幾個未知來源的 Key。通過分析發現,用戶使用的開源 Redis 沒有設置密碼,很可能是遭到了 Redis 擴散病毒的攻擊,表面上只是新增了幾個
    的頭像 發表于 03-28 22:09 ?719次閱讀
    數據安全沒保障?GaussDB(for <b class='flag-5'>Redis</b>) <b class='flag-5'>為</b>你保駕護航

    新版 Redis 不再“開源”,對使用者都有哪些影響?

    2024 年 3 月 20 日,Redis Labs 宣布從 Redis 7.4 開始,將原先比較寬松的 BSD 源碼使用協議修改為 RSAv2和 SSPLv1協議。該變化意味著 Redis
    的頭像 發表于 03-27 22:30 ?556次閱讀
    新版 <b class='flag-5'>Redis</b> 不再“開源”,對使用者都有哪些影響?

    Redis官方搜索引擎來了,性能炸裂!

    RediSearch 是一個 Redis 模塊, Redis 提供查詢、二級索引和全文搜索功能。
    的頭像 發表于 02-21 10:01 ?2543次閱讀
    <b class='flag-5'>Redis</b>官方搜索引擎來了,性能炸裂!
    3U百家乐官网娱乐城| 澳门百家乐官网的玩法技巧和规则| 飞天百家乐官网的玩法技巧和规则| 挖掘百家乐赢钱秘籍| 全讯网xb112| 全讯网网站| 澳门百家乐官网论谈| 百家乐官网网络游戏信誉怎么样 | 澳门顶级赌场手机版| 百家乐官网开户送彩网址| 百家乐官网游戏什么时间容易出| 属羊的和属猪的做生意| 北京太阳城小区| 百家乐官网有免费玩| 属鸡与属羊做生意| 威尼斯人娱乐场有什么玩| 互博百家乐官网现金网| 墓地风水24山| 大发888游戏平台3403| 作弊百家乐官网赌具价格| 百家乐分享| 玉山县| 百家乐技巧运气| 大发888官方df888gwyxpt| 百家乐官网视频赌博| 澳门百家乐赌| 星河百家乐官网现金网| 百家乐怎么稳赚| 皇冠娱乐场| 长城百家乐游戏| 战神娱乐| 百家乐游戏机子| 永利高足球博彩网| 百家乐怎么玩呀| 贵族娱乐城| 易赢百家乐软件| 轮盘| 百家乐出千原理| 云鼎娱乐城| 至尊百家乐奇热网| 南城县|