衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Spring Boot+Filter實現Gzip壓縮超大json對象

jf_ro2CN3Fa ? 來源:芋道源碼 ? 作者:芋道源碼 ? 2022-12-01 10:18 ? 次閱讀


1. 業務背景

是這樣的,業務背景是公司的內部系統有一個廣告保存接口,需要ADX那邊將投放的廣告數據進行保存供后續使用。 廣告數據大概長這樣:

  • adName是廣告名字
  • adTag是廣告渲染的HTML代碼,超級大數據庫中都是用text類型來存放的,我看到最大的adTag足足有60kb大小…
{
"adName":"",
"adTag":""
}

因此,對與請求數據那么大的接口我們肯定是需要作一個優化的否則太大的數據傳輸有以下幾個弊端:

  • 占用網絡帶寬,而有些云產品就是按照帶寬來計費的,間接浪費了錢
  • 傳輸數據大導致網絡傳輸耗時

為了克服這幾個問題團隊中的老鳥產生一個想法:

請求廣告保存接口時先將Json對象字符串進行GZIP壓縮,那請求時傳入的就是壓縮后的數據,而GZIP的壓縮效率是很高的,因此可以大大減小傳輸數據,而當數據到達廣告保存接口前再將傳來的數據進行解壓縮,還原成JSON對象就完成了整個GZIP壓縮數據的請求以及處理流程。

其實這樣做也存在著弊端:

  • 請求變復雜了

    • 接口調用方那邊需要對數據進行壓縮
    • 接口執行方那邊需要對拿到的數據進行解壓
  • 需要額外占用更多的CPU計算資源

  • 可能會影響到原有的其他接口

對于以上幾點基于我們公司當前的業務可以這樣解決:

  • 對與需要占用而外的CPU計算資源來說,公司的內部系統屬于IO密集型應用,因此用一些CPU資源來換取更快的網絡傳輸其實是很劃算的
  • 使用過濾器在請求數據到達Controller之前對數據進行解壓縮處理后重新寫回到Body中,避免影響Controller的邏輯,代碼零侵入
  • 而對于改造接口的同時是否會影響到原來的接口這一點可以通過 HttpHeader 的Content-Encoding=gzip屬性來區分是否需要對請求數據進行解壓縮

那廢話少說,下面給出實現方案

基于 Spring Boot + MyBatis Plus + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

  • 項目地址:https://github.com/YunaiV/ruoyi-vue-pro
  • 視頻教程:https://doc.iocoder.cn/video/

2. 實現思路

前置知識:
  • Http 請求結構以及Content-Encoding 屬性
  • gzip壓縮方式
  • Servlet Filter
  • HttpServletRequestWrapper
  • Spring Boot
  • Java 輸入輸出流

實現流程圖:

e6600140-711c-11ed-8abf-dac502259ad0.png
核心代碼:

創建一個SpringBoot項目,先編寫一個接口,功能很簡單就是傳入一個Json對象并返回,以模擬將廣告數據保存到數據庫

/**
*@ClassName:ProjectController
*@Authorzhangjin
*@Date2022/3/2420:41
*@Description:
*/
@Slf4j
@RestController
publicclassAdvertisingController{

@PostMapping("/save")
publicAdvertisingsaveProject(@RequestBodyAdvertisingadvertising){
log.info("獲取內容"+advertising);
returnadvertising;
}
}

/**
*@ClassName:Project
*@Authorzhangjin
*@Date2022/3/2420:42
*@Description:
*/
@Data
publicclassAdvertising{
privateStringadName;
privateStringadTag;
}

編寫并注冊一個攔截器

/**
*@ClassName:GZIPFilter
*@Authorzhangjin
*@Date2022/3/260:36
*@Description:
*/
@Slf4j
@Component
publicclassGZIPFilterimplementsFilter{

privatestaticfinalStringCONTENT_ENCODING="Content-Encoding";
privatestaticfinalStringCONTENT_ENCODING_TYPE="gzip";

@Override
publicvoidinit(FilterConfigfilterConfig)throwsServletException{
log.info("initGZIPFilter");
}

@Override
publicvoiddoFilter(ServletRequestservletRequest,ServletResponseservletResponse,FilterChainfilterChain)throwsIOException,ServletException{
longstart=System.currentTimeMillis();
HttpServletRequesthttpServletRequest=(HttpServletRequest)servletRequest;

StringencodeType=httpServletRequest.getHeader(CONTENT_ENCODING);
if(CONTENT_ENCODING_TYPE.equals(encodeType)){
log.info("請求:{}需要解壓",httpServletRequest.getRequestURI());
UnZIPRequestWrapperunZIPRequestWrapper=newUnZIPRequestWrapper(httpServletRequest);
filterChain.doFilter(unZIPRequestWrapper,servletResponse);
}
else{
log.info("請求:{}無需解壓",httpServletRequest.getRequestURI());
filterChain.doFilter(servletRequest,servletResponse);
}
log.info("耗時:{}ms",System.currentTimeMillis()-start);
}

@Override
publicvoiddestroy(){
log.info("destroyGZIPFilter");
}
}

/**
*@ClassName:FilterRegistration
*@Authorzhangjin
*@Date2022/3/260:36
*@Description:
*/
@Configuration
publicclassFilterRegistration{

@Resource
privateGZIPFiltergzipFilter;

@Bean
publicFilterRegistrationBeangzipFilterRegistrationBean(){
FilterRegistrationBeanregistration=newFilterRegistrationBean<>();
//Filter可以new,也可以使用依賴注入Bean
registration.setFilter(gzipFilter);
//過濾器名稱
registration.setName("gzipFilter");
//攔截路徑
registration.addUrlPatterns("/*");
//設置順序
registration.setOrder(1);
returnregistration;
}
}

實現RequestWrapper實現解壓和寫回Body的邏輯

/**
*@ClassName:UnZIPRequestWrapper
*@Authorzhangjin
*@Date2022/3/2611:02
*@Description:JsonString經過壓縮后保存為二進制文件->解壓縮后還原成JsonString轉換成byte[]寫回body中
*/
@Slf4j
publicclassUnZIPRequestWrapperextendsHttpServletRequestWrapper{

privatefinalbyte[]bytes;

publicUnZIPRequestWrapper(HttpServletRequestrequest)throwsIOException{
super(request);
try(BufferedInputStreambis=newBufferedInputStream(request.getInputStream());
ByteArrayOutputStreambaos=newByteArrayOutputStream()){
finalbyte[]body;
byte[]buffer=newbyte[1024];
intlen;
while((len=bis.read(buffer))>0){
baos.write(buffer,0,len);
}
body=baos.toByteArray();
if(body.length==0){
log.info("Body無內容,無需解壓");
bytes=body;
return;
}
this.bytes=GZIPUtils.uncompressToByteArray(body);
}catch(IOExceptionex){
log.info("解壓縮步驟發生異常!");
ex.printStackTrace();
throwex;
}
}

@Override
publicServletInputStreamgetInputStream()throwsIOException{
finalByteArrayInputStreambyteArrayInputStream=newByteArrayInputStream(bytes);
returnnewServletInputStream(){

@Override
publicbooleanisFinished(){
returnfalse;
}

@Override
publicbooleanisReady(){
returnfalse;
}

@Override
publicvoidsetReadListener(ReadListenerreadListener){

}

publicintread()throwsIOException{
returnbyteArrayInputStream.read();
}
};
}

@Override
publicBufferedReadergetReader()throwsIOException{
returnnewBufferedReader(newInputStreamReader(this.getInputStream()));
}

}

附上壓縮工具類

publicclassGZIPUtils{

publicstaticfinalStringGZIP_ENCODE_UTF_8="UTF-8";

/**
*字符串壓縮為GZIP字節數組
*@paramstr
*@return
*/
publicstaticbyte[]compress(Stringstr){
returncompress(str,GZIP_ENCODE_UTF_8);
}

/**
*字符串壓縮為GZIP字節數組
*@paramstr
*@paramencoding
*@return
*/
publicstaticbyte[]compress(Stringstr,Stringencoding){
if(str==null||str.length()==0){
returnnull;
}
ByteArrayOutputStreamout=newByteArrayOutputStream();
GZIPOutputStreamgzip;
try{
gzip=newGZIPOutputStream(out);
gzip.write(str.getBytes(encoding));
gzip.close();
}catch(IOExceptione){
e.printStackTrace();
}
returnout.toByteArray();
}

/**
*GZIP解壓縮
*@parambytes
*@return
*/
publicstaticbyte[]uncompress(byte[]bytes){
if(bytes==null||bytes.length==0){
returnnull;
}
ByteArrayOutputStreamout=newByteArrayOutputStream();
ByteArrayInputStreamin=newByteArrayInputStream(bytes);
try{
GZIPInputStreamungzip=newGZIPInputStream(in);
byte[]buffer=newbyte[256];
intn;
while((n=ungzip.read(buffer))>=0){
out.write(buffer,0,n);
}
}catch(IOExceptione){
e.printStackTrace();
}
returnout.toByteArray();
}

/**
*解壓并返回String
*@parambytes
*@return
*/
publicstaticStringuncompressToString(byte[]bytes)throwsIOException{
returnuncompressToString(bytes,GZIP_ENCODE_UTF_8);
}

/**
*
*@parambytes
*@return
*/
publicstaticbyte[]uncompressToByteArray(byte[]bytes)throwsIOException{
returnuncompressToByteArray(bytes,GZIP_ENCODE_UTF_8);
}

/**
*解壓成字符串
*@parambytes壓縮后的字節數組
*@paramencoding編碼方式
*@return解壓后的字符串
*/
publicstaticStringuncompressToString(byte[]bytes,Stringencoding)throwsIOException{
byte[]result=uncompressToByteArray(bytes,encoding);
returnnewString(result);
}

/**
*解壓成字節數組
*@parambytes
*@paramencoding
*@return
*/
publicstaticbyte[]uncompressToByteArray(byte[]bytes,Stringencoding)throwsIOException{
if(bytes==null||bytes.length==0){
returnnull;
}
ByteArrayOutputStreamout=newByteArrayOutputStream();
ByteArrayInputStreamin=newByteArrayInputStream(bytes);
try{
GZIPInputStreamungzip=newGZIPInputStream(in);
byte[]buffer=newbyte[256];
intn;
while((n=ungzip.read(buffer))>=0){
out.write(buffer,0,n);
}
returnout.toByteArray();
}catch(IOExceptione){
e.printStackTrace();
thrownewIOException("解壓縮失敗!");
}
}

/**
*將字節流轉換成文件
*@paramfilename
*@paramdata
*@throwsException
*/
publicstaticvoidsaveFile(Stringfilename,byte[]data)throwsException{
if(data!=null){
Stringfilepath="/"+filename;
Filefile=newFile(filepath);
if(file.exists()){
file.delete();
}
FileOutputStreamfos=newFileOutputStream(file);
fos.write(data,0,data.length);
fos.flush();
fos.close();
System.out.println(file);
}
}

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

  • 項目地址:https://github.com/YunaiV/yudao-cloud
  • 視頻教程:https://doc.iocoder.cn/video/

3. 測試效果

注意一個大坑:千萬不要直接將壓縮后的byte[]當作字符串進行傳輸,否則你會發現壓縮后的請求數據竟然比沒壓縮后的要大得多!一般有兩種傳輸壓縮后的byte[]的方式:

  • 將壓縮后的byet[]進行base64編碼再傳輸字符串,這種方式會損失掉一部分GZIP的壓縮效果,適用于壓縮結果要存儲在Redis中的情況
  • 將壓縮后的byte[]以二進制的形式寫入到文件中,請求時直接在body中帶上文件即可,用這種方式可以不損失壓縮效果

Postman測試Gzip壓縮數據請求:

  • 請求頭指定數據壓縮方式:
e66cba2a-711c-11ed-8abf-dac502259ad0.png
  • Body帶上壓縮后的byte[]寫入的二進制文件
e67736f8-711c-11ed-8abf-dac502259ad0.png
  • 執行請求,服務端正確處理了請求并且請求size縮小了將近一半,效果還是很不錯的,這樣GZIP壓縮數據的請求的處理就完成了,完整的項目代碼在下方
e69f980a-711c-11ed-8abf-dac502259ad0.png

4. Demo地址

  • https://gitee.com/wx_1bceb446a4/gziptest


審核編輯 :李倩


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • spring
    +關注

    關注

    0

    文章

    340

    瀏覽量

    14388
  • 傳輸數據
    +關注

    關注

    1

    文章

    127

    瀏覽量

    16147
  • 大數據
    +關注

    關注

    64

    文章

    8908

    瀏覽量

    137791

原文標題:Spring Boot + Filter 實現 Gzip 壓縮超大 json 對象,傳輸耗時大大減少

文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    think-cell——使用JSON數據實現自動化(一)

    您可以使用 JSON 中的數據來復制最初作為模板創建的圖表,并為其提供新的數據表。您可以控制使用特定模板構建新演示文稿的順序。模板也可以多次使用。 PowerPoint 模板和 JSON 數據都可以
    的頭像 發表于 01-02 13:37 ?118次閱讀
    think-cell——使用<b class='flag-5'>JSON</b>數據<b class='flag-5'>實現</b>自動化(一)

    校園點餐訂餐外賣跑腿Java源碼

    創建一個校園點餐訂餐外賣跑腿系統是一個復雜的項目,涉及到前端、后端、數據庫設計等多個方面。在這里,我可以提供一個簡化的Java后端示例,使用Spring Boot框架來搭建一個基本的API服務。這個
    的頭像 發表于 12-24 14:55 ?183次閱讀
    校園點餐訂餐外賣跑腿Java源碼

    SSM開發環境的搭建教程 SSM與Spring Boot的區別

    SSM開發環境的搭建教程 SSM(Spring+SpringMVC+MyBatis)開發環境的搭建涉及多個步驟,以下是詳細的教程: 創建Maven項目 : 使用Maven工具創建一個新的Maven
    的頭像 發表于 12-16 18:13 ?671次閱讀

    Spring 應用合并之路(二):峰回路轉,柳暗花明

    提醒下,決定拋開 Spring Boot 內置的父子容器方案,完全自己實現父子容器。 如何加載 web 項目? 現在的難題只有一個:如何加載 web 項目?加載完成后,如何持續持有 web 項目?經過思考后,可以創建一個
    的頭像 發表于 12-12 11:22 ?830次閱讀

    Spring事務實現原理

    這些操作。 spring事務有編程式事務和聲明式事務兩種實現方式。編程式事務是通過編寫代碼來管理事務的提交、回滾、以及事務的邊界。這意味著開發者需要在代碼中顯式地調用事務的開始、提交和回滾。聲明式事務是通過配置來管理事務,您可以使用注解或XML配置來
    的頭像 發表于 11-08 10:10 ?873次閱讀
    <b class='flag-5'>Spring</b>事務<b class='flag-5'>實現</b>原理

    如何使用gzip壓縮和解壓縮技術

    Nginx是一款高性能的Web服務器,它也能夠充當反向代理服務器和負載均衡器。在Web應用開發中,優化網站速度是一個非常重要的工作。使用gzip壓縮和解壓縮技術,可以有效減小傳輸文件的大小,提升網站的訪問速度。
    的頭像 發表于 09-29 15:57 ?499次閱讀

    JSON協議是什么,物聯網中的RTU中如何使用JSON協議和服務器交互

    一 概述 1.1 什么是 JSON JSON是JavaScript Object Notation的簡稱,中文含義為“JavaScript 對象表示法”,它是一種數據交換的文本格式,而不是一種編程
    的頭像 發表于 09-25 16:14 ?1059次閱讀
    <b class='flag-5'>JSON</b>協議是什么,物聯網中的RTU中如何使用<b class='flag-5'>JSON</b>協議和服務器交互

    Spring Cloud Gateway網關框架

    SpringCloud Gateway功能特征如下: (1) 基于Spring Framework 5, Project Reactor 和 Spring Boot 2.0 進行構建; (2) 動態路由:能夠匹配任何請求屬性;
    的頭像 發表于 08-22 09:58 ?545次閱讀
    <b class='flag-5'>Spring</b> Cloud Gateway網關框架

    單片機boot0和boot1怎么設置

    單片機Boot0和Boot1簡介 Boot0和Boot1是單片機啟動模式選擇引腳,用于選擇單片機的啟動模式。 Boot0和
    的頭像 發表于 08-22 09:50 ?3046次閱讀

    vue+spring boot人員定位系統源碼,實現實時定位、智慧調度、軌跡追蹤

    、機具、物料上定位標簽回傳的位置信息數據,采用多維定位模式,精確定位人、機具、物料的實時位置,實現實時定位、物料標簽配置、智慧調度、軌跡追蹤、工時統計、區域物料統計、電子圍欄等應用功能。 技術架構:java+ spring boot
    的頭像 發表于 08-08 14:27 ?858次閱讀
    vue+<b class='flag-5'>spring</b> <b class='flag-5'>boot</b>人員定位系統源碼,<b class='flag-5'>實現</b>實時定位、智慧調度、軌跡追蹤

    玩轉Spring狀態機

    說起Spring狀態機,大家很容易聯想到這個狀態機和設計模式中狀態模式的區別是啥呢?沒錯,Spring狀態機就是狀態模式的一種實現,在介紹Spring狀態機之前,讓我們來看看設計模式中
    的頭像 發表于 06-25 14:21 ?1030次閱讀
    玩轉<b class='flag-5'>Spring</b>狀態機

    UWB室內外高精度一體化融合定位系統源碼 UWB技術定位系統應用場景 Java+Spring boot+MYSQL?技術開發

    UWB室內外高精度一體化融合定位系統源碼 UWB技術定位系統應用場景 Java+Spring boot+MYSQL?技術開發 系統聚焦基于UWB(超寬帶)技術的底層定位網絡和定位算法,通過對定位分站
    的頭像 發表于 06-18 10:46 ?536次閱讀
    UWB室內外高精度一體化融合定位系統源碼 UWB技術定位系統應用場景 Java+<b class='flag-5'>Spring</b> <b class='flag-5'>boot</b>+MYSQL?技術開發

    ?PLC設備通過智能網關采用HTTP協議JSON文件對接MES、ERP等系統平臺

    ,字符可自由修改,舉例只是為了描述各種JSON文件的結構實現。MQTT協議的發布/訂閱也是同樣的對應方式。具體如下: 多個Key:Value的同級組合: 包含子對象: 增加時間戳,多種格式可以
    發表于 05-13 12:04

    Python壓縮和解壓縮實現代碼分享

    壓縮和解壓縮是日常常用的操作,不管是windows上圖形界面的操作,還是linux上用命令來進行壓縮壓縮,總的而言都還是比較方便的。
    的頭像 發表于 04-11 11:28 ?1125次閱讀

    SpingBoot的5個擴展點,超級實用!

    我們在啟動Spring Boot項目的時候,是執行這樣一個方法來啟動的
    的頭像 發表于 02-22 11:28 ?531次閱讀
    SpingBoot的5個擴展點,超級實用!
    百家乐官网创立几年了| 百家乐官网里靴是什么意识| 海立方百家乐官网的玩法技巧和规则 | 威尼斯人娱乐场网站| 新澳博国际娱乐| 新利娱乐| 百家乐官网娱乐网真钱游戏| 沙龙百家乐怎申请| 全讯网新2网址| 如何玩百家乐官网扑克| 方形百家乐官网筹码| 威尼斯人娱乐场积分| 百家乐官网概率投注| 91百家乐官网的玩法技巧和规则 | 德州扑克明星| 百家乐官网赌场代理| 百家乐桌保险| 香港六合彩管家婆| 百家乐官网送现金200| 环球百家乐的玩法技巧和规则| 古交市| 真人百家乐开户须知| 马牌娱乐场| 百家乐官网博娱乐网赌百家乐官网的玩法技巧和规则 | 百家乐在线娱乐平台| 皇家国际娱乐| 百家乐官网事一箩筐的微博| 全讯网新2网址| 缅甸百家乐官网玩假吗| 红宝石百家乐娱乐城 | 金樽百家乐官网的玩法技巧和规则 | 澳门百家乐官网才能| 百家乐五种路单规| 百家乐官网U盘下载| 网上百家乐娱乐场| 尊龙网上娱乐| 百家乐官网波音独家注册送彩| 大发888娱乐城 casino| 真人百家乐官网赌场娱乐网规则 | 实战百家乐官网十大取胜原因百分百战胜百家乐官网不买币不吹牛只你能做到按我说的.百家乐官网基本规则 | 如何打百家乐的玩法技巧和规则|