1. 業務背景
是這樣的,業務背景是公司的內部系統有一個廣告保存接口,需要ADX那邊將投放的廣告數據進行保存供后續使用。 廣告數據大概長這樣:
- adName是廣告名字
- adTag是廣告渲染的HTML代碼,超級大數據庫中都是用text類型來存放的,我看到最大的adTag足足有60kb大小…
{
"adName":"",
"adTag":""
}
因此,對與請求數據那么大的接口我們肯定是需要作一個優化的否則太大的數據傳輸有以下幾個弊端:
為了克服這幾個問題團隊中的老鳥產生一個想法:
請求廣告保存接口時先將Json對象字符串進行GZIP壓縮,那請求時傳入的就是壓縮后的數據,而GZIP的壓縮效率是很高的,因此可以大大減小傳輸數據,而當數據到達廣告保存接口前再將傳來的數據進行解壓縮,還原成JSON對象就完成了整個GZIP壓縮數據的請求以及處理流程。
其實這樣做也存在著弊端:
-
請求變復雜了
- 接口調用方那邊需要對數據進行壓縮
- 接口執行方那邊需要對拿到的數據進行解壓
-
需要額外占用更多的CPU計算資源
-
可能會影響到原有的其他接口
對于以上幾點基于我們公司當前的業務可以這樣解決:
- 對與需要占用而外的CPU計算資源來說,公司的內部系統屬于IO密集型應用,因此用一些CPU資源來換取更快的網絡傳輸其實是很劃算的
- 使用過濾器在請求數據到達Controller之前對數據進行解壓縮處理后重新寫回到Body中,避免影響Controller的邏輯,代碼零侵入
- 而對于改造接口的同時是否會影響到原來的接口這一點可以通過 HttpHeader 的Content-Encoding=gzip屬性來區分是否需要對請求數據進行解壓縮
那廢話少說,下面給出實現方案
基于 Spring Boot + MyBatis Plus + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能
- 項目地址:https://github.com/YunaiV/ruoyi-vue-pro
- 視頻教程:https://doc.iocoder.cn/video/
2. 實現思路
前置知識:
- Http 請求結構以及Content-Encoding 屬性
- gzip壓縮方式
- Servlet Filter
- HttpServletRequestWrapper
- Spring Boot
- Java 輸入輸出流
實現流程圖:
![e6600140-711c-11ed-8abf-dac502259ad0.png](https://file1.elecfans.com//web2/M00/98/33/wKgZomTnVgKAO3spAAE-Amfwrh0575.png)
核心代碼:
創建一個SpringBoot項目,先編寫一個接口,功能很簡單就是傳入一個Json對象并返回,以模擬將廣告數據保存到數據庫
/**
*@ClassName:ProjectController
*@Authorzhangjin
*@Date2022/3/2420:41
*@Description:
*/
@Slf4j
@RestController
publicclassAdvertisingController{
@PostMapping("/save")
publicAdvertisingsaveProject(@RequestBodyAdvertisingadvertising){
log.info("獲取內容"+advertising);
returnadvertising;
}
}
/**
*@ClassName:Project
*@Authorzhangjin
*@Date2022/3/2420:42
*@Description:
*/
@Data
publicclassAdvertising{
privateStringadName;
privateStringadTag;
}
編寫并注冊一個攔截器
/**
*@ClassName:GZIPFilter
*@Authorzhangjin
*@Date2022/3/260:36
*@Description:
*/
@Slf4j
@Component
publicclassGZIPFilterimplementsFilter{
privatestaticfinalStringCONTENT_ENCODING="Content-Encoding";
privatestaticfinalStringCONTENT_ENCODING_TYPE="gzip";
@Override
publicvoidinit(FilterConfigfilterConfig)throwsServletException{
log.info("initGZIPFilter");
}
@Override
publicvoiddoFilter(ServletRequestservletRequest,ServletResponseservletResponse,FilterChainfilterChain)throwsIOException,ServletException{
longstart=System.currentTimeMillis();
HttpServletRequesthttpServletRequest=(HttpServletRequest)servletRequest;
StringencodeType=httpServletRequest.getHeader(CONTENT_ENCODING);
if(CONTENT_ENCODING_TYPE.equals(encodeType)){
log.info("請求:{}需要解壓",httpServletRequest.getRequestURI());
UnZIPRequestWrapperunZIPRequestWrapper=newUnZIPRequestWrapper(httpServletRequest);
filterChain.doFilter(unZIPRequestWrapper,servletResponse);
}
else{
log.info("請求:{}無需解壓",httpServletRequest.getRequestURI());
filterChain.doFilter(servletRequest,servletResponse);
}
log.info("耗時:{}ms",System.currentTimeMillis()-start);
}
@Override
publicvoiddestroy(){
log.info("destroyGZIPFilter");
}
}
/**
*@ClassName:FilterRegistration
*@Authorzhangjin
*@Date2022/3/260:36
*@Description:
*/
@Configuration
publicclassFilterRegistration{
@Resource
privateGZIPFiltergzipFilter;
@Bean
publicFilterRegistrationBeangzipFilterRegistrationBean() {
FilterRegistrationBeanregistration=newFilterRegistrationBean<>();
//Filter可以new,也可以使用依賴注入Bean
registration.setFilter(gzipFilter);
//過濾器名稱
registration.setName("gzipFilter");
//攔截路徑
registration.addUrlPatterns("/*");
//設置順序
registration.setOrder(1);
returnregistration;
}
}
實現RequestWrapper實現解壓和寫回Body的邏輯
/**
*@ClassName:UnZIPRequestWrapper
*@Authorzhangjin
*@Date2022/3/2611:02
*@Description:JsonString經過壓縮后保存為二進制文件->解壓縮后還原成JsonString轉換成byte[]寫回body中
*/
@Slf4j
publicclassUnZIPRequestWrapperextendsHttpServletRequestWrapper{
privatefinalbyte[]bytes;
publicUnZIPRequestWrapper(HttpServletRequestrequest)throwsIOException{
super(request);
try(BufferedInputStreambis=newBufferedInputStream(request.getInputStream());
ByteArrayOutputStreambaos=newByteArrayOutputStream()){
finalbyte[]body;
byte[]buffer=newbyte[1024];
intlen;
while((len=bis.read(buffer))>0){
baos.write(buffer,0,len);
}
body=baos.toByteArray();
if(body.length==0){
log.info("Body無內容,無需解壓");
bytes=body;
return;
}
this.bytes=GZIPUtils.uncompressToByteArray(body);
}catch(IOExceptionex){
log.info("解壓縮步驟發生異常!");
ex.printStackTrace();
throwex;
}
}
@Override
publicServletInputStreamgetInputStream()throwsIOException{
finalByteArrayInputStreambyteArrayInputStream=newByteArrayInputStream(bytes);
returnnewServletInputStream(){
@Override
publicbooleanisFinished(){
returnfalse;
}
@Override
publicbooleanisReady(){
returnfalse;
}
@Override
publicvoidsetReadListener(ReadListenerreadListener){
}
publicintread()throwsIOException{
returnbyteArrayInputStream.read();
}
};
}
@Override
publicBufferedReadergetReader()throwsIOException{
returnnewBufferedReader(newInputStreamReader(this.getInputStream()));
}
}
附上壓縮工具類
publicclassGZIPUtils{
publicstaticfinalStringGZIP_ENCODE_UTF_8="UTF-8";
/**
*字符串壓縮為GZIP字節數組
*@paramstr
*@return
*/
publicstaticbyte[]compress(Stringstr){
returncompress(str,GZIP_ENCODE_UTF_8);
}
/**
*字符串壓縮為GZIP字節數組
*@paramstr
*@paramencoding
*@return
*/
publicstaticbyte[]compress(Stringstr,Stringencoding){
if(str==null||str.length()==0){
returnnull;
}
ByteArrayOutputStreamout=newByteArrayOutputStream();
GZIPOutputStreamgzip;
try{
gzip=newGZIPOutputStream(out);
gzip.write(str.getBytes(encoding));
gzip.close();
}catch(IOExceptione){
e.printStackTrace();
}
returnout.toByteArray();
}
/**
*GZIP解壓縮
*@parambytes
*@return
*/
publicstaticbyte[]uncompress(byte[]bytes){
if(bytes==null||bytes.length==0){
returnnull;
}
ByteArrayOutputStreamout=newByteArrayOutputStream();
ByteArrayInputStreamin=newByteArrayInputStream(bytes);
try{
GZIPInputStreamungzip=newGZIPInputStream(in);
byte[]buffer=newbyte[256];
intn;
while((n=ungzip.read(buffer))>=0){
out.write(buffer,0,n);
}
}catch(IOExceptione){
e.printStackTrace();
}
returnout.toByteArray();
}
/**
*解壓并返回String
*@parambytes
*@return
*/
publicstaticStringuncompressToString(byte[]bytes)throwsIOException{
returnuncompressToString(bytes,GZIP_ENCODE_UTF_8);
}
/**
*
*@parambytes
*@return
*/
publicstaticbyte[]uncompressToByteArray(byte[]bytes)throwsIOException{
returnuncompressToByteArray(bytes,GZIP_ENCODE_UTF_8);
}
/**
*解壓成字符串
*@parambytes壓縮后的字節數組
*@paramencoding編碼方式
*@return解壓后的字符串
*/
publicstaticStringuncompressToString(byte[]bytes,Stringencoding)throwsIOException{
byte[]result=uncompressToByteArray(bytes,encoding);
returnnewString(result);
}
/**
*解壓成字節數組
*@parambytes
*@paramencoding
*@return
*/
publicstaticbyte[]uncompressToByteArray(byte[]bytes,Stringencoding)throwsIOException{
if(bytes==null||bytes.length==0){
returnnull;
}
ByteArrayOutputStreamout=newByteArrayOutputStream();
ByteArrayInputStreamin=newByteArrayInputStream(bytes);
try{
GZIPInputStreamungzip=newGZIPInputStream(in);
byte[]buffer=newbyte[256];
intn;
while((n=ungzip.read(buffer))>=0){
out.write(buffer,0,n);
}
returnout.toByteArray();
}catch(IOExceptione){
e.printStackTrace();
thrownewIOException("解壓縮失敗!");
}
}
/**
*將字節流轉換成文件
*@paramfilename
*@paramdata
*@throwsException
*/
publicstaticvoidsaveFile(Stringfilename,byte[]data)throwsException{
if(data!=null){
Stringfilepath="/"+filename;
Filefile=newFile(filepath);
if(file.exists()){
file.delete();
}
FileOutputStreamfos=newFileOutputStream(file);
fos.write(data,0,data.length);
fos.flush();
fos.close();
System.out.println(file);
}
}
基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的后臺管理系統 + 用戶小程序,支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能
3. 測試效果
注意一個大坑:千萬不要直接將壓縮后的byte[]當作字符串進行傳輸,否則你會發現壓縮后的請求數據竟然比沒壓縮后的要大得多!一般有兩種傳輸壓縮后的byte[]的方式:
- 將壓縮后的byet[]進行base64編碼再傳輸字符串,這種方式會損失掉一部分GZIP的壓縮效果,適用于壓縮結果要存儲在Redis中的情況
- 將壓縮后的byte[]以二進制的形式寫入到文件中,請求時直接在body中帶上文件即可,用這種方式可以不損失壓縮效果
Postman測試Gzip壓縮數據請求:
- 請求頭指定數據壓縮方式:
![e66cba2a-711c-11ed-8abf-dac502259ad0.png](https://file1.elecfans.com//web2/M00/98/33/wKgZomTnVgKAJn0lAAD3dxCJy3w427.png)
- Body帶上壓縮后的byte[]寫入的二進制文件
![e67736f8-711c-11ed-8abf-dac502259ad0.png](https://file1.elecfans.com//web2/M00/98/33/wKgZomTnVgKABEtWAADNfThI5Js062.png)
- 執行請求,服務端正確處理了請求并且請求size縮小了將近一半,效果還是很不錯的,這樣GZIP壓縮數據的請求的處理就完成了,完整的項目代碼在下方
![e69f980a-711c-11ed-8abf-dac502259ad0.png](https://file1.elecfans.com//web2/M00/98/33/wKgZomTnVgKAVIAkAAP8Wo647xs744.png)
4. Demo地址
- https://gitee.com/wx_1bceb446a4/gziptest
審核編輯 :李倩
-
spring
+關注
關注
0文章
340瀏覽量
14388 -
傳輸數據
+關注
關注
1文章
127瀏覽量
16147 -
大數據
+關注
關注
64文章
8908瀏覽量
137791
原文標題:Spring Boot + Filter 實現 Gzip 壓縮超大 json 對象,傳輸耗時大大減少
文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
think-cell——使用JSON數據實現自動化(一)
![think-cell——使用<b class='flag-5'>JSON</b>數據<b class='flag-5'>實現</b>自動化(一)](https://file1.elecfans.com/web3/M00/04/8A/wKgZPGd2JyaAF1LTAAAwCZsElnc512.png)
校園點餐訂餐外賣跑腿Java源碼
![校園點餐訂餐外賣跑腿Java源碼](https://file1.elecfans.com/web2/M00/01/88/wKgZoma12kuAW8bCAAC3AW_syTQ129.png)
SSM開發環境的搭建教程 SSM與Spring Boot的區別
Spring 應用合并之路(二):峰回路轉,柳暗花明
Spring事務實現原理
![<b class='flag-5'>Spring</b>事務<b class='flag-5'>實現</b>原理](https://file1.elecfans.com//web2/M00/0B/1B/wKgZomctcxKAXsmhAAEMko_SUCM423.png)
如何使用gzip壓縮和解壓縮技術
JSON協議是什么,物聯網中的RTU中如何使用JSON協議和服務器交互
![<b class='flag-5'>JSON</b>協議是什么,物聯網中的RTU中如何使用<b class='flag-5'>JSON</b>協議和服務器交互](https://file1.elecfans.com//web2/M00/07/F1/wKgZombzxmuAEibqAAAaD3qYSfA535.jpg)
Spring Cloud Gateway網關框架
![<b class='flag-5'>Spring</b> Cloud Gateway網關框架](https://file1.elecfans.com/web2/M00/04/A6/wKgaombGkiKAAwa1AAE-bJwRAe8680.png)
單片機boot0和boot1怎么設置
vue+spring boot人員定位系統源碼,實現實時定位、智慧調度、軌跡追蹤
![vue+<b class='flag-5'>spring</b> <b class='flag-5'>boot</b>人員定位系統源碼,<b class='flag-5'>實現</b>實時定位、智慧調度、軌跡追蹤](https://file1.elecfans.com/web2/M00/01/43/wKgZoma0ZG2AdMnzAA7KFcPQfdw999.png)
玩轉Spring狀態機
![玩轉<b class='flag-5'>Spring</b>狀態機](https://file1.elecfans.com//web2/M00/F3/2C/wKgaomZ46Y6AHiVCAACxvB4H4AM171.png)
UWB室內外高精度一體化融合定位系統源碼 UWB技術定位系統應用場景 Java+Spring boot+MYSQL?技術開發
![UWB室內外高精度一體化融合定位系統源碼 UWB技術定位系統應用場景 Java+<b class='flag-5'>Spring</b> <b class='flag-5'>boot</b>+MYSQL?技術開發](https://file1.elecfans.com/web2/M00/EF/BA/wKgZomZw9MOAMdJ0AAF1z2Esq-o805.png)
評論