衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

一些提升或加速日常數(shù)據(jù)分析工作的技巧

數(shù)據(jù)分析與開發(fā) ? 來源:機器之心 ? 2020-08-27 15:08 ? 次閱讀

本文列舉了一些提升或加速日常數(shù)據(jù)分析工作的技巧,包括:

1. Pandas Profiling 2. 使用 Cufflinks 和 Plotly 繪制 Pandas 數(shù)據(jù) 3. IPython 魔術(shù)命令 4. Jupyter 中的格式編排 5. Jupyter 快捷鍵 6. 在 Jupyter(或 IPython)中使一個單元同時有多個輸出 7. 為 Jupyter Notebook 即時創(chuàng)建幻燈片

1. Pandas Profiling

該工具效果明顯。下圖展示了調(diào)用 df.profile_report() 這一簡單方法的結(jié)果:

使用該工具只需安裝和導(dǎo)入 Pandas Profiling 包。

本文不再詳述這一工具,如欲了解更多,請閱讀:https://towardsdatascience.com/exploring-your-data-with-just-1-line-of-python-4b35ce21a82d

2. 使用 Cufflinks 和 Plotly 繪制 Pandas 數(shù)據(jù)

「經(jīng)驗豐富的」數(shù)據(jù)科學(xué)家或數(shù)據(jù)分析師大多對 matplotlib 和 pandas 很熟悉。也就是說,你只需調(diào)用 .plot() 方法,即可快速繪制簡單的 pd.DataFrame 或 pd.Series:

有點無聊?

這已經(jīng)很好了,不過是否可以繪制一個交互式、可縮放、可擴展的全景圖呢?是時候讓 Cufflinks* *出馬了!(Cufflinks 基于 Plotly 做了進一步的包裝。)

在環(huán)境中安裝 Cufflinks,只需在終端中運行! pip install cufflinks --upgrade 即可。查看下圖:

效果好多了!

注意,上圖唯一改變的是 Cufflinks cf.go_offline() 的導(dǎo)入和設(shè)置,它將 .plot() 方法變?yōu)?.iplot()。

其他方法如 .scatter_matrix() 也可以提供非常棒的可視化結(jié)果:

需要做大量數(shù)據(jù)可視化工作的朋友,可以閱讀 Cufflinks 和 Plotly 的文檔,發(fā)現(xiàn)更多方法。

Cufflinks 文檔:https://plot.ly/ipython-notebooks/cufflinks/

Plotly 文檔:https://plot.ly/

3. IPython 魔術(shù)命令

IPython 的「魔術(shù)」是 IPython 基于 Python 標(biāo)準(zhǔn)語法的一系列提升。魔術(shù)命令包括兩種方法:行魔術(shù)命令(line magics):以 % 為前綴,在單個輸入行上運行;單元格魔術(shù)命令(cell magics):以 %% 為前綴,在多個輸入行上運行。下面列舉了 IPython 魔術(shù)命令提供的一些有用功能:

%lsmagic:找出全部命令

如果你只記得一個魔術(shù)命令,那必須得是這一個。執(zhí)行 %lsmagic 命令將提供所有可用魔術(shù)命令的列表:

%debug:交互式 debug

這可能是我最常使用的魔術(shù)命令了。

大部分?jǐn)?shù)據(jù)科學(xué)家都遇到過這種情況:執(zhí)行的代碼塊一直 break,你絕望地寫了 20 個 print() 語句,想輸出每個變量的內(nèi)容。然后,當(dāng)你最終修復(fù)問題后,你還得返回并再次刪除所有 print() 語句。

不過以后再也不用這樣了。遇到問題后只需執(zhí)行 %debug 命令,即可執(zhí)行想要運行的任意代碼部分:

上圖中發(fā)生了什么?

我們有一個函數(shù),它以列表為輸入,并對所有的偶數(shù)取平方值。

我們運行函數(shù),但是出了些問題。但是我們并不知道怎么回事!

對該函數(shù)使用%debug 命令。

讓調(diào)試器告訴我們 x 和 type(x) 的值。

問題顯而易見:我們把 6 作為字符串輸入到函數(shù)中了!

這對于更復(fù)雜的函數(shù)非常有用。

%store:在 notebook 之間傳遞變量

這個命令也很酷。假設(shè)你花了一些時間清洗 notebook 中的數(shù)據(jù),現(xiàn)在你想在另一個 notebook 中測試一些功能,那么你是在同一個 notebook 中實現(xiàn)該功能,還是保存數(shù)據(jù)并在另一個 notebook 中加載數(shù)據(jù)呢?使用%store 命令后,這些操作都不需要!該命令將存儲變量,你可以在其他任意 notebook 中檢索該變量:

%store [variable] 存儲變量。

%store -r [variable] 讀取/檢索存儲變量。

%who:列出所有全局變量。

你是否遇到過,為變量賦值后卻忘記變量名的情況?或者不小心刪掉了負(fù)責(zé)為變量賦值的單元格?使用%who 命令,你可以得到所有全局變量的列表:

%%time:計時魔法命令

使用該命令可以獲取所有計時信息。只需對任意可執(zhí)行代碼應(yīng)用%%time 命令,你就可以得到如下輸出:

%%writefile:向文件寫入單元格內(nèi)容

在 notebook 中寫復(fù)雜函數(shù)或類,且想將其保存到專屬文件中時,該魔法命令非常有用。只需為函數(shù)或類的單元格添加 %%writefile 前綴和想要保存到的文件名即可:

如上所示,我們可以將創(chuàng)建的函數(shù)保存到 utils.py 文件中,然后就可以隨意導(dǎo)入了。在其他 notebook 中也可以這樣,只要與 utils.py 文件屬于同一個目錄即可。

4. Jupyter 中的格式編排

這個工具很酷!Jupyter 考慮到 markdown 中存在 HTML / CSS 格式。以下是我最經(jīng)常使用的功能:

藍(lán)色、時尚:

Thisisfancy!
紅色、輕微慌張:

This is baaaaad!
綠色、平靜:

This is gooood!
下圖展示了它們的運行過程:

當(dāng)你想以 Notebook 格式呈現(xiàn)一些發(fā)現(xiàn)時,這非常有用!

5. Jupyter 快捷鍵

想了解和學(xué)習(xí)鍵盤快捷鍵,你可以使用命令面板:Ctrl + Shift + P,獲取 notebook 所有功能的列表。下面選取了幾個最基礎(chǔ)的命令:

Esc:進入命令模式。在命令模式內(nèi),你可以使用方向鍵在 notebook 內(nèi)進行導(dǎo)航。

在命令模式內(nèi):

A 和 B:在當(dāng)前單元格上方(Above)或下方(Below)插入新的單元格。

M:當(dāng)前單元格轉(zhuǎn)入 Markdown 狀態(tài)。

Y:當(dāng)前單元格轉(zhuǎn)入 code 狀態(tài)。

D,D:刪除當(dāng)前單元格。

Enter:當(dāng)前單元格回到編輯模式。

在編輯模式內(nèi):

Shift + Tab:為你在當(dāng)前單元格中鍵入的對象提供文檔字符串(文檔),持續(xù)使用該快捷鍵,可循環(huán)使用文檔模式。

Ctrl + Shift + -:在光標(biāo)所在處分割當(dāng)前單元格。

Esc + F:查找并替換代碼(不包括輸出)。

Esc + O:切換單元格輸出。

選擇多個單元格:

Shift + Down 和 Shift + Up:選中下方或上方的單元格。

Shift + M:合并選中單元格。

注意,選中多個單元格后,你可以批量執(zhí)行刪除/復(fù)制/剪切/粘貼/運行操作。

6. 在 Jupyter(或 IPython)中使一個單元同時有多個輸出

想展示 pandas DataFrame 的 .head() 和 .tail(),但由于創(chuàng)建運行 .tail() 方法的額外代碼單元過于麻煩而不得不中途放棄,你是否有過這樣的經(jīng)歷?現(xiàn)在不用怕了,你可以使用以下代碼行展示你想展示的輸出:

from IPython.core.interactiveshell import InteractiveShellInteractiveShell.ast_node_interactivity = "all" 下圖展現(xiàn)了多個輸出的結(jié)果:

7. 為 Jupyter Notebook 即時創(chuàng)建幻燈片

使用 RISE,你可以僅通過一次按鍵將 Jupyter Notebook 即時轉(zhuǎn)變?yōu)榛脽羝6?notebook 仍然處于活躍狀態(tài),你可以在展示幻燈片的同時執(zhí)行實時編碼! 要想使用該工具,你只需通過 conda 或 pip 安裝 RISE 即可。

conda install -c conda-forge rise 或者

pip install RISE

現(xiàn)在,你可以點擊新按鈕,為 notebook 創(chuàng)建不錯的幻燈片了:

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 可視化
    +關(guān)注

    關(guān)注

    1

    文章

    1200

    瀏覽量

    21036
  • 數(shù)據(jù)分析
    +關(guān)注

    關(guān)注

    2

    文章

    1461

    瀏覽量

    34168
  • python
    +關(guān)注

    關(guān)注

    56

    文章

    4807

    瀏覽量

    85041

原文標(biāo)題:掌握這 7 個 Python 技巧,數(shù)據(jù)分析不怕!

文章出處:【微信號:DBDevs,微信公眾號:數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    智能焊接數(shù)據(jù)分析設(shè)備提升工業(yè)效率與精度

    如何通過數(shù)據(jù)采集、分析與應(yīng)用,實現(xiàn)對焊接過程的精確控制,從而提升工業(yè)生產(chǎn)的整體水平。 首先,智能焊接數(shù)據(jù)分析設(shè)備的核心在于其強大的數(shù)據(jù)
    的頭像 發(fā)表于 01-15 14:11 ?109次閱讀

    智能焊接數(shù)據(jù)分析設(shè)備提升制造精度與效率

    不穩(wěn)定、生產(chǎn)效率低等問題。而智能焊接數(shù)據(jù)分析設(shè)備的應(yīng)用,則為解決這些問題提供了新的思路和技術(shù)手段。本文將探討智能焊接數(shù)據(jù)分析設(shè)備如何通過數(shù)據(jù)采集、分析及應(yīng)用,
    的頭像 發(fā)表于 01-14 09:36 ?89次閱讀

    NeuroBlade攜手亞馬遜EC2 F2實例,加速數(shù)據(jù)分析

    數(shù)據(jù)分析加速領(lǐng)域的領(lǐng)航者NeuroBlade,近日宣布與亞馬遜云科技(AWS)最新推出的Amazon Elastic Compute Cloud (Amazon EC2) F2實例實現(xiàn)深度集成。這
    的頭像 發(fā)表于 12-31 11:37 ?262次閱讀

    NVIDIA助力百度提升數(shù)據(jù)分析效能

    在現(xiàn)代商業(yè)環(huán)境中,數(shù)據(jù)分析已然成為企業(yè)獲取成功的關(guān)鍵所在。長期以來,百度廣告數(shù)據(jù)團隊始終面臨著極為復(fù)雜的數(shù)據(jù)分析挑戰(zhàn),其需要為逾千名用戶提供在線廣告業(yè)務(wù)分析服務(wù),而這些用戶涵蓋策略工程
    的頭像 發(fā)表于 11-20 10:06 ?260次閱讀

    eda與傳統(tǒng)數(shù)據(jù)分析的區(qū)別

    EDA(Exploratory Data Analysis,探索性數(shù)據(jù)分析)與傳統(tǒng)數(shù)據(jù)分析之間存在顯著的差異。以下是兩者的主要區(qū)別: 分析目的和方法論 EDA 目的 :EDA的主要
    的頭像 發(fā)表于 11-13 10:52 ?421次閱讀

    為什么選擇eda進行數(shù)據(jù)分析

    數(shù)據(jù)科學(xué)領(lǐng)域,數(shù)據(jù)分析個復(fù)雜且多步驟的過程,它涉及到數(shù)據(jù)的收集、清洗、探索、建模和解釋。在這些步驟中,探索性數(shù)據(jù)分析(EDA)扮演著至
    的頭像 發(fā)表于 11-13 10:41 ?308次閱讀

    raid 在大數(shù)據(jù)分析中的應(yīng)用

    的具體應(yīng)用: 、提高性能 并行讀寫 :RAID技術(shù)通過并行讀寫多個磁盤,可以顯著提高數(shù)據(jù)的讀寫速度。在大數(shù)據(jù)分析環(huán)境中,數(shù)據(jù)讀寫速度是影響分析
    的頭像 發(fā)表于 11-12 09:44 ?315次閱讀

    數(shù)據(jù)分析在數(shù)字化中的作用

    在當(dāng)今這個信息爆炸的時代,數(shù)據(jù)無處不在。從個人的日常活動到企業(yè)的商業(yè)決策,數(shù)據(jù)都在發(fā)揮著越來越重要的作用。數(shù)字化轉(zhuǎn)型,作為企業(yè)適應(yīng)這變化的關(guān)鍵策略,正逐漸成為各行各業(yè)的共識。 1.
    的頭像 發(fā)表于 10-27 17:35 ?714次閱讀

    使用AI大模型進行數(shù)據(jù)分析的技巧

    使用AI大模型進行數(shù)據(jù)分析的技巧涉及多個方面,以下是一些關(guān)鍵的步驟和注意事項: 、明確任務(wù)目標(biāo)和需求 在使用AI大模型之前,首先要明確數(shù)據(jù)分析的任務(wù)目標(biāo),這將直接影響模型的選擇、
    的頭像 發(fā)表于 10-23 15:14 ?1115次閱讀

    數(shù)據(jù)分析除了spss還有什么

    數(shù)據(jù)分析是當(dāng)今世界中個非常重要的領(lǐng)域,它涉及到從大量數(shù)據(jù)中提取有用信息、發(fā)現(xiàn)模式和趨勢,并為決策提供支持。SPSS(Statistical Package for the Social
    的頭像 發(fā)表于 07-05 15:01 ?714次閱讀

    數(shù)據(jù)分析的工具有哪些

    數(shù)據(jù)分析個涉及收集、處理、分析和解釋數(shù)據(jù)以得出有意義見解的過程。在這個過程中,使用正確的工具至關(guān)重要。以下是一些主要的
    的頭像 發(fā)表于 07-05 14:54 ?1065次閱讀

    數(shù)據(jù)分析有哪些分析方法

    數(shù)據(jù)分析種重要的技能,它可以幫助我們從大量的數(shù)據(jù)中提取有價值的信息,從而做出更明智的決策。在這篇文章中,我們將介紹數(shù)據(jù)分析的各種方法,包括描述性
    的頭像 發(fā)表于 07-05 14:51 ?751次閱讀

    機器學(xué)習(xí)在數(shù)據(jù)分析中的應(yīng)用

    隨著大數(shù)據(jù)時代的到來,數(shù)據(jù)量的爆炸性增長對數(shù)據(jù)分析提出了更高的要求。機器學(xué)習(xí)作為種強大的工具,通過訓(xùn)練模型從數(shù)據(jù)中學(xué)習(xí)規(guī)律,為企業(yè)和組織提
    的頭像 發(fā)表于 07-02 11:22 ?813次閱讀

    求助,關(guān)于AD采集到的數(shù)據(jù)分析問題

    問題描述:使用AD采集個10Hz到2MHz的脈沖,脈沖底部可能大于零,由采集到的數(shù)據(jù)分析出該脈沖的上升時間,幅值和占空比。 備注:在分析的時候已經(jīng)知道脈沖的頻率,精度為2X10^-5. 在
    發(fā)表于 05-09 07:40

    態(tài)勢數(shù)據(jù)分析系統(tǒng)軟件

    智慧華盛恒輝態(tài)勢分析軟件系統(tǒng)的功能描述、部署環(huán)境、界面使用、技術(shù)支持及一些常見問題及其解決辦法等。為數(shù)據(jù)態(tài)勢分析軟件系統(tǒng)的管理人員和使用人員提供說明。 智慧華盛恒輝態(tài)勢
    的頭像 發(fā)表于 04-22 11:36 ?492次閱讀
    网上百家乐靠谱吗| 百家乐破解方法技巧| 赌博百家乐的玩法技巧和规则| 大发888网页ban| 百家乐官网赌博出千| 不夜城百家乐官网的玩法技巧和规则 | 威尼斯人娱乐城海立方| 百家乐888| 菲律宾百家乐官网娱乐平台| 优博百家乐yobo88| 大发888游戏平台 34| 百家乐官网上分器定位器| 百家乐视频大厅| 大发888易付168 充值| 圣淘沙百家乐官网游戏| 沙龙百家乐破解| 大发888出纳| 百家乐官网信誉平台开户| 大世界百家乐娱乐城| 六合彩资料| 真人百家乐官网斗地主| 新东方百家乐的玩法技巧和规则| 沾化县| 利高百家乐现金网| 大发888缺少 casino| 百家乐官网送1000 | 为什么百家乐官网玩家越来越多选择网上百家乐官网 | 百家乐官网缆法排行榜| 星港城百家乐官网娱乐城| 百家乐真人游戏娱乐网| 商都县| 百家乐送彩金平台| 网上真钱麻将游戏| 做生意看风水| 机率游戏| 百家百家乐官网官网网站| 大发888游戏论坛| 罗浮宫百家乐官网的玩法技巧和规则| 百家乐平注秘籍| 澳门百家乐官网现场游戏| 深圳百家乐的玩法技巧和规则|