5個實用的Pandas技巧

2020-08-12 16:40:55

作者|RAM DEWANI 編譯|VK 來源|Analytics Vidhya

介紹

效率已成爲及時完成工作的關鍵因素。一個人不應該花超過合理的時間去完成事情。尤其是當任務涉及基本編碼時。使用Pandas庫能節省你的時間。

Pandas是一個開源包。它有助於用Python語言執行數據分析和數據操作。此外,它還爲我們提供了靈活的數據結構。

目錄

  • Pandas技巧1–行的條件選擇

  • Pandas技巧2–數據的儲存

  • Pandas技巧3–分組數據

  • Pandas技巧4–Pandas map

  • Pandas技巧5–Pandas DataFrame的條件格式化

Pandas技巧1–行的條件選擇

首先,數據探索是必要步驟。Pandas爲進行各種分析提供了一種快速簡便的方法。其中一個非常重要的技巧是根據條件選擇行或過濾數據。

行的條件選擇可以基於由邏輯運算子分隔的單個語句中的單個條件或多個條件。

例如,我使用一個關於貸款預測的數據集。

我們將挑選一排還沒有畢業、收入低於5400英鎊的客戶。讓我們看看我們該怎麼做。

視訊:https://youtu.be/hc4or_RF5M8

import pandas as pd
data = pd.read_csv('../Data/loan_train.csv')
data.head()
data2 = data.loc[(data['Education'] == 'Not Graduate') & (data['ApplicantIncome'] <= 5400)]
data2

注意:記住把每個條件放在括號內。

Pandas技巧2–數據的儲存

數據可以有兩種型別-連續的和離散的,這取決於我們的分析要求。有時我們不需要連續變數中的精確值,但需要它所屬的羣體。

例如,你的數據中有一個連續變數,年齡。但你需要一個年齡組來進行分析,比如兒童、青少年、成人、老年人。實際上,Binning非常適合解決我們這裏的問題。

爲了執行Binning,我們使用cut()函數。這對於從連續變數到離散變數非常有用。

視訊:https://youtu.be/WQagYXIFjns

import pandas as pd

df = pd.read_csv('titanic.csv')
from sklearn.utils import shuffle

# 隨機化
df = shuffle(df, random_state = 42)

df.head()

bins = [0,4,17,65,99]
labels =['Toddler','Child','Adult','Elderly']

category = pd.cut(df['Age'], bins = bins, labels = labels)

df.insert(2, 'Age Group', category)

df.head()

df['Age Group'].value_counts()

df.isnull().sum()

程式碼:https://github.com/kunalj101/Data-Science-Hacks/blob/master/Code/binning_data.ipynb

Pandas技巧3–分組數據

這種操作在數據科學家和分析師的日常生活中經常執行。Pandas提供了一個基本的函數來執行數據分組,即Groupby。

Groupby操作包括根據特定條件拆分物件,應用函數,然後組合結果。

讓我們再看一次貸款預測數據集,假設我想看看給來自不同財產領域的人的平均貸款額,比如農村、半城市和城市。花點時間來理解這個問題陳述並思考如何解決它。

嗯,Pandas的groupby可以非常有效地解決這個問題。首先根據屬性區域劃分數據。其次,我們將mean()函數應用於每個類別。最後,我們將它們組合在一起,並將其列印爲新的數據幀。

視訊:https://youtu.be/fK-6ZlPvZYU

#匯入數據集
import pandas as pd

df = pd.read_csv('../Data/loan_train.csv')
df.head()

# 男女平均收入
df.groupby(['Gender'])[['ApplicantIncome']].mean()

# 平均貸款金額不同的財產地區,如城市,農村
df.groupby(['Property_Area'])[['LoanAmount']].mean()

# 比較不同教育背景的貸款狀況
df.groupby(['Education'])[['Loan_Status']].count()

程式碼:https://github.com/kunalj101/Data-Science-Hacks/blob/master/Code/groupby_in_pandas.ipynb

Pandas技巧4–Pandas map

map是另一個提供高度靈活性和實際應用的重要操作。

Pandas map()用於根據輸入對應關係將序列中的每個值對映到其他值。實際上,這個輸入可以是一個序列、字典,甚至是一個函數。

讓我們舉一個有趣的例子。我們有一個虛擬的僱員數據集。此數據集由以下列組成–姓名、年齡、職業、城市。

現在需要新增另一列,說明相應的狀態。你會怎麼做?如果數據集的範圍是10行,你可以手動執行,但是如果有數千行呢?使用Pandas map會更有利。

視訊:https://youtu.be/XkwQOy5RZWY

#樣本數據
data = {'name': ['A', 'B', 'C', 'D', 'E'], 
        'age': [22, 26, 33, 44, 50],
        'profession' : ['data engineer', 'data scientist', 'entrepreneur', 'business analyst', 'self-employed'], 
        'city': ['Gurgaon', 'Bangalore', 'Gurgaon', 'Pune', 'New Delhi']}

df = pd.DataFrame(data)
df

# 城市與州
map_city_to_states = { 'Gurgaon' : 'Haryana', 
                  'Bangalore' : 'Karnataka', 
                  'Pune' : 'Maharashtra', 
                  'New Delhi' : 'Delhi'}

# 將城市列對映爲州
df['state'] = df['city'].map(map_city_to_states)
df

程式碼:https://github.com/kunalj101/Data-Science-Hacks/blob/master/Code/map%20python.ipynb

Pandas技巧5–Pandas DataFrame的條件格式化

這是我最喜歡的Pandas技巧之一。這個技巧讓我有能力直觀地定位特定條件下的數據。

可以使用Pandas的style屬性將條件格式應用於數據框。事實上,條件格式是根據某種條件對數據幀應用視覺樣式的操作。

雖然Pandas提供了大量的操作,但我將在這裏向你展示一個簡單的操作。例如,我們有對應於每個銷售人員的銷售數據。我想檢視的是銷售價值高於80的。

視訊:https://youtu.be/vuirWysk_BA

import pandas as pd

data = pd.read_excel("../Data/salesman_performance.xlsx")
data

data.style

def highlight_green(sales):
    color = 'green' if sales > 80 else 'black'
    return 'color: %s' % color

formatting = data.iloc[:,1:6].style.applymap(highlight_green)
formatting

程式碼:https://github.com/kunalj101/Data-Science-Hacks/blob/master/Code/Pandas_conditional_formatting.ipynb

結尾

在這篇文章中,我們總結了Pandas的5個技巧。我希望這些技巧能幫助你完成日常的任務,併爲你節省很多時間。

原文鏈接:https://www.analyticsvidhya.com/blog/2020/07/5-striking-pandas-tips-and-tricks-for-analysts-and-data-scientists/

歡迎關注磐創AI部落格站: http://panchuang.net/

sklearn機器學習中文官方文件: http://sklearn123.com/

歡迎關注磐創部落格資源彙總站: http://docs.panchuang.net/