Introduction

對於新手在做資料的特徵工程時，會看到 Label Encoding 或 One Hot Encoding 兩種對於類別行資料的編碼方式，那他們之間究竟有什麼不同呢？

直接講結論：

  • 原始資料是有序離散值的話 => Label Encoding
  • 原始資料是無序離散值的話 => One Hot Encoding (Dummies)

為什麼要將離散轉數值？

因為大部分的模型都是基於數學運算，所以字串資料是無法運算的

為什麼要將無序轉 One-Hot？

所謂數學運算一般泛指用距離代表相似（幾何觀點），意思是會用轉換後的兩個值的差距作為其相似程度。

舉個例子：

如果將性別欄位的男/女轉換成 0, 1 ，二元的沒問題

如果講水果這個無序欄位中的頻果、香蕉、西瓜，Label 成0, 1, 2 會隱含著「香蕉跟蘋果」比「西瓜跟蘋果」還要相似的意義，但這樣是錯誤的。

如果是年齡這個有序欄位的老年、中年、少年，Label 成 0, 1, 2 就很恰當，到如果硬轉成 One-Hot 反而將這個差距關係給拿掉。

在 Python 中實現

很巧的是，在 Python Pandas 跟 SciKit-Learn 兩個套件中都有提供編碼的操作。以下分別示範用法的不同：

① LabelEncoding

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

df = pd.DataFrame({'size':['XXL', 'XL', 'L', 'M', 'S']})



# Using Pandas

import pandas as pd

cat = pd.Categorical(df['size'], categories=df['size'].unique(), ordered=True))

df['size_code'] = cat.codes



# Using sklearn

from sklearn import preprocessing

le = preprocessing.LabelEncoder()

le.fit(df['tw'])

le.transform(df['size'])

② One Hot Encoding (Dummies)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

# Using Pandas

df = pd.DataFrame({'A': ['a', 'b', 'a'], 'B': ['b', 'a', 'c'])

pd.get_dummies(df)



# Using sklearn

enc = preprocessing.OneHotEncoder()

enc.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])

enc.transform([[0, 1, 3]]).toarray()

複製代碼要注意的是，他們都是同樣的動作，僅是不同的套件而已。

License


本著作由 Chang, Wei-Yaun (v123582) 製作，
以創用CC 姓名標示-相同方式分享 3.0 Unported授權條款釋出。