类别特征主要指的是那些在有限选项内取值的特征,例如成绩(高中低)、性别(男,女)、血型(A、B、AB、O)等。对于这类特征,我们该如何表示呢?以下是三种常见的方法:序列编码、二进制编码和独热编码。
序列编码适用于类别间存在顺序关系的情况。例如,成绩分为高中低三种等级,它们之间存在高低关系,可以表示为“低<中<高”。因此,我们可以给这些等级分配数字,不仅将其数字化,还表达了它们之间的顺序关系。例如,可以用3表示高、2表示中、1表示低。
二进制编码可以通过两步操作实现。首先,利用序列编码对类别进行编号,然后将这些编号转换为二进制形式。以性别为例,假设我们将男性编码为1,女性编码为0,再将其转换为二进制形式。这样,男性就可以表示为01,女性可以表示为10。二进制编码本质上是通过二进制数对类别进行哈希映射,从而得到唯一的二进制表示。
接下来,我们将介绍独热编码。