超级会员免费看
处理类别不平衡数据：方法与评估
在机器学习领域，类别不平衡数据是一个常见且棘手的问题。例如在信用卡欺诈检测数据集中，仅有 0.17% 的数据点被标记为欺诈，其余 99.83% 是正常交易。这种严重的类别不平衡使得传统算法难以学习到少数类（欺诈交易）的模式，从而影响预测的准确性。下面将详细介绍处理类别不平衡数据的方法和评估指标。
1. 平衡技术
为了解决类别不平衡问题，有多种平衡技术可供选择，下面详细介绍其中几种常见的方法。
1.1 基于随机采样的方法
经典算法在平衡数据集上通常能表现出较好的准确性。因此，随机复制少数类样本或随机移除多数类数据点是一种简单有效的解决方案。常见的做法是在应用分类算法之前，结合使用随机过采样和欠采样。
- 随机过采样 ：通过复制少数类样本，增加少数类的样本数量，以达到类别平衡。
- 随机欠采样 ：随机移除多数类样本，减少多数类的样本数量，使类别比例更加均衡。
1.2 SMOTE 过采样
随机过采样可能会导致分类器的损失增加，因为简单地复制少数类样本可能会引入噪声。为了克服这个问题，SMOTE（Synthetic Minority Over-sampling Technique）被提出。SMOTE 可以人工创建特定少数类的合成样本，其工作步骤如下：
1. 确定最近邻 ：使用传统的欧几里得距离，从少数类 X 中识别 k 个最近邻，其中 $k = ceil(\frac{n}{100})$，n 为过采样百分比。欧几里得距离公式为：
[d(P,
订阅专栏 解锁全文
扫一扫
259
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
