前言

如果你曾经完成过一些数据科学项目，你会发现80%的准确率已经很不错了。然而，在实际工作中，80%的准确率往往是不够的。实际上，在我工作的大部分公司，最低期望准确率至少为90%。为了显著提高准确率，我会与你分享五个实用技巧。我强烈建议你仔细阅读这五个技巧，因为它们包含了很多细节，而这些细节通常不是初学者所熟知的。

通过本文，你将了解到影响机器学习模型性能的因素比你想象的要多得多。接下来，我会介绍五个可以帮助你改善机器学习模型的技巧。

1. 处理缺失值

处理缺失值是数据科学中常见的挑战之一。虽然许多资料建议使用平均值填充缺失值，但这并不总是最佳方法。例如，如果一个80岁的老人缺少健康评分，如果我们用所有年龄段的平均值来估算，结果可能不准确。因此，首先需要思考的是数据为何会缺失。

除了平均值填充外，还有其他几种处理缺失值的方法： - 特征预测建模：通过建立特征间的关系模型，来预测缺失值。 - K最近邻填充：利用K最近邻算法找到相似样本，用其值来填充缺失值。 - 删除行：在数据量较大的情况下，可以考虑删除含有缺失值的行。

2. 特征工程

特征工程是提升模型性能的重要手段，它涉及将原始数据转化为更有意义的特征。特征工程没有固定的方法，因此它既是科学也是艺术。你可以尝试以下方法： - 日期时间转换：将日期时间变量转换为更具信息量的形式，如周几、月份等。 - 变量分桶：将连续变量分组，使其更容易理解。 - 组合特征：创建新的特征，比如“是否女性或儿童”这种二元特征。

3. 特征选择

特征选择是指选择数据集中最具相关性的特征。过多的特征可能导致过拟合，而过少则可能导致欠拟合。以下是两种常用的选择方法： - 特征重要性：利用随机森林或XGBoost等算法来评估特征的重要性。 - 降维：使用主成分分析（PCA）等技术将高维度数据简化为低维度数据。

4. 集成学习算法

集成学习算法是提升模型性能的一种简单方法。这种方法通过结合多个学习算法来提高预测效果。流行的集成学习算法包括随机森林、XGBoost、梯度提升和AdaBoost等。例如，随机森林通过自助采样和决策树的组合，减少了单棵决策树出错的风险。

5. 超参数调整

虽然超参数调整不常被提及，但它对于优化模型至关重要。了解你所使用的模型的超参数是关键。例如，随机森林中的min_impurity_decrease参数可以用来调整模型的宽容度。

结语

通过本文，你将获得将模型准确率从80%提升至90%以上的更多思路。这些技巧将帮助你在未来的数据科学项目中取得更好的成果。

作者简介

Terence S，数据科学、数据分析及MBA专业。

原文链接

https://towardsdatascience.com/how-i-consistently-improve-my-machine-learning-models-from-80-to-over-90-accuracy-6097063e1c9a

关注我并分享此篇文章，私信我“支付材料”，即可免费获得InfoQ价值4999元迷你书！