机器学习中的正则化

正则化的主要作用是降低模型过拟合风险，因此，阅读本文前可以先了解一下 过拟合与欠拟合，再来看正则化相关的知识。 正则化了解正则化前，需要先了解范数（Norm）。 范数范数可以理解为“距离”的抽象定义，日常生活中我们提到的“距离”其实是欧氏距离（下文即将介绍），也就是 $l_2$范数。 设 $p\geq1$，关于向量 $\boldsymbol{x}=(x_1, x_2, …, x_n)$
机器学习
#过拟合 #正则化

机器学习中的过拟合与欠拟合

过拟合与欠拟合什么是过拟合与欠拟合？过拟合是指模型对于训练数据拟合呈过当的情况，反映到评估指标上，就是模型在训练集上的表现很好，但在测试集和新数据上的表现较差。欠拟合指的是模型在训练和预测时表现都不好的情况。下图形象地描述了过拟合和欠拟合的区别。 可以看出，图（a）是欠拟合的情况，拟合的黄线没有很好地捕捉到数据的特征，不能够很好地拟合数据。图（c）则是过拟合的情况，模型过于复杂，把噪声数据的特
机器学习
#过拟合 #欠拟合

常用的机器学习模型评估指标

本文根据任务类型分类整理了常用的机器学习模型评估指标。 1. 分类任务1.1 混淆矩阵[1]混淆矩阵是用于评估分类模型性能的 $N \times N$ 矩阵，其中 $N$ 是目标类的数量（本文以二分类为例讲解分类任务指标）。 图片来自：confusion-matrix 在二分类中，根据样本的真实标签和模型预测结果，可以将所有测试样本分为四类： TP（True Positive）：被正确预
机器学习
#评估指标 #混淆矩阵