...线性模型———理论篇 线性回归模型、对数几率模型、线性判别分析...
发布网友
发布时间：2024-05-14 03:56
共1个回答
热心网友
时间：2024-07-21 13:29
接着，我们遇见对数几率回归，它以对数函数为纽带，将线性预测与真实标签紧紧相连，犹如一个魔术师，利用广义线性模型的魔力，通过最大似然估计揭示数据的秘密。然而，找到那个魔法公式并非易事，最大似然法就像是寻找宝藏的寻宝图，需要巧妙的优化技巧（梯度下降或牛顿法）来揭示。
线性判别分析（LDA），如同一个艺术家的构图技巧，将样本在空间中重新排列，使得同类间的亲密无间与异类间的距离感形成鲜明对比。它通过计算类间与类内的散度，目标是最大化它们之间的广义瑞利商，以此刻画数据的清晰边界。
当面对多分类的挑战，我们常常采用OvO（一对一）与OvR（一对一与剩余）这两种策略。OvO虽有更高的准确度，但存储和计算成本相对较高；OvR则反之，虽简单但可能牺牲一些性能。MvM（如ECOC）则另辟蹊径，通过纠错输出码，像拼图一样，分步骤解决多分类问题，既保持了效率，又不失准确性。
想象一下，就像一个复杂的密码系统，我们使用"编码矩阵"，如二元或三元编码，来赋予每个类别独特的标识。例如，图(a)中的分类器将A和B视为正，C和D为负，而图(b)中，A和B是正例，C是负例。在测试阶段，我们将每个分类器的预测与样本编码进行比对，选择距离最短的类别，就像解开谜题一样，揭示出隐藏的类别归属。
线性模型，尽管基础，但其威力不容小觑。它们以其直观的数学形式和强大的预测能力，成为机器学习世界中不可或缺的一环。让我们继续深入探索，领略它们在现实世界中的应用与影响吧！
