【机器学习周志华】专业课考试重点笔记-含试题及答案

【机器学习周志华】专业课考试重点笔记-含试题及答案 机器学习（周志华）教材是目前最经典的机器学习教材之一，对于专业考试和深入理解机器学习原理至关重要。本文旨在梳理核心知识点，并提供部分试题及答案，供复习备考使用。 核心知识点回顾： 本书主要分为监督学习、无监督学习、优化方法和序列模式识别四个部分。监督学习的核心在于模型训练，包括线性回归、逻辑回归、支持向量机（SVM）、决策树、随机森林等。重点理解模型原理、损失函数、梯度下降算法以及过拟合与欠拟合的处理方法。无监督学习则关注于数据本身的结构发现，如聚类算法（K-means, DBSCAN）、降维方法（PCA, t-SNE）。优化方法涵盖了梯度下降、牛顿法等优化算法，理解其收敛性、局部最优问题至关重要。序列模式识别则主要讨论了隐马尔可夫模型（HMM）、马尔可夫随机场（MRF）等算法。 试题及答案（示例）： 问题1： 线性回归模型的损失函数是什么？ 答案： 线性回归模型的损失函数通常是均方误差（Mean Squared Error，MSE），公式为： L(w) = (1/m) Σ(h(xᵢ) - yᵢ)² 问题2： 决策树的剪枝方法主要有哪几种？ 答案： 决策树的剪枝方法主要包括预剪枝和后剪枝。预剪枝在树构建时就考虑剪枝，例如限制树的深度、节点数量等。后剪枝是在模型训练完成后再进行剪枝，例如使用信息增益、基尼系数等指标评估节点的重要性，并删除不重要的节点。 问题3： K-means聚类算法的关键步骤是什么？ 答案： K-means聚类算法的关键步骤包括：1) 随机选择初始的K个质心；2) 将数据集中的每个样本分配到与其距离最近的质心所属的簇；3) 重新计算每个簇的质心，即质心的平均值；4) 重复步骤3，直到质心不再发生变化或达到最大迭代次数。 希望以上笔记和试题能帮助您更好地复习周志华的《机器学习》教材，祝您考试顺利！ 展开