【机器学习周志华】专业课考试重点笔记-含试题及答案

【机器学习周志华】专业课考试重点笔记-含试题及答案 本笔记聚焦于周志华《机器学习》教材的核心内容，旨在帮助考生高效备考，重点关注考试可能出现的关键知识点。 一、核心概念与算法 考试中，理解监督学习、无监督学习、半监督学习等基础分类至关重要。特别是对以下算法的原理、优缺点、适用场景以及常见问题进行深入理解： 感知机 (Perceptron)：理解线性可分性与线性不可分性，以及感知机学习过程。 线性回归 (Linear Regression)：掌握最小二乘法求解线性回归模型，理解模型参数的含义和意义。 逻辑回归 (Logistic Regression)：理解 Sigmoid 函数的作用，以及逻辑回归模型在二分类问题中的应用。 支持向量机 (SVM)：深入理解 SVM 的核心思想——最大化间隔，掌握核函数的意义与应用。 决策树 (Decision Tree)：理解信息增益、基尼系数等概念，掌握决策树的构建算法。 K近邻算法 (KNN)：理解距离度量方法，以及 KNN 在分类和回归问题中的应用。 朴素贝叶斯 (Naive Bayes)：理解朴素假设，以及朴素贝叶斯在文本分类等问题中的应用。 二、试题及答案（示例） 问题1： 描述感知机的工作原理，并说明其存在的局限性。 答案： 感食机是一种线性分类器，通过计算输入向量与权重向量的点积，判断样本属于哪个类别。其局限性在于只能处理线性可分的数据，对于线性不可分的数据，无法收敛。 问题2： 解释线性回归模型中最小二乘法求解过程。 答案： 最小二乘法是求解线性回归模型参数的常用方法。它通过最小化误差平方和，求解损失函数，进而得到线性回归模型的参数。 问题3： 说明支持向量机中核函数的意义。 答案： 核函数将输入向量映射到高维空间，使得样本在更高维空间中可以线性可分，从而能够利用线性分类器解决非线性问题。 总结： 考试重点在于对核心算法的理解和应用，以及对相关概念的掌握。务必熟悉教材中的关键公式和图表，并尝试解决一些经典的机器学习问题。 展开