Skip to content

Latest commit

 

History

History
51 lines (26 loc) · 2.25 KB

16-17年试题.md

File metadata and controls

51 lines (26 loc) · 2.25 KB

模式识别与机器学习 (2016-2017)

1. 简述模式的概念和它的直观特性,并简要说明模式分类有哪几种主要方法。

2. 假设某研究者在ImageNet数据上使用线性支持向量机来做文本分类任务,请说明在如下情况下分别如何操作才能得到更好的结果,并说明原因。

(1) 训练误差5%,验证误差10%,测试误差10% 。

(2) 训练误差1%,验证误差10%,测试误差10% 。

(3) 训练误差1%,验证误差3%,测试误差10% 。

3. 给定如下概率图模型,其中变量X2为一观测变量,请问变量X1余X4是否独立?并用概率推导之。

4. (1)随机猜测作为一个分类算法是否一定比SVM差?借此阐述你对"No Free Lunch Theorem"的理解。(2)举例阐述你对"Occam's razor"的理解。

5. 详细描述AdaBoost的原理并给出算法。并解释为什么AdaBoost经常可以在训练误差为0后继续训练还可能带来训练误差的继续下降。

6. 用感知器算法求下列模式分类的解向量(取w(1)为零向量)

w1: { (0 0 0)T, (1 0 0)T, (1 0 1)T, (1 1 0)T }

w2: { (0 0 1)T, (0 1 1)T, (0 1 0)T, (1 1 1)T }

7. 设以下模式类别具有正态概率密度函数:\

w1: { (0 0 0)T, (1 0 0)T, (1 0 1)T, (1 1 0)T }

w2: { (0 1 0)T, (0 1 1)T, (0 0 1)T, (1 1 1)T }

若P(w1)=P(w2)=0.5,求这两类模式之间的贝叶斯判别界面的方程式。

8. 假设有如下线性回归问题:

其中y和β是n维向量,X是一个mxn的矩阵,该线性回归问题的参数估计可看作一个后验分布的均值,其先验为高斯分布β~(0,rI),样本产生自高斯分布y~(Xβ,σ2I),其中I为单位矩阵,试推导调控系数λ和方差σ2的关系