三要素为:模型、策略、算法。
一、模型
在监督学习当中,
我们的目的是学习一个由输入到输出的映射,这个映射就是模型。
一般来说,模型有两种形式,一种是概率模型(条件概率分布),另一种形式是非概率模型(决策函数)。我们根据实际情况和具体的学习方法来决定是用概率模型还是用非概率模型。
二、策略
在介绍策略之前,首先介绍假设空间的概念。假设空间是一集合:由输入空间到输出空间所有映射的集合。 策略的目的是为了让我们找到一个方法,来从众多的假设空间中选择最优的模型。自然而然的,我们想找一个能描述输入到输出最完美。